Como usar o agente Hermes 100% grátis, com apenas um clique

Autoria: Julio | Lucrar com IA · Assistir no YouTube

Vídeo de autoria do canal indicado, não da IANIA; todos os direitos pertencem ao criador. Transcrição, resumo e tradução gerados automaticamente; o conteúdo no idioma original é preservado na versão em idioma original.

Idioma original: português

Vídeo original: Como usar o Agente Hermes 100% GRATUITO (com apenas 1 Clique) · Canal: Julio | Lucrar com IA · 18:38 · Assistir no YouTube

Tópicos: Agentes de IA, Engenharia de software com IA, Infraestrutura e hardware de IA, Modelos locais e open source, Privacidade e proteção de dados

Resumo

O vídeo mostra como instalar o Hermes Desktop e configurar um modelo de IA local em um Mac Studio com 96 GB de RAM, usando o assistente integrado do Hermes. O apresentador testa o Qwen 3.8 Flash Next na criação de uma calculadora de modelos locais e de um jogo FPS em HTML, observando o tempo de geração e o uso de memória. Os testes mostram que é possível executar o modelo, mas ele consome quase toda a memória disponível e ainda apresenta limitações práticas. Ao final, o apresentador considera modelos locais úteis para estudo e experimentação, mas diz que o custo de entrada ainda é alto para a maioria das pessoas.

Pontos-chave

O Hermes Desktop orienta a instalação e a configuração de um modelo local pelo próprio aplicativo.
O teste foi feito em um Mac Studio com chip M5 Ultra e 96 GB de RAM.
O Qwen 3.8 Flash Next é descrito como um modelo MoE de 180 bilhões de parâmetros, com cerca de 6 bilhões ativados por vez.
O modelo usou entre 87 e 89 GB de memória durante os testes.
A criação de uma calculadora de modelos locais levou cerca de 10 minutos.
O jogo FPS em HTML levou cerca de 25 minutos e teve problemas de controle, como a sensibilidade e o movimento do mouse.
O Hermes usou Llama.cpp como engine; o apresentador menciona MLX como uma possível alternativa para Macs.
O apresentador recomenda modelos menores para uso diário nessa máquina e considera modelos locais mais adequados, por enquanto, a estudo e experimentação.
Privacidade e redução de gastos recorrentes com assinaturas são apontadas como vantagens dos modelos locais.

Capítulos

Início	Capítulo	Resumo
00:00	Apresentação e objetivo do vídeo	O apresentador introduz a proposta de instalar o Hermes e executar um modelo de IA localmente.
01:32	Download e instalação do Hermes Desktop	O vídeo mostra como baixar o aplicativo, instalá-lo e iniciar o assistente de configuração.
03:35	Configuração do modelo local	O apresentador seleciona a opção para configurar o modelo e explica por que o modelo MoE pode rodar na máquina.
05:43	Primeiro teste: calculadora de modelos locais	O Hermes gera uma calculadora em HTML enquanto o apresentador acompanha o tempo de resposta e o uso de memória.
08:48	Avaliação da calculadora e da engine	O apresentador testa a calculadora, compara seus resultados com outra ferramenta e identifica o uso de Llama.cpp.
11:53	Segundo teste: jogo FPS em HTML	O Hermes cria um jogo 3D em HTML, que o apresentador testa e comenta junto com as limitações dos controles.
16:33	Conclusões sobre modelos locais	O apresentador pondera o custo de entrada, os usos atuais e as vantagens de privacidade e controle de custos.

Citações

Está aqui, 89 GB de 96 total. — 07:15

Hermes junto com Qwen 3.8 Flash Next levaram mais ou menos 10 minutos para entregar esse resultado. — 08:17

Levou mais ou menos aqui 25 minutos para ele finalizar. — 13:25

É ótimo para estudo, para experimento; para aplicação no mundo real, ainda não estamos lá. — 17:05

Uma delas é privacidade e também controle de custos. — 18:08

Conceitos e entidades

Hermes Desktop (ferramenta): Aplicativo apresentado no vídeo para instalar e configurar o Hermes e executar modelos localmente.
Hermes (ferramenta): Agente usado no vídeo para configurar modelos locais e gerar arquivos e aplicações a partir de prompts.
Qwen3.8 Flash Next (modelo): Modelo usado nos testes de geração de uma calculadora de modelos locais e de um jogo FPS.
Mac Studio (ferramenta): Computador usado nos testes, equipado, segundo o apresentador, com chip M5 Ultra e 96 GB de RAM.
Nous Research (empresa): Organização identificada no vídeo como criadora e desenvolvedora do Hermes.
Mixture of Experts (conceito): Arquitetura que, segundo a explicação do vídeo, ativa apenas parte dos parâmetros do modelo por vez.
llama.cpp (ferramenta): Engine identificada no vídeo como responsável por executar o modelo localmente.
MLX (ferramenta): Engine baseada na arquitetura e no software da Apple, apresentada como alternativa para executar modelos em Macs.
Quantização (conceito): Técnica associada à configuração do modelo, que no teste foi executado com quantização quatro.
Julio (pessoa): Apresentador do vídeo e responsável pelo canal Julio | Lucrar com IA.

Tradução completa (pt-BR)

00:00 Você provavelmente já viu o que os modelos de ponta são capazes de fazer. Já testei muita coisa e trouxe aqui para vocês demonstrações usando GPT-6 Astra, Opus, Fable, Química 3 e vários outros. Só que, neste vídeo, quero fazer algo completamente diferente, que nunca fiz aqui no canal. Vou mostrar como baixar e instalar o seu agente Hermes de forma 100% local, inclusive executando o modelo de IA localmente na sua máquina. Vou mostrar todo o passo a passo, que é super simples. Você não vai precisar de nenhum conhecimento técnico para seguir o que vou fazer aqui

00:30 agora. Vamos fazer alguns testes do que é possível fazer executando o modelo 100% local na nossa máquina. E, no final do vídeo, vou dar minha opinião sobre se vale a pena ou não investir em uma máquina potente para começar a executar seus modelos localmente. Se esse assunto interessa a você, inscreva-se no nosso canal, deixe seu like e vamos para a tela do computador. Vamos começar o processo do absoluto zero. Inclusive, a máquina que vocês estão vendo agora na tela também é nova, está zerada. Tudo o que trouxe aqui para o canal, se você acompanha os vídeos há algum tempo, tudo o que mostrei,

01:01 as coisas que construímos juntos aqui, foi usando meu MacBook Pro com 8 GB de RAM. Porém, se estamos falando de executar modelos de IA localmente, 8 GB de RAM não servem para praticamente nada. Por isso, adquirimos uma máquina nova, esta que vocês estão vendo agora: o Mac Studio com o chip M5 Ultra e 96 GB de RAM. Agora, sim, conseguimos fazer alguma coisa. Não quer dizer que já podemos criar e usar qualquer modelo de IA que existe por aí. Muito pelo contrário, ainda estamos

01:32 limitados, mas vai dar para fazer muita coisa legal e trazer para vocês. Então, vamos começar o processo. Abra o navegador, procure por Hermes Desktop. É isso que você vai digitar no navegador e apertar Enter. Geralmente, o primeiro link que aparecer é aquele em que você deve clicar para baixar. Aqui, ó, o botão já apareceu, está vendo? Baixar para macOS. No meu caso, ele já identificou qual sistema estamos usando. Nesta tela, é só clicar em Download. Se o sistema correto para a sua máquina não estiver aparecendo aqui em

02:03 cima, é só rolar a tela para baixo e as três opções vão aparecer. Escolha a que faz sentido para a sua máquina. O download foi concluído. É só vir até o arquivo, clicar para abrir, selecionar e clicar no ícone do Hermes, arrastando-o para dentro da pasta Aplicativos. Agora, se você está no Mac, é só fazer a instalação. Se estiver no Windows ou em outro tipo de máquina, talvez já possa pular essa etapa anterior que mostramos. Então, vou clicar no ícone. Ele vai abrir o assistente, o programa que instala as dependências e os pacotes. É só

02:34 clicar aqui, ó, em instalar o Hermes e aguardar o processo terminar. O processo deve levar uns 10 ou 15 minutos, dependendo muito da sua máquina. Então, aguarde até terminar para partirmos para a instalação do modelo. O Hermes foi instalado e, como vocês podem ver, com essa nova versão da harness que eles lançaram, a versão 0.22.2, a própria harness, o próprio Hermes, faz a configuração ou, na verdade, nos conduz por um processo de configuração. Então, ele começa perguntando meu nome, qual é a cor de destaque que quero, além de outras preferências e

03:05 personalizações. Ainda não há nenhuma configuração do modelo. Mas olha só: quando você vem até a opção Welcome e clica nela, aparece aqui, ó, >> [risadas] >>. Ele já analisou minha máquina, identificou qual modelo consigo executar nela e tem esta opção aqui, Setup, em que posso clicar para o próprio Hermes fazer todo o processo para mim: baixar o modelo, carregá-lo na memória da máquina e deixá-lo disponível para começarmos a testar juntos. Também dá para configurar suas assinaturas da OpenAI e da Anthropic. A gente

03:35 não vai abordar isso neste vídeo. Se quiser fazer essa configuração, é só vir aqui, ó, em Settings. Em Settings, role a tela e vá até Providers. Em Providers, você tem a assinatura diretamente pelo portal da Nous Research, que criou e desenvolveu o Hermes. Você pode clicar em Run Models Locally para instalar um modelo local. Também pode expandir a opção em que acabei de clicar e conectar sua assinatura do ChatGPT ou qualquer uma destas outras que você tiver. Voltando aqui, vamos

04:06 clicar novamente em Welcome e em Setup. Essa tela vai abrir para nós e agora vamos clicar neste botão azul, Setup for me. Vamos aguardar o download deste modelo. Enquanto esperamos, vou explicar um pouco por que conseguimos executar este modelo nesta máquina. Eu >> [risadas] >> estou confiando nele. Vamos ver qual é o desempenho deste modelo, porque ele tem o dobro da memória disponível neste Mac Studio, certo? Então, em tese, não deveria ser possível executar o Qwen 3.8 Flash Next. Mas, pelo

04:40 fato de ser um modelo MoE — se você não sabe o que é MoE, significa Mixture of Experts —, ele não carrega, ou seja, não carrega os 180 bilhões de parâmetros de uma só vez quando você envia seu prompt. Ele vai carregando por partes. Então, são 180 bilhões de parâmetros. Em tese, seria necessário o dobro da memória que temos aqui no Mac Studio para executar esse modelo. Mas, por ser um MoE, ele ativa, se não me engano, apenas 6 bilhões de parâmetros por vez, conforme você vai enviando

05:10 as solicitações e os prompts, ele vai ativando mais parâmetros. Não questionei essa decisão do Hermes, então vamos testar, né? Vamos esperar terminar. Quando o modelo estiver disponível, voltamos para fazer os primeiros testes. Já temos o Hermes com o modelo local aqui, ó: Qwen 3.8 Flash Next. Já está executando nosso primeiro teste. Todo o processo de configuração foi concluído. O Qwen já está aqui, ó, executando localmente e disponível. Está com quantização 4, esforço médio e reasoning, né, o raciocínio,

05:43 ativado. Pedi o seguinte: “Constrói para a gente uma calculadora de modelos de IA locais para fazer basicamente o que ele teve um bug… Enfim, para fazer basicamente o que o Hermes acabou de fazer para a gente, sem a parte de configuração e download, né? A gente vai inserir as informações e as especificações de qualquer máquina que quiser, e essa calculadora que ele está criando para a gente vai dizer qual modelo conseguimos executar naquela configuração específica que informarmos.” Neste momento, ele está

06:14 criando todo o arquivo HTML que pedi, em um único arquivo HTML. Nesse primeiro prompt, se você nunca executou modelos locais, ele demora um pouco mais para responder, porque primeiro precisa carregar o modelo, depois processar o prompt, os prompts do sistema e o que você enviou, para só então começar a construir ou responder à sua solicitação. Neste caso, para esse primeiro prompt, ele levou, ó, 1 minuto e 11 segundos para fazer tudo isso que expliquei: carregar o modelo, ler

06:45 o system prompt, o prompt que enviei e gerar essa primeira resposta. Agora, o que ele está fazendo? Está construindo o arquivo HTML que solicitei. Vamos ver se vai conseguir entregar o que pedi para essa calculadora de modelos de IA. Quando terminar, volto para contar quanto tempo levou ao todo para construir e qual será o resultado. Vamos conferir juntos se está funcionando ou não. Caso estejam curiosos para saber quanta memória o Hermes está consumindo com esse modelo, neste momento aqui do

07:15 Mac Studio, está aqui. [risadas] Ó, 89 GB de 96 no total, né? Ou seja, apertado. Aqui está verdinho, mas agora há pouco estava amarelo, tá? E esse número estava em 92 GB. Isso significa que funcionou, ele rodou e já entregou o resultado aqui. A gente já vai conferir para ver se está tudo funcionando, mas o Hermes possivelmente superestimou a capacidade aqui. Ele conseguiu fazer esse modelo caber, mas acho que esse não seria o modelo que eu utilizaria no dia a dia, porque ele vai consumir

07:47 basicamente toda a memória disponível para essa máquina. Para o dia a dia, provavelmente vou usar o Qwen 3.8, com 27 bilhões de parâmetros, que cabe com folga aqui nessa máquina e ainda sobra espaço para utilizar, né, para outras coisas. Então, as automações, os agentes que eu começar a rodar aqui dentro da empresa nessa máquina vão rodar em cima desse outro modelo até eu achar um diferente. Vou começar com esse; depois a gente vai testando e vendo se tem algum que funciona melhor. Temos

08:17 aqui o nosso primeiro resultado, e agora vamos conferir juntos se funcionou, né, se ele gerou algo decente. Visualmente falando, está bom, não tem nada fora do lugar ou visualmente quebrado, conforme vocês podem ver. Em termos de tempo, Hermes junto com Qwen 3.8 Flash Next levaram mais ou menos 10 minutos para entregar esse resultado que vocês estão vendo na tela. Se a gente estivesse rodando um modelo fechado na nuvem, ele levaria basicamente esse mesmo tempo para gerar, dependendo do modelo, claro, né? Se fosse o Opus, aí, enfim, não dá nem para comparar. E para

08:48 você que é mais avançado, já está estudando, talvez até testando alguns modelos locais, se tiver curiosidade para saber qual engine o Hermes está utilizando por baixo dos panos para fazer os cálculos, né, e o modelo conseguir inferir e gerar as respostas, a gente só precisa vir aqui, ó, passar o mouse, e aparece Llama.cpp, conforme vocês podem ver. Então, Llama.cpp é uma engine muito difundida, bastante utilizada, só que não é a melhor opção para rodar no Mac na maioria dos casos. Existe uma engine chamada MLX, construída em cima de toda a arquitetura e do software da Apple, que extrai

09:19 melhores resultados dos modelos. Caso você queira que eu traga vídeos aqui mostrando testes com essa outra engine, comenta aqui para eu saber. Vamos agora fazer o teste, né? Tenho aqui a opção de computador que quero selecionar; vou colocar Apple. Temos aqui a opção de selecionar M1, M2, M3 e M4. Não tem M5. Eu queria fazer um teste super-rápido com M5, só para ter uma ideia, mas tudo bem. Vamos selecionar M4 Max de 40 núcleos de processamento. Vamos colocar, sei lá, 128 GB de RAM.

09:50 Vamos deixar sem GPU dedicada, porque não tem no caso da Apple, e vamos colocar aqui o máximo de janela de contexto para a inferência. Vamos calcular, e ele nos deu aqui como melhor opção, na verdade, a opção para entusiastas; colocou essa opção como vencedora. A melhor opção confortável é o M3 de 32 bilhões de parâmetros, com quantização de 6 bits e 9 tokens por segundo, o que torna o uso ridiculamente ruim. Caso você ainda não tenha testado modelos locais, 9

10:20 tokens por segundo é bem lento, tá? E torna tudo praticamente inutilizável. Eu acho que, para dar… Eu já rodei o Hermes aqui com modelos da Open; na maioria dos casos, foi sempre Open e vai continuar sendo em muitas situações e em muitos vídeos. Quando cai para menos de 30 tokens por segundo, a coisa fica ruim, fica complicado de utilizar. Temos outras opções aqui, mas vamos fazer o seguinte, né? Vamos comparar com uma calculadora online para ver se esses números fazem sentido. Está aqui, coloquei numa

10:51 calculadora online. Também temos o mesmo computador, M4 Max com 40 núcleos e 128 GB de RAM. Em termos de memória, ela já nos deu um número diferente aqui, ó: 546. E possivelmente, tá? Como vimos aqui que não tem M5 nem M6 disponível, talvez a principal falha dessa calculadora seja a qualidade das respostas, por causa de dados desatualizados, né? Aqui temos 546 de largura de banda; o Hermes gerou para a gente apenas 341 GB por segundo. Em termos de velocidade,

11:23 9 tokens por segundo. Se a gente voltar lá na outra, temos aqui… Deixa eu ver se acho exatamente o mesmo modelo, tá? Está aqui, ó: M3 com 32 bilhões de parâmetros, Q6. Temos ele aqui com 5,9 tokens por segundo, que está abaixo dos 9 tokens que o RM gerou para a gente nessa calculadora que ele criou, mas está ali, né, próximo. Vamos dar esse desconto. Então, criou algo funcional para a gente, criou algo que precisa de algumas alterações e correções para dar respostas melhores, mas

11:53 funcionou, funcionou. Vamos agora para o segundo desafio, galera. Dessa vez, vamos subir o nível, subir um pouco mais a barra para esse modelo, tá? E para o RM também. Vamos pedir para ele criar um jogo 3D, um FPS 3D, e também entregar para a gente em um único arquivo HTML. Ele já está carregando o modelo na memória. Na verdade, já fez isso. Neste momento, está lendo o system prompt que mandei para ele, quaisquer arquivos ou recursos de que precise para começar a trazer o resultado para

12:24 a gente. Da mesma forma que fizemos com o outro, vou esperar ele terminar o trabalho, digo para vocês quanto tempo levou para entregar e conferimos juntos o resultado, né? Então, isso aqui é bem mais complexo. Vamos ver se ele vai conseguir entregar para a gente. Vamos checar agora qual é o uso de memória nesse caso. Ele começou aqui, ó; ainda não me respondeu nada. Neste momento, está há mais ou menos cinco minutos e meio raciocinando. Começou a editar um arquivo há um minuto e pouquinho, então vamos ver agora quanta memória está consumindo. Tá

12:55 aqui, ó: dessa vez, 88, 87 gigabytes de memória consumidos, de um total de 96. Não vai chegar a 96, tá? Porque o sistema também precisa de memória para rodar os outros aplicativos e processos que rodam ali por baixo dos panos. Então, ele basicamente está utilizando toda a capacidade do Mac Studio. Temos a confirmação, né? Dá para rodar? Dá. Roda com qualidade? Até roda. Teria que testar também com prompts longos, né, para ver direitinho. Mas, com certeza, não seria a opção de modelo que eu teria rodando no dia a dia.

13:25 O Hermes acabou de finalizar, e a gente já vai conferir o resultado do nosso jogo 3D FPS. O nome dele é Neo Breach. Levou mais ou menos 25 minutos para finalizar. Vamos conferir agora como ficou. Vamos fazer o teste. Aqui temos a tela inicial; na frente, os controles do que preciso fazer: tem sprint para correr, espaço para pular, recarregar, enfim, os controles básicos

13:57 que todo jogo de tiro tem, né? Se você já jogou FPS, sabe isso aqui de cor. Vamos lá. Testando, e vamos ver o que temos aqui, tá? A gente tem essa paradinha aqui, ó. Ah, tá. Acho que o tiro não está funcionando. Acho que é porque a gente precisa andar aqui, ó, pelo chão, para chegar até os bonecos, até os inimigos, no caso. Então, deixa eu andar aqui para ver se… Ih, caramba, é isso mesmo. É isso mesmo.

14:28 >> [risadas] >> É isso mesmo. Só que está muito sensível. Ih, caramba, está muito sensível, cara. Muito sensível. Matei três. Tipo, eu aperto quase nada e ele vai. Aqui, ó. Vou ter que… Caramba, não deu tempo nem de eu virar. Tentar de novo. Tentar de novo. Está chegando aqui. Ui. Meu Deus, vira. Vira. Recarreguei. Ah, ah, meu… Vamos lá novamente.

14:58 Vamos lá, cara. Deixa eu… Cara, o mouse não vira completamente, e eu só consigo matar se chegar bem perto. Preciso chegar bem perto para conseguir matar. E não vira. Não vira. Não vira. Não vira. Tipo, meio que tenho que… Ai, caramba. Eu tenho que… Ah, morri. O [risadas] mouse não está virando completamente. Que ódio. Não, aqui vocês querem pegar os dois

15:29 Juntos, né? Que eu não sou. Aqui, ó. Aqui, ó. Ah. Ai, caramba. Ai, caramba. Mexe esse, esse mouse, pelo amor de Deus. Cara, o mouse não funciona. Cara, o mouse não me ajuda, cara. Ele não vira 360. 360. Matar vários aqui em sequência. Parece que só tem esses outros. Não vira, cara, olha isso. Não consigo matar daquele a distância,

16:01 não, aqui. Pô, aí tem uns quatro aqui que vão querer me encurralar. Aí é sacanagem. Ai, caramba. Olha a vida, cara. A minha vida tá… Pô, o que que foi que eu peguei? Não foi vida, não? Então vamos lá, vamos conseguir. Será que tem mais algum? E sobrou um ainda. >> [música] >> Ai, faltou um, consegui um headshot. Mas

16:33 É isso, galera, deu para vocês entenderem. Eu não consigo passar nem de uma fase aqui. Ai, cara, dá um desconto aí porque eu tô jogando aqui, ó, com esse mouse. Não tem mouse pad aqui, não tem nada. Conforme vocês puderam ver, é possível já criar algumas coisas legais. Eu vou experimentar mais com automações, colocar o Hermes rodando localmente para executar partes aqui do nosso negócio, da agência, e volto aqui com um vídeo de feedback para vocês, se vocês quiserem, né? Então, comentem aqui para eu saber. Existem vantagens e desvantagens de rodar modelos locais.

17:05 Atualmente, ainda não é uma coisa barata de se fazer, né? Tô falando em relação ao custo de entrada para adquirir uma máquina para isso. Claro que, para estudar, testar e começar a aprender, você pode começar com uma placa de vídeo mais baratinha — ou baratinha entre aspas, tá? Mais acessível, né? Não precisa investir o tanto que eu investi aqui. E aí você já consegue começar a criar umas coisas interessantes com modelos menores. É ótimo para estudo, para experimento; para aplicação no mundo real, ainda não estamos lá. Para 99%

17:35 das pessoas, eu diria que ainda não estamos lá. Porém, conforme o hardware, os próprios modelos e as engines forem melhorando, a gente com certeza vai chegar a um mundo em que a IA vai estar rodando localmente no seu celular, no seu relógio, no seu computador. Então, a gente não sabe quanto tempo isso leva, mas com certeza é para esse mundo que a gente tá caminhando. Obviamente, existem várias vantagens de rodar um modelo localmente. Uma delas é a privacidade e também o controle de custos. Embora o custo de entrada seja alto atualmente, você deixa de pagar, ou pelo

18:08 menos reduz, né, a quantidade, o valor que você paga mensalmente por assinaturas de modelos fechados. O que vocês acharam? Comentem aqui para eu saber se vocês curtem esse tipo de conteúdo e se querem ver também outros tipos de aplicação, né? Eu pretendo instalar — ou instalar não, né? — colocar o Hermes para fazer várias coisas dentro da empresa, fazer testes, experimentos. E, se vocês quiserem, eu trago aqui para vocês no canal. Curtiu o conteúdo? Então se inscreve no nosso canal, deixa o seu like. Tem muita coisa vindo também nesse âmbito de modelos locais para este canal. E eu te

18:38 encontro aqui, ó, nesse próximo vídeo. Até lá. >> [música] [música]

Transcrição original

[00:00] Você provavelmente já viu que os modelos de ponta são capazes de fazer. Eu já testei muita coisa, já trouxe aqui no canal para vocês demonstrações e usando o GPT-6 Astra, Opus, Fable, Química 3 e vários outros. Só que nesse vídeo eu quero fazer uma coisa completamente diferente que eu nunca fiz aqui no canal. Vou te mostrar como fazer o download e instalação do seu agente Hermes de forma 100% local, inclusive rodando o modelo de IA localmente na sua máquina. Vou te mostrar todo o passo a passo que é super simples, você não vai precisar de conhecimento técnico nenhum para seguir o que eu vou fazer aqui

[00:30] agora. Vamos fazer alguns testes do que que é possível fazer rodando o modelo ali 100% local na nossa máquina. E ao final do vídeo eu vou deixar minha opinião falando se vale a pena ou não para você investir numa máquina potente para você começar a rodar seus modelos localmente. Se esse assunto te interessa, então se inscreva aqui no nosso canal, deixe seu like e vamos para a tela do computador. Dando início ao processo do absoluto zero, inclusive a máquina também que vocês estão vendo agora na tela é uma máquina nova, zerada. Tudo que eu trouxe aqui no canal, se você já acompanha os vídeos há um certo tempo, tudo que eu mostrei,

[01:01] coisas que a gente construiu juntos aqui, foi utilizando meu MacBook Pro com 8 GB de RAM. Porém, se a gente tá falando de rodar modelos de IA localmente, 8 GB de RAM não serve para praticamente nada. Por isso a gente adquiriu uma nova máquina, que é essa daqui que vocês estão vendo agora, o Mac Studio com o chip M5 Ultra e ele tem aqui 96 GB de RAM. Agora sim a gente consegue fazer alguma coisa. Não é que a gente já consegue criar e utilizar qualquer modelo de IA que existe por aí. Muito pelo contrário, ainda estamos

[01:32] limitados, mas vai dar para fazer muita coisa legal e trazer aqui para vocês. Então vamos agora começar o processo, você vai abrir o seu navegador e vai procurar pelo Hermes Desktop. É isso que você vai digitar no seu navegador e dar um enter. Geralmente o primeiro link que aparecer é o link que você vai clicar para fazer o download. Aqui ó, já aparece o botão, tá vendo? Baixar para o macOS. No meu caso ele já identificou, né, qual o sistema que a gente tá utilizando. Aqui nessa tela é só clicar em download. Se não tiver aparecendo o sistema correto pra sua máquina aqui em

[02:03] cima, é só rolar a tela aqui, ó, e já aparece as três opções. Você escolhe a que faz sentido pra sua máquina. Download foi concluído, é só você vir aqui no arquivo, clica pra abrir e seleciona e clica no ícone do Hermes e arrasta pra dentro da pasta aplicações. Agora, se você tá no Mac, é só de fato fazer a instalação, né? Se você tiver no Windows ou outro tipo de máquina, talvez você já pule esse passo anterior que a gente mostrou. Então vou clicar aqui no ícone, ele vai abrir pra mim o wizard, né, o programa que instala de fato as dependências, os pacotes. Então é só

[02:34] clicar aqui, ó, instalar Hermes e aguardar esse processo finalizar. Processo deve levar ali uns 10, 15 minutos, depende muito da sua máquina. Então aguarda ele finalizar pra gente partir de fato pra instalação do modelo. Hermes foi instalado e como vocês podem ver, com essa nova versão que eles lançaram da Harness, nesse caso é a versão 0.22.2, a própria Harness, o próprio Hermes faz a configuração ou conduz a gente, na verdade, por um processo de configuração. Então ele começa a perguntar qual que é o meu nome, qual que é a code de destaque que eu quero, mais coisas de preferências e

[03:05] personalização, nada de configuração ainda de modelo. Só que olha só, quando você vem aqui na opção welcome, se você clicar nela, aqui já aparece, ó, >> [risadas] >> ele já leu a minha máquina, já identificou qual modelo eu consigo rodar nela e tem essa opção aqui setup pra eu clicar nela e o próprio Hermes fazer todo o processo pra mim. Baixar o modelo, carregar esse modelo na memória da máquina e deixar ele disponível pra gente começar a testar juntos. Dá pra você configurar também as suas assinaturas Open AI e Entropic, a gente

[03:35] não vai cobrir isso nesse vídeo. Caso você queira fazer essa configuração, é só você vir aqui, ó, em configurações, aqui em configurações, você rola e vem pra providers e aqui em providers você tem a assinatura direta pelo portal da Nous Research, que é quem criou e desenvolveu o o Hermes, você pode clicar aqui em Run Models Locally para fazer a instalação de modelo local e você pode também expandir onde eu acabei de clicar e conectar aqui sua assinatura do chat GPT ou qualquer uma dessas outras aqui que você tem. Voltando aqui, a gente vai

[04:06] clicar agora novamente em Welcome e vamos clicar em Setup. Ele vai abrir essa tela aqui para a gente e a gente agora vai clicar nesse botão azul Setup for me. Vamos agora aguardar o download aqui desse modelo. Enquanto a gente aguarda, eu vou explicar um pouquinho para vocês por que que a gente consegue rodar esse modelo aqui nessa máquina. Eu >> [risadas] >> tô confiando nele. A gente vai ver qual que é a performance desse modelo, porque esse modelo tem o dobro de tamanho da quantidade de memória aqui que a gente tem disponível nesse Mac Studio, tá? Então, em tese, não deveria ser possível rodar o Qwen 3.8 Flash Next. Mas, pelo

[04:40] fato de ele ser um modelo MOS, se você não sabe o que que é MOE, significa Mixture of Experts, ele não carrega, o que traduzindo significa que ele não carrega os 180 bilhões de parâmetros de uma vez, quando você manda ali o seu prompt. Ele vai carregando por partes. Então, são 180 bilhões de parâmetros, em tese, seria necessário o dobro de memória que a gente tem aqui no Mac Studio para rodar esse modelo, mas pelo fato de ele ser um MOE, ele só ativa, se não me engano, 6 bilhões de parâmetros ali por vez, conforme você vai mandando

[05:10] as solicitações e os prompts, ele vai atirando ativando mais parâmetros. Não questionei essa decisão do Hermes, então, vamos testar, né? Vamos aguardar ele finalizar. Quando tiver com o modelo disponível, a gente volta para fazer os primeiros testes. Já temos o Hermes com o modelo local aqui, ó, Qwen 3.8 Flash Next, já está rodando nosso primeiro teste. Todo o processo de configuração foi finalizado. O Qwen já tá aqui, ó, rodando localmente, disponível. Ele tá com quantização quatro, no esforço médio, com o reasoning, né, o raciocínio

[05:43] ligado. Eu pedi para ele o seguinte: “Constrói para a gente um calculador, uma calculadora de modelos de IA locais para fazer basicamente o que ele teve um bug. Enfim, fazer basicamente o que o Hermes acabou de fazer para a gente sem a parte de configuração e download, né? A gente vai em colocar a informação, as especificações de qualquer máquina que a gente quiser e essa calculadora que ele está criando aqui para a gente vai dizer qual que é o modelo que a gente consegue rodar nessa configuração específica que a gente informar. Ele está nesse momento

[06:14] criando aqui todo o arquivo HTML que eu pedi que ele fizesse em um arquivo HTML único. Para esse primeiro prompt, se você nunca rodou modelos locais, ele leva um tempinho a mais para responder porque ele precisa primeiro carregar o modelo, depois ele precisa processar o prompt, os prompts do sistema e o que você mandou para só aí ele começar a construir ou responder a sua solicitação. Nesse caso, o primeiro prompt aqui, ele levou, ó, 1 minuto e 11 segundos para fazer tudo isso que eu falei para vocês, carregar o modelo, ler

[06:45] o system prompt, o prompt que eu mandei e enviar essa primeira resposta. Agora, o que que ele está fazendo? Ele está construindo para a gente o arquivo HTML que eu solicitei e vamos ver se ele vai conseguir entregar isso que eu pedi para ele, nessa calculadora de modelos de IA. Quando ele finalizar, eu volto para vocês com o tempo total que ele levou para construir e qual que ele vai ser o resultado, né? A gente vai conferir junto se está funcionando ou não. Caso vocês estejam curiosos para saber quanto de memória o Hermes com esse modelo está consumindo, né, nesse momento aqui do

[07:15] Mac Studio, está aqui, [risadas] ó, 89 GB de 96 total, né? Ou seja, apertado. Aqui está verdinho, mas agora pouco estava amarelo, tá? E esse número estava em 92 GB. Isso significa que funcionou, ele rodou, já entregou o resultado aqui, a gente já vai conferir para ver se está tudo funcionando, mas o Hermes, possivelmente, ele superestimou aqui a capacidade, ele conseguiu fazer caber esse modelo, mas eu acho que esse não seria o modelo que eu utilizaria no dia a dia por conta que ele vai consumir

[07:47] aqui basicamente toda a memória disponível para essa máquina. Para o dia a dia, provavelmente eu vou ali de Qwen 3.8, 27 bilhões de parâmetros que cabe com folga aqui nessa máquina e ainda sobra espaço para utilizar, né, para outras coisas. Então, as automações, os agentes que eu começar a rodar aqui dentro da empresa nessa máquina, eles vão rodar em cima desse outro modelo até eu achar um um diferente. Vou começar com esse, depois a gente vai testando e vendo se tem algum que funciona melhor. Temos

[08:17] aqui o nosso primeiro resultado e a gente vai agora conferir juntos se funcionou, né, se ele gerou aqui algo decente. Visualmente falando, tá bom, não tem nada fora do lugar ou visualmente quebrado, conforme vocês podem ver. E em termos de tempo, Hermes junto com Qwen 3.8 Flash Next levaram mais ou menos 10 minutos para entregar esse resultado aqui que vocês estão vendo na tela. O que se a gente tivesse rodando um modelo fechado ali na nuvem, ele levaria basicamente esse mesmo tempo aqui para gerar, a dependendo do modelo, claro, né? Se fosse o Opus, aí a gente, enfim, não dá nem para comparar. E para

[08:48] você que é mais avançado, já tá aí estudando, talvez até testando alguns modelos locais, se tiver curioso para saber qual a engine que o Hermes tá utilizando por baixo dos panos aqui para fazer os cálculos, né, e o modelo conseguir inferir, gerar as respostas, a gente só precisa vir aqui, ó, passar o mouse e ele aparece Llama.cpp, conforme vocês podem ver. Então, Llama.cpp é uma engine muito difundida, bastante utilizada, só que não é a melhor opção para rodar no Mac na maioria dos casos. Existe uma engine que é a MLX, que ela é construída em cima de toda a arquitetura e do software da Apple, que extrai

[09:19] melhores resultados dos modelos e caso você queira que eu traga vídeos aqui mostrando testes com essa outra engine, comenta aqui para eu saber. Vamos agora fazer o teste, né? Eu tenho aqui a opção de computador que eu quero selecionar, vou colocar Apple. A gente tem aqui a opção de selecionar M1, 2, 3 e 4. Não tem M5, eu queria fazer um testezinho super rápido com M5 só para ter uma ideia, mas tudo bem. Vamos selecionar M4 Max de 40 núcleos além de processamento. A gente vai colocar, sei lá, 128 GB de RAM.

[09:50] Vamos deixar sem GPU dedicada porque não tem no caso do da Apple e vamos colocar o máximo aqui de janela de contexto na no caso da inferência. Vamos calcular e ele deu para a gente aqui como a melhor opção, na verdade, o entusiasta, uma opção de entusiasta, ele colocou como se fosse o vencedor. A melhor opção confortável com em 3 de 32 bilhões de parâmetros com quantização de 6 bits e 9 tokens por segundo, o que o que torna o uso ridiculamente ruim. Caso você não tenha testado ainda modelos locais, 9

[10:20] tokens por segundo é bem lento, tá? E torna até o a coisa toda inutilizável assim. Eu acho que para dar eu já rodei o Hermes aqui com modelos do Open na maioria dos casos foi sempre Open e vai continuar também sendo em muitas situações e muitos vídeos. Quando baixa para menos de 30 tokens por segundo, a coisa fica ruim, fica complicado de utilizar. Temos outras opções aqui, mas vamos fazer o seguinte, né? Vamos comparar com uma calculadora online para a gente ver se esses números aqui fazem sentido. Tá aqui, coloquei numa

[10:51] calculadora online, a gente tem também o mesmo computador M4 Max com 40 núcleos, 128 GB de RAM. Em termos de memória ele já deu um número diferente aqui para a gente, ó, 546 e possivelmente, tá, como a gente viu aqui que não tem o M 5, né, o M6 disponível, talvez a principal falha aqui dessa calculadora seja a qualidade das respostas, dados, né, desatualizados. Aqui a gente tem 546 de largura de banda, aqui o Hermes gerou para a gente dá apenas 341 GB por segundo. Em termos de velocidade,

[11:23] 9 tokens por segundo, se a gente voltar lá na outra, temos aqui, deixa eu ver se eu acho exatamente o mesmo modelo, tá? Tá ele aqui, ó, com em 3 de 32 bilhões de parâmetros, Q6, temos ele aqui com 5.9 tokens por segundo, que tá abaixo aqui do que o RM gerou pra gente nessa calculadora que ele criou, ah, 9 tokens, mas tá ali, né, próximo, vamos dar esse desconto. Então, criou algo funcional pra gente, criou algo que precisa aqui de algumas alterações e correções pra que ele dê respostas melhores, mas

[11:53] funcionou, funcionou. Vamos agora pro segundo desafio, galera, a gente dessa vez vai subir o nível aqui, subir a barra um pouco mais pra esse modelo, tá? E pro RM também. Vamos pedir pra ele criar um jogo 3D, um FPS 3D, também entregar pra gente num único arquivo HTML, ele já tá aqui carregando o modelo na memória, na verdade já fez isso, tá nesse momento lendo o system prompt, prompt aqui que eu mandei pra ele, qualquer que seja as, os arquivos, as, os, os resources que ele precise pra começar trazer aqui o resultado pra

[12:24] gente. Da mesma forma que a gente fez com o outro, vou esperar ele terminar o trabalho, falo pra vocês quanto tempo ele levou pra entregar e a gente confere juntos o resultado, né? Então, isso aqui é bem mais complexo, vamos ver se ele vai conseguir entregar pra gente. Vamos checar agora qual que é o uso de memória nesse caso, ele começou aqui, ó, não me respondeu nada ainda, ele só tá aqui nesse momento, 5 minutos e meio, mais ou menos aqui, tá raciocinando, começou a editar aqui um arquivo faz um minuto e pouquinho, então a gente vai ver agora quanto de memória ele tá consumindo. Tá

[12:55] aqui, ó, dessa vez, 88, 87 também gigabytes de memória consumidas do total de 96, não vai bater nunca aqui nesse 96, tá? Porque o sistema precisa de memória também pra rodar as outras aplicações e e processos que rodam ali por baixo dos panos, então, ele basicamente tá utilizando toda a capacidade do Mac Studio. Então, a gente tem a confirmação, né? Dá pra rodar? Dá. Roda com qualidade? Até roda, teria que testar em com prompts prompts longos também, né, pra a ver

[13:25] direitinho, Mas não seria confirmadamente aqui, não seria a opção de modelo que eu teria rodando no dia a dia. O Ams acabou de finalizar e a gente já vai conferir o resultado do nosso jogo 3D FPS. Tá aqui o nome dele Neo Neo Breach. Levou mais ou menos aqui 25 minutos para ele finalizar. Vamos conferir agora como que ficou. Vamos agora fazer o teste. Aqui tem a nossa tela inicial, na frente os controles do que que eu preciso fazer, tem sprint para correr, espaço para pular, carregar, enfim, os controles básicos

[13:57] que, né, todo jogo de tiro, se você já jogou FPS, você sabe isso aqui decoradinho aí. Vamos lá. Testando e vamos ver o que que temos aqui, tá? A gente tem esse essa paradinha aqui, ó. Ah, tá. Eu eu acho que não tá funcionando o tiro. Eu acho que é porque a gente precisa encon, tipo, andar aqui, ó, nesse chão para chegar até os bonecos, até os inimigos, no caso. Então, deixa eu andar aqui para ver se. Ih, caramba, é isso mesmo. É isso mesmo.

[14:28] >> [risadas] >> É isso mesmo. Só que tá muito sensível. Ih, caramba, tem que Tá muito sensível, cara. Muito sensível. Matei três. Tipo, eu eu aperto quase nada e ele ele vai. Aqui, ó. Vou ter que Caramba, não deu tempo nem eu virar. Tentar de novo. Tentar de novo. Aqui tá chegando. Ui. Meu Deus, vira. Vira. Carreguei. Ah, ah, meu Vamos lá novamente.

[14:58] Vamos lá, cara. Deixa eu Cara, o mouse ele não vira todo e eu só consigo matar se eu chegar bem perto. Eu preciso chegar bem perto para conseguir matar. E não vira. Não vira. Não vira. Não vira. Tipo, eu meio que tenho que Ai, caramba. Eu eu tenho que Ah, morri. O [risadas] mouse não tá virando todo. Que ódio. Não, aqui vocês querem pegar os dois

[15:29] juntos, né? Que eu não sou. Aqui, ó. Aqui, ó. Ah. Ai, caramba. Ai, caramba. Me- mexe esse, esse mouse, pelo amor de Deus. Cara, o mouse não funciona, o cara, o mouse não, não me não me ajuda esse mouse, cara. Ele não vira 360. 360. Matar vários aqui em sequência. Parece só tem esses outros. Não vira, cara, olha isso. Não consigo matar daquele a distância,

[16:01] não, aqui. Pô, aí tem uns quatro aqui que vão querer me encurralar. Aí, aí é sacanagem. Ai, caramba. Olha a vida, cara. A minha vida tá Pô, o que que foi que eu peguei? Não foi vida, não? Então vamos lá, vamos conseguir. Será que tem mais algum? E sobrou um ainda. >> [música] >> Ai, faltou um, consegui um headshot. Mas

[16:33] é isso, galera, deu para vocês entenderem. Eu não consigo passar nem de uma fase aqui. Ai, cara, dá um desconto aí porque eu tô jogando aqui, ó, com esse mouse, não tem mouse pad aqui, não tem nada. Conforme vocês puderam ver, não é, é possível já criar algumas coisas legais. Eu vou experimentar mais com automações, colocar o Hermes rodando localmente para executar, né, partes aqui do nosso negócio, da agência, e volto aqui com um vídeo feedback para vocês, se vocês quiserem, né? Então, comentem aqui para eu saber. Existe, né, as vantagens e desvantagens de rodar modelos locais.

[17:05] Atualmente ainda não é uma coisa barata de se fazer, né? Eu tô falando em relação ao custo de entrada de você adquirir uma máquina para isso. Claro que para estudo, né, você ali testar e começar a aprender, você pode começar com uma placa de vídeo mais baratinha, ou baratinha entre aspas, tá? Mais acessível, né? Não precisa investir o tanto que eu investi aqui. E aí você já consegue começar a criar umas coisas interessantes com modelos menores. É ótimo para estudo, para experimento, para aplicação no mundo real, ainda não estamos lá. Para 99%

[17:35] das pessoas, eu diria que não estamos lá ainda. Porém, conforme o hardware, os próprios modelos e as engines forem melhorando, a gente com certeza vai chegar no mundo em que a IA vai estar rodando localmente no seu celular, no seu relógio, no seu computador. Então a gente não sabe, né, quanto tempo isso leva, mas com certeza é para esse mundo aí que a gente tá caminhando. Obviamente, existem várias vantagens de rodar um modelo localmente. Uma delas é privacidade e também controle de custos. Embora o custo de entrada seja alto atualmente, você deixa de pagar ou pelo

[18:08] menos reduz, né, a quantidade, o valor ali que você paga mensalmente por assinaturas de modelos fechados. Que que vocês acharam? Comenta aqui para eu saber se vocês curtem esse tipo de conteúdo e se vocês querem ver também outros tipos de aplicação, né? Eu pretendo instalar, ou instalar não, né? Colocar o Hermes para fazer várias coisas dentro da empresa, fazer testes, experimentos. E se vocês quiserem, eu trago aqui para vocês no canal. Curtiu o conteúdo? Então se inscreve no nosso canal, deixa o seu like. Tem muita coisa vindo também nesse âmbito agora de modelos locais para este canal. E eu te

[18:38] encontro aqui, ó, nesse próximo vídeo. Até lá. >> [música] [música]