Como usar o Agente Hermes 100% GRATUITO (com apenas 1 Clique)

Author: Julio | Lucrar com IA · Watch on YouTube

Video authored by the channel shown, not by IANIA; all rights belong to the creator. Transcript and summary generated automatically; the original-language content is preserved.

Original language: Portuguese

Original video: Como usar o Agente Hermes 100% GRATUITO (com apenas 1 Clique) · Channel: Julio | Lucrar com IA · 18:38 · Watch on YouTube

Topics: AI agents, Software engineering with AI, AI infrastructure and hardware, Local and open-source models, Privacy and data protection

Summary

O vídeo mostra como instalar o Hermes Desktop e configurar um modelo de IA local em um Mac Studio com 96 GB de RAM, usando o assistente integrado do Hermes. O apresentador testa o Qwen 3.8 Flash Next na criação de uma calculadora de modelos locais e de um jogo FPS em HTML, observando o tempo de geração e o uso de memória. Os testes mostram que é possível executar o modelo, mas ele consome quase toda a memória disponível e ainda apresenta limitações práticas. Ao final, o apresentador considera modelos locais úteis para estudo e experimentação, mas diz que o custo de entrada ainda é alto para a maioria das pessoas.

Key points

O Hermes Desktop orienta a instalação e a configuração de um modelo local pelo próprio aplicativo.
O teste foi feito em um Mac Studio com chip M5 Ultra e 96 GB de RAM.
O Qwen 3.8 Flash Next é descrito como um modelo MoE de 180 bilhões de parâmetros, com cerca de 6 bilhões ativados por vez.
O modelo usou entre 87 e 89 GB de memória durante os testes.
A criação de uma calculadora de modelos locais levou cerca de 10 minutos.
O jogo FPS em HTML levou cerca de 25 minutos e teve problemas de controle, como a sensibilidade e o movimento do mouse.
O Hermes usou Llama.cpp como engine; o apresentador menciona MLX como uma possível alternativa para Macs.
O apresentador recomenda modelos menores para uso diário nessa máquina e considera modelos locais mais adequados, por enquanto, a estudo e experimentação.
Privacidade e redução de gastos recorrentes com assinaturas são apontadas como vantagens dos modelos locais.

Chapters

Start	Chapter	Summary
00:00	Apresentação e objetivo do vídeo	O apresentador introduz a proposta de instalar o Hermes e executar um modelo de IA localmente.
01:32	Download e instalação do Hermes Desktop	O vídeo mostra como baixar o aplicativo, instalá-lo e iniciar o assistente de configuração.
03:35	Configuração do modelo local	O apresentador seleciona a opção para configurar o modelo e explica por que o modelo MoE pode rodar na máquina.
05:43	Primeiro teste: calculadora de modelos locais	O Hermes gera uma calculadora em HTML enquanto o apresentador acompanha o tempo de resposta e o uso de memória.
08:48	Avaliação da calculadora e da engine	O apresentador testa a calculadora, compara seus resultados com outra ferramenta e identifica o uso de Llama.cpp.
11:53	Segundo teste: jogo FPS em HTML	O Hermes cria um jogo 3D em HTML, que o apresentador testa e comenta junto com as limitações dos controles.
16:33	Conclusões sobre modelos locais	O apresentador pondera o custo de entrada, os usos atuais e as vantagens de privacidade e controle de custos.

Quotes

Está aqui, 89 GB de 96 total. — 07:15

Hermes junto com Qwen 3.8 Flash Next levaram mais ou menos 10 minutos para entregar esse resultado. — 08:17

Levou mais ou menos aqui 25 minutos para ele finalizar. — 13:25

É ótimo para estudo, para experimento; para aplicação no mundo real, ainda não estamos lá. — 17:05

Uma delas é privacidade e também controle de custos. — 18:08

Concepts and entities

Hermes Desktop, Hermes, Qwen3.8 Flash Next, Mac Studio, Nous Research, Mixture of Experts, llama.cpp, MLX, Quantização, Julio

Full transcript (original language)

00:00 Você provavelmente já viu que os modelos de ponta são capazes de fazer. Eu já testei muita coisa, já trouxe aqui no canal para vocês demonstrações e usando o GPT-6 Astra, Opus, Fable, Química 3 e vários outros. Só que nesse vídeo eu quero fazer uma coisa completamente diferente que eu nunca fiz aqui no canal. Vou te mostrar como fazer o download e instalação do seu agente Hermes de forma 100% local, inclusive rodando o modelo de IA localmente na sua máquina. Vou te mostrar todo o passo a passo que é super simples, você não vai precisar de conhecimento técnico nenhum para seguir o que eu vou fazer aqui

00:30 agora. Vamos fazer alguns testes do que que é possível fazer rodando o modelo ali 100% local na nossa máquina. E ao final do vídeo eu vou deixar minha opinião falando se vale a pena ou não para você investir numa máquina potente para você começar a rodar seus modelos localmente. Se esse assunto te interessa, então se inscreva aqui no nosso canal, deixe seu like e vamos para a tela do computador. Dando início ao processo do absoluto zero, inclusive a máquina também que vocês estão vendo agora na tela é uma máquina nova, zerada. Tudo que eu trouxe aqui no canal, se você já acompanha os vídeos há um certo tempo, tudo que eu mostrei,

01:01 coisas que a gente construiu juntos aqui, foi utilizando meu MacBook Pro com 8 GB de RAM. Porém, se a gente tá falando de rodar modelos de IA localmente, 8 GB de RAM não serve para praticamente nada. Por isso a gente adquiriu uma nova máquina, que é essa daqui que vocês estão vendo agora, o Mac Studio com o chip M5 Ultra e ele tem aqui 96 GB de RAM. Agora sim a gente consegue fazer alguma coisa. Não é que a gente já consegue criar e utilizar qualquer modelo de IA que existe por aí. Muito pelo contrário, ainda estamos

01:32 limitados, mas vai dar para fazer muita coisa legal e trazer aqui para vocês. Então vamos agora começar o processo, você vai abrir o seu navegador e vai procurar pelo Hermes Desktop. É isso que você vai digitar no seu navegador e dar um enter. Geralmente o primeiro link que aparecer é o link que você vai clicar para fazer o download. Aqui ó, já aparece o botão, tá vendo? Baixar para o macOS. No meu caso ele já identificou, né, qual o sistema que a gente tá utilizando. Aqui nessa tela é só clicar em download. Se não tiver aparecendo o sistema correto pra sua máquina aqui em

02:03 cima, é só rolar a tela aqui, ó, e já aparece as três opções. Você escolhe a que faz sentido pra sua máquina. Download foi concluído, é só você vir aqui no arquivo, clica pra abrir e seleciona e clica no ícone do Hermes e arrasta pra dentro da pasta aplicações. Agora, se você tá no Mac, é só de fato fazer a instalação, né? Se você tiver no Windows ou outro tipo de máquina, talvez você já pule esse passo anterior que a gente mostrou. Então vou clicar aqui no ícone, ele vai abrir pra mim o wizard, né, o programa que instala de fato as dependências, os pacotes. Então é só

02:34 clicar aqui, ó, instalar Hermes e aguardar esse processo finalizar. Processo deve levar ali uns 10, 15 minutos, depende muito da sua máquina. Então aguarda ele finalizar pra gente partir de fato pra instalação do modelo. Hermes foi instalado e como vocês podem ver, com essa nova versão que eles lançaram da Harness, nesse caso é a versão 0.22.2, a própria Harness, o próprio Hermes faz a configuração ou conduz a gente, na verdade, por um processo de configuração. Então ele começa a perguntar qual que é o meu nome, qual que é a code de destaque que eu quero, mais coisas de preferências e

03:05 personalização, nada de configuração ainda de modelo. Só que olha só, quando você vem aqui na opção welcome, se você clicar nela, aqui já aparece, ó, >> [risadas] >> ele já leu a minha máquina, já identificou qual modelo eu consigo rodar nela e tem essa opção aqui setup pra eu clicar nela e o próprio Hermes fazer todo o processo pra mim. Baixar o modelo, carregar esse modelo na memória da máquina e deixar ele disponível pra gente começar a testar juntos. Dá pra você configurar também as suas assinaturas Open AI e Entropic, a gente

03:35 não vai cobrir isso nesse vídeo. Caso você queira fazer essa configuração, é só você vir aqui, ó, em configurações, aqui em configurações, você rola e vem pra providers e aqui em providers você tem a assinatura direta pelo portal da Nous Research, que é quem criou e desenvolveu o o Hermes, você pode clicar aqui em Run Models Locally para fazer a instalação de modelo local e você pode também expandir onde eu acabei de clicar e conectar aqui sua assinatura do chat GPT ou qualquer uma dessas outras aqui que você tem. Voltando aqui, a gente vai

04:06 clicar agora novamente em Welcome e vamos clicar em Setup. Ele vai abrir essa tela aqui para a gente e a gente agora vai clicar nesse botão azul Setup for me. Vamos agora aguardar o download aqui desse modelo. Enquanto a gente aguarda, eu vou explicar um pouquinho para vocês por que que a gente consegue rodar esse modelo aqui nessa máquina. Eu >> [risadas] >> tô confiando nele. A gente vai ver qual que é a performance desse modelo, porque esse modelo tem o dobro de tamanho da quantidade de memória aqui que a gente tem disponível nesse Mac Studio, tá? Então, em tese, não deveria ser possível rodar o Qwen 3.8 Flash Next. Mas, pelo

04:40 fato de ele ser um modelo MOS, se você não sabe o que que é MOE, significa Mixture of Experts, ele não carrega, o que traduzindo significa que ele não carrega os 180 bilhões de parâmetros de uma vez, quando você manda ali o seu prompt. Ele vai carregando por partes. Então, são 180 bilhões de parâmetros, em tese, seria necessário o dobro de memória que a gente tem aqui no Mac Studio para rodar esse modelo, mas pelo fato de ele ser um MOE, ele só ativa, se não me engano, 6 bilhões de parâmetros ali por vez, conforme você vai mandando

05:10 as solicitações e os prompts, ele vai atirando ativando mais parâmetros. Não questionei essa decisão do Hermes, então, vamos testar, né? Vamos aguardar ele finalizar. Quando tiver com o modelo disponível, a gente volta para fazer os primeiros testes. Já temos o Hermes com o modelo local aqui, ó, Qwen 3.8 Flash Next, já está rodando nosso primeiro teste. Todo o processo de configuração foi finalizado. O Qwen já tá aqui, ó, rodando localmente, disponível. Ele tá com quantização quatro, no esforço médio, com o reasoning, né, o raciocínio

05:43 ligado. Eu pedi para ele o seguinte: “Constrói para a gente um calculador, uma calculadora de modelos de IA locais para fazer basicamente o que ele teve um bug. Enfim, fazer basicamente o que o Hermes acabou de fazer para a gente sem a parte de configuração e download, né? A gente vai em colocar a informação, as especificações de qualquer máquina que a gente quiser e essa calculadora que ele está criando aqui para a gente vai dizer qual que é o modelo que a gente consegue rodar nessa configuração específica que a gente informar. Ele está nesse momento

06:14 criando aqui todo o arquivo HTML que eu pedi que ele fizesse em um arquivo HTML único. Para esse primeiro prompt, se você nunca rodou modelos locais, ele leva um tempinho a mais para responder porque ele precisa primeiro carregar o modelo, depois ele precisa processar o prompt, os prompts do sistema e o que você mandou para só aí ele começar a construir ou responder a sua solicitação. Nesse caso, o primeiro prompt aqui, ele levou, ó, 1 minuto e 11 segundos para fazer tudo isso que eu falei para vocês, carregar o modelo, ler

06:45 o system prompt, o prompt que eu mandei e enviar essa primeira resposta. Agora, o que que ele está fazendo? Ele está construindo para a gente o arquivo HTML que eu solicitei e vamos ver se ele vai conseguir entregar isso que eu pedi para ele, nessa calculadora de modelos de IA. Quando ele finalizar, eu volto para vocês com o tempo total que ele levou para construir e qual que ele vai ser o resultado, né? A gente vai conferir junto se está funcionando ou não. Caso vocês estejam curiosos para saber quanto de memória o Hermes com esse modelo está consumindo, né, nesse momento aqui do

07:15 Mac Studio, está aqui, [risadas] ó, 89 GB de 96 total, né? Ou seja, apertado. Aqui está verdinho, mas agora pouco estava amarelo, tá? E esse número estava em 92 GB. Isso significa que funcionou, ele rodou, já entregou o resultado aqui, a gente já vai conferir para ver se está tudo funcionando, mas o Hermes, possivelmente, ele superestimou aqui a capacidade, ele conseguiu fazer caber esse modelo, mas eu acho que esse não seria o modelo que eu utilizaria no dia a dia por conta que ele vai consumir

07:47 aqui basicamente toda a memória disponível para essa máquina. Para o dia a dia, provavelmente eu vou ali de Qwen 3.8, 27 bilhões de parâmetros que cabe com folga aqui nessa máquina e ainda sobra espaço para utilizar, né, para outras coisas. Então, as automações, os agentes que eu começar a rodar aqui dentro da empresa nessa máquina, eles vão rodar em cima desse outro modelo até eu achar um um diferente. Vou começar com esse, depois a gente vai testando e vendo se tem algum que funciona melhor. Temos

08:17 aqui o nosso primeiro resultado e a gente vai agora conferir juntos se funcionou, né, se ele gerou aqui algo decente. Visualmente falando, tá bom, não tem nada fora do lugar ou visualmente quebrado, conforme vocês podem ver. E em termos de tempo, Hermes junto com Qwen 3.8 Flash Next levaram mais ou menos 10 minutos para entregar esse resultado aqui que vocês estão vendo na tela. O que se a gente tivesse rodando um modelo fechado ali na nuvem, ele levaria basicamente esse mesmo tempo aqui para gerar, a dependendo do modelo, claro, né? Se fosse o Opus, aí a gente, enfim, não dá nem para comparar. E para

08:48 você que é mais avançado, já tá aí estudando, talvez até testando alguns modelos locais, se tiver curioso para saber qual a engine que o Hermes tá utilizando por baixo dos panos aqui para fazer os cálculos, né, e o modelo conseguir inferir, gerar as respostas, a gente só precisa vir aqui, ó, passar o mouse e ele aparece Llama.cpp, conforme vocês podem ver. Então, Llama.cpp é uma engine muito difundida, bastante utilizada, só que não é a melhor opção para rodar no Mac na maioria dos casos. Existe uma engine que é a MLX, que ela é construída em cima de toda a arquitetura e do software da Apple, que extrai

09:19 melhores resultados dos modelos e caso você queira que eu traga vídeos aqui mostrando testes com essa outra engine, comenta aqui para eu saber. Vamos agora fazer o teste, né? Eu tenho aqui a opção de computador que eu quero selecionar, vou colocar Apple. A gente tem aqui a opção de selecionar M1, 2, 3 e 4. Não tem M5, eu queria fazer um testezinho super rápido com M5 só para ter uma ideia, mas tudo bem. Vamos selecionar M4 Max de 40 núcleos além de processamento. A gente vai colocar, sei lá, 128 GB de RAM.

09:50 Vamos deixar sem GPU dedicada porque não tem no caso do da Apple e vamos colocar o máximo aqui de janela de contexto na no caso da inferência. Vamos calcular e ele deu para a gente aqui como a melhor opção, na verdade, o entusiasta, uma opção de entusiasta, ele colocou como se fosse o vencedor. A melhor opção confortável com em 3 de 32 bilhões de parâmetros com quantização de 6 bits e 9 tokens por segundo, o que o que torna o uso ridiculamente ruim. Caso você não tenha testado ainda modelos locais, 9

10:20 tokens por segundo é bem lento, tá? E torna até o a coisa toda inutilizável assim. Eu acho que para dar eu já rodei o Hermes aqui com modelos do Open na maioria dos casos foi sempre Open e vai continuar também sendo em muitas situações e muitos vídeos. Quando baixa para menos de 30 tokens por segundo, a coisa fica ruim, fica complicado de utilizar. Temos outras opções aqui, mas vamos fazer o seguinte, né? Vamos comparar com uma calculadora online para a gente ver se esses números aqui fazem sentido. Tá aqui, coloquei numa

10:51 calculadora online, a gente tem também o mesmo computador M4 Max com 40 núcleos, 128 GB de RAM. Em termos de memória ele já deu um número diferente aqui para a gente, ó, 546 e possivelmente, tá, como a gente viu aqui que não tem o M 5, né, o M6 disponível, talvez a principal falha aqui dessa calculadora seja a qualidade das respostas, dados, né, desatualizados. Aqui a gente tem 546 de largura de banda, aqui o Hermes gerou para a gente dá apenas 341 GB por segundo. Em termos de velocidade,

11:23 9 tokens por segundo, se a gente voltar lá na outra, temos aqui, deixa eu ver se eu acho exatamente o mesmo modelo, tá? Tá ele aqui, ó, com em 3 de 32 bilhões de parâmetros, Q6, temos ele aqui com 5.9 tokens por segundo, que tá abaixo aqui do que o RM gerou pra gente nessa calculadora que ele criou, ah, 9 tokens, mas tá ali, né, próximo, vamos dar esse desconto. Então, criou algo funcional pra gente, criou algo que precisa aqui de algumas alterações e correções pra que ele dê respostas melhores, mas

11:53 funcionou, funcionou. Vamos agora pro segundo desafio, galera, a gente dessa vez vai subir o nível aqui, subir a barra um pouco mais pra esse modelo, tá? E pro RM também. Vamos pedir pra ele criar um jogo 3D, um FPS 3D, também entregar pra gente num único arquivo HTML, ele já tá aqui carregando o modelo na memória, na verdade já fez isso, tá nesse momento lendo o system prompt, prompt aqui que eu mandei pra ele, qualquer que seja as, os arquivos, as, os, os resources que ele precise pra começar trazer aqui o resultado pra

12:24 gente. Da mesma forma que a gente fez com o outro, vou esperar ele terminar o trabalho, falo pra vocês quanto tempo ele levou pra entregar e a gente confere juntos o resultado, né? Então, isso aqui é bem mais complexo, vamos ver se ele vai conseguir entregar pra gente. Vamos checar agora qual que é o uso de memória nesse caso, ele começou aqui, ó, não me respondeu nada ainda, ele só tá aqui nesse momento, 5 minutos e meio, mais ou menos aqui, tá raciocinando, começou a editar aqui um arquivo faz um minuto e pouquinho, então a gente vai ver agora quanto de memória ele tá consumindo. Tá

12:55 aqui, ó, dessa vez, 88, 87 também gigabytes de memória consumidas do total de 96, não vai bater nunca aqui nesse 96, tá? Porque o sistema precisa de memória também pra rodar as outras aplicações e e processos que rodam ali por baixo dos panos, então, ele basicamente tá utilizando toda a capacidade do Mac Studio. Então, a gente tem a confirmação, né? Dá pra rodar? Dá. Roda com qualidade? Até roda, teria que testar em com prompts prompts longos também, né, pra a ver

13:25 direitinho, Mas não seria confirmadamente aqui, não seria a opção de modelo que eu teria rodando no dia a dia. O Ams acabou de finalizar e a gente já vai conferir o resultado do nosso jogo 3D FPS. Tá aqui o nome dele Neo Neo Breach. Levou mais ou menos aqui 25 minutos para ele finalizar. Vamos conferir agora como que ficou. Vamos agora fazer o teste. Aqui tem a nossa tela inicial, na frente os controles do que que eu preciso fazer, tem sprint para correr, espaço para pular, carregar, enfim, os controles básicos

13:57 que, né, todo jogo de tiro, se você já jogou FPS, você sabe isso aqui decoradinho aí. Vamos lá. Testando e vamos ver o que que temos aqui, tá? A gente tem esse essa paradinha aqui, ó. Ah, tá. Eu eu acho que não tá funcionando o tiro. Eu acho que é porque a gente precisa encon, tipo, andar aqui, ó, nesse chão para chegar até os bonecos, até os inimigos, no caso. Então, deixa eu andar aqui para ver se. Ih, caramba, é isso mesmo. É isso mesmo.

14:28 >> [risadas] >> É isso mesmo. Só que tá muito sensível. Ih, caramba, tem que Tá muito sensível, cara. Muito sensível. Matei três. Tipo, eu eu aperto quase nada e ele ele vai. Aqui, ó. Vou ter que Caramba, não deu tempo nem eu virar. Tentar de novo. Tentar de novo. Aqui tá chegando. Ui. Meu Deus, vira. Vira. Carreguei. Ah, ah, meu Vamos lá novamente.

14:58 Vamos lá, cara. Deixa eu Cara, o mouse ele não vira todo e eu só consigo matar se eu chegar bem perto. Eu preciso chegar bem perto para conseguir matar. E não vira. Não vira. Não vira. Não vira. Tipo, eu meio que tenho que Ai, caramba. Eu eu tenho que Ah, morri. O [risadas] mouse não tá virando todo. Que ódio. Não, aqui vocês querem pegar os dois

15:29 juntos, né? Que eu não sou. Aqui, ó. Aqui, ó. Ah. Ai, caramba. Ai, caramba. Me- mexe esse, esse mouse, pelo amor de Deus. Cara, o mouse não funciona, o cara, o mouse não, não me não me ajuda esse mouse, cara. Ele não vira 360. 360. Matar vários aqui em sequência. Parece só tem esses outros. Não vira, cara, olha isso. Não consigo matar daquele a distância,

16:01 não, aqui. Pô, aí tem uns quatro aqui que vão querer me encurralar. Aí, aí é sacanagem. Ai, caramba. Olha a vida, cara. A minha vida tá Pô, o que que foi que eu peguei? Não foi vida, não? Então vamos lá, vamos conseguir. Será que tem mais algum? E sobrou um ainda. >> [música] >> Ai, faltou um, consegui um headshot. Mas

16:33 é isso, galera, deu para vocês entenderem. Eu não consigo passar nem de uma fase aqui. Ai, cara, dá um desconto aí porque eu tô jogando aqui, ó, com esse mouse, não tem mouse pad aqui, não tem nada. Conforme vocês puderam ver, não é, é possível já criar algumas coisas legais. Eu vou experimentar mais com automações, colocar o Hermes rodando localmente para executar, né, partes aqui do nosso negócio, da agência, e volto aqui com um vídeo feedback para vocês, se vocês quiserem, né? Então, comentem aqui para eu saber. Existe, né, as vantagens e desvantagens de rodar modelos locais.

17:05 Atualmente ainda não é uma coisa barata de se fazer, né? Eu tô falando em relação ao custo de entrada de você adquirir uma máquina para isso. Claro que para estudo, né, você ali testar e começar a aprender, você pode começar com uma placa de vídeo mais baratinha, ou baratinha entre aspas, tá? Mais acessível, né? Não precisa investir o tanto que eu investi aqui. E aí você já consegue começar a criar umas coisas interessantes com modelos menores. É ótimo para estudo, para experimento, para aplicação no mundo real, ainda não estamos lá. Para 99%

17:35 das pessoas, eu diria que não estamos lá ainda. Porém, conforme o hardware, os próprios modelos e as engines forem melhorando, a gente com certeza vai chegar no mundo em que a IA vai estar rodando localmente no seu celular, no seu relógio, no seu computador. Então a gente não sabe, né, quanto tempo isso leva, mas com certeza é para esse mundo aí que a gente tá caminhando. Obviamente, existem várias vantagens de rodar um modelo localmente. Uma delas é privacidade e também controle de custos. Embora o custo de entrada seja alto atualmente, você deixa de pagar ou pelo

18:08 menos reduz, né, a quantidade, o valor ali que você paga mensalmente por assinaturas de modelos fechados. Que que vocês acharam? Comenta aqui para eu saber se vocês curtem esse tipo de conteúdo e se vocês querem ver também outros tipos de aplicação, né? Eu pretendo instalar, ou instalar não, né? Colocar o Hermes para fazer várias coisas dentro da empresa, fazer testes, experimentos. E se vocês quiserem, eu trago aqui para vocês no canal. Curtiu o conteúdo? Então se inscreve no nosso canal, deixa o seu like. Tem muita coisa vindo também nesse âmbito agora de modelos locais para este canal. E eu te

18:38 encontro aqui, ó, nesse próximo vídeo. Até lá. >> [música] [música]