Esse modelo de IA GRÁTIS substitui o Jev...

Video authored by the channel shown, not by IANIA; all rights belong to the creator. Transcript and summary generated automatically; the original-language content is preserved.

Original language: Portuguese

Original video: Esse modelo de IA GRÁTIS substitui o Jev… · Channel: Aly IA Lab · 17:04 · Watch on YouTube

Topics: AI agents, Task and workflow automation, AI developer tools, AI models, Local and open-source models

Summary

O vídeo apresenta o LIA como uma alternativa gratuita e open source ao Jev, um modelo de decisão usado para classificar dados sem gerar texto. Por ser pequeno, o LIA pode ser executado sem GPU e instalado em um computador ou em uma VPS. O apresentador demonstra como configurá-lo em um contêiner Docker e conectá-lo ao agente Hermes por meio de uma rede compartilhada e variáveis de ambiente. Em seguida, testa o modelo em uma tarefa de classificação de títulos e comenta que algumas respostas foram imprecisas. Por fim, sugere adaptar as skills que usam o Jev para utilizar o LIA e reduzir custos.

Key points

Jev é apresentado como um modelo de decisão que retorna classificações e níveis de confiança, sem gerar texto.
O LIA é descrito como gratuito, open source e pequeno o bastante para rodar sem GPU.
O tutorial instala o LIA em um contêiner Docker separado e o conecta ao Hermes por uma rede Docker.
A configuração inclui uma chave de API, uma URL e ajustes no arquivo YAML do Hermes.
O agente precisou de instruções adicionais para compreender como se conectar ao LIA e não usar uma skill existente.
No teste de classificação de títulos, o LIA acertou algumas categorias, mas também apresentou resultados imprecisos.
O apresentador propõe substituir o Jev pelo LIA nas skills e nos processos que usam o modelo.

Chapters

Start	Chapter	Summary
00:00	Jev e a proposta do LIA	O apresentador compara o modelo de decisão Jev ao LIA, que é descrito como gratuito, open source e leve.
02:06	Instalação em uma VPS	O vídeo explica por que o LIA pode ser conectado a agentes como Hermes, Codex e Claude Code e apresenta a VPS usada no tutorial.
04:12	Criação dos contêineres e da rede Docker	O tutorial cria uma rede Docker e configura um contêiner separado para instalar e executar o LIA.
08:18	Conexão do LIA com o Hermes	O apresentador define variáveis de ambiente e ajusta a configuração YAML para conectar os contêineres do LIA e do Hermes.
11:56	Teste de conexão e classificação	O Hermes se conecta ao LIA e o modelo é testado em uma tarefa de classificação de títulos, com alguns resultados considerados imprecisos.
16:02	Substituição do Jev nos processos	O apresentador conclui que a instalação funcionou e sugere atualizar as skills que usam o Jev para utilizar o LIA.

Quotes

Ele, na verdade, é um modelo de decisão. — 00:00

O LIA é basicamente um novo modelo que faz a mesma coisa que o Jev, só que é de graça e open source. — 01:03

O LIA pesa basicamente 1 GB, então vai rodar em praticamente qualquer computador. — 01:35

O Jev é barato, mas não é grátis; o LIA é totalmente gratuito. — 16:33

Concepts and entities

LIA, Jev, Hermes, Docker, Hostinger, Codex, Claude Code, VPS

Full transcript (original language)

00:00 Na última semana eu postei um vídeo aqui no canal falando sobre o Jeev e realmente ele é um modelo revolucionário. O Jeev ele é um pouquinho diferente das outras IAS porque ele não tem conversa e ele na verdade nem gera texto. É muito diferente de coisas tipo chat GPT. Ele, na verdade, é um modelo de decisão. Você entrega basicamente uma pergunta e ele te devolve ali uma resposta, mas é basicamente em números de sim é verdade ou não é verdade ou de quão confiante ele tá ali, que aquilo ali é verdade ou não. Basicamente ele nunca inventa uma resposta porque ele nem gera texto. E é

00:32 por isso que esse é um modelo de a muito rápido e muito barato. Inclusive no vídeo que eu já postei, eu mostrei que trocando assim parte dos meus processos que eu uso aqui pr gerar conteúdo pro canal, trocando algumas partes para usar o GEV, em vez de usar tudo ali com modelos tradicionais, ficava 254 vezes mais barato, que é algo assim absurdo. Só que 254 vezes mais barato não é grátis. Realmente o Jeev ele é muito barato, especialmente em relação a modelos tradicionais, né, de A, só que

01:03 se você for usar em um alto volume, classificando assim muitos e muitos e muitos dados por dia, realmente pode ainda ter um custo que é significativo. Só que a gente pode contornar esse problema usando o LIA, que é basicamente um novo modelo aí que faz a mesma coisa que o Jeff, só que ele é de graça, ele é open source, então você pode usar basicamente à vontade mesmo aí para uso comercial, sem pagar nada. E o melhor é que justamente por ele ser um modelo, vamos dizer assim, mais simples, né, que basicamente de sim ou não, classifica as coisas, etc., ele é um modelo muito

01:35 pequeno. Então, enquanto modelos tradicionais aí eles pesam aí gigas e gigas, 10, 20, 30, 40. A gente já teve vários vídeos aqui no canal também testando esses modelos localmente, esses modelos grandes. O Lia ele pesa basicamente aí 1 GB, então ele vai rodar basicamente em qualquer computador, não vai precisar de GPU, de placa de vídeo, etc. Basicamente, se você tem um computador que ele liga, ele vai conseguir rodar aqui o Lion. E é justamente isso que eu vou te mostrar no vídeo de hoje, como que você instala aí esse modelo. Agora, antes da gente começar, lembrando que se você tá

02:06 gostando desse assunto, se você gosta aí de modelos baratos, como é que a gente consegue economizar aí com IA, aproveita e se inscreve aqui no canal que eu tenho certeza que meus vídeos vão te ajudar. O mais legal do L open source da gente poder instalar em qualquer lugar é que então basicamente a gente consegue usar com todos os nossos agentes. Você consegue instalar ele localmente no seu computador para usar, por exemplo, com o Codex, com o Cloud Code ou você também pode instalar na VPS para você utilizar com agentes que estão na nuvem. Então, por exemplo, eu tenho o Hermes, que é o agente que eu mais uso, é ele que eu uso aqui basicamente pro canal. E foi

02:38 justamente nele que eu instalei o Jeff para conseguir reduzir os meus custos. E como o Lia é tão pequeno, é tão leve, eu também consigo instalar ele ali numa VPS sem nenhum problema, justamente para conectar ele com o meu Hermiss. E é justamente isso que eu vou fazer aqui nesse vídeo, que eu acho que deve ser o processo um pouquinho mais complicado do que estar lá na sua máquina. Se você realmente quiser um vídeo mostrando como é que instala na sua máquina e conecta ali com Cloud Code, com Codex, que é basicamente só jogar o link e pedir para eles instalarem, é só me dizer aqui nos comentários que eu posso gravar esse vídeo. Mas eu acho que como instalar na VPS, conectar ali com seus agentes na VPS é um pouquinho mais avançado, apesar

03:10 de ainda ser bem tranquilo. Então eu achei que era mais interessante aqui para esse vídeo. Como todos os vídeos onde eu tô usando o meu remê, eu tô usando a VPS, eu vou usar aqui a VPS da Hostinger. A gente sabe que todos os meus projetos basicamente estão instalados nessa VPS e ela é muito prática, especialmente aqui para esses contextos onde a gente vai ter um modelo diferente para usar com o nosso agente, porque lá na VPS da Hostger a gente usa basicamente um gerenciador Docker para tudo. Então cada coisa tá ali no seu contêiner bonitinha, contida, não atrapalha as outras. E é justamente isso que vai fazer que a integração entre

03:40 essas duas ferramentas seja tão simples e tão prática. E além disso, lógico, essa VPS tem um custo benefício excelente. Lembrando que se você quiser testar a VPS da Hostger, eu vou te deixar um link aqui no vídeo e também na descrição aqui para você usar, que com esse link você consegue usar o meu cupom de desconto que é Ali e Aleb. E aí você vai ter até 10% de desconto nos seus planos de VPS. E eu já queria deixar claro aqui que a opção que eu sempre sugiro de VPS é o KVM2. Eu acho que ele é mais do que o suficiente aí pra gente rodar várias aplicações ali pelo gerenciador Docker. Mas se o seu plano é

04:12 realmente instalar modelos na VPS, aí eu já sugiro que você vá ali pro KVM4, acho mais interessante que ele tem mais memória, aí você garante que você vai conseguir instalar todas as aplicações, instalar modelo, etc. Sem você ter que ficar se preocupando aí que vai acabar o espaço na sua VPS. Com isso tudo jeito, então vamos passar pra minha tela para eu te mostrar o quão fácil é integrar essas duas ferramentas aí na nufa. Então já tô aqui dentro da minha VPS da Holger. Você pode ver que eu tenho vários projetos aqui, porque realmente eu prefiro usar na VPS. Eu tenho várias máquinas, então é bem mais fácil para conseguir acessar, né, de qualquer uma delas dos meus agentes, então prefiro

04:43 instalar aqui. E a gente vai instalar o L aqui também, justamente para esses agentes poderem usar. Então, essa esse modelo, como que a gente vai fazer isso? Tá? A ideia aqui é a gente instalar o Lia em um contêiner separado. Aqui nessa VPS da Hosker a gente tem um docker já instalado, então é tudo em diferentes contêiners que eu acho ótimo que deixa bem separadinho. Então a gente vai instalar o L em um contêiner separado e vamos ligar esse contêiner com o contêiner aqui do Hermes e aí ele vai conseguir utilizar. Então a ideia é bem simples. Primeira coisa que a gente tem

05:13 que fazer é criar então uma rede dentro do docker para conectar esses dois contêiners para eles conseguirem falar um com o outro. Como que a gente faz isso? Aqui em Web con Console, que é basicamente o terminal aqui da nossa VPS, você vai vir aqui escrever Docker Network create e dar o nome aqui da sua rede. Para mim vai ser Laia Hermes net 3, que eu já regravei esse tutorial algumas vezes e é bom não repetir. Você pode dar o nome que você preferir, tá? Então pronto, rede criada. Agora o que a gente vai fazer é adicionar os nossos

05:44 contêers nessa rede para que eles possam conversar. Só que o Lia ainda não foi criado, ainda não tem um contêiner, então vamos criar ele aqui rapidinho, tá? Você vai vir aqui em compose e aqui é dentro da VPS da Hostker, a gente tem várias maneiras de criar um novo contêiner. A gente usa muito aqui no canal a implantação com um clique, que é quando já tem aplicações prontas, que já tem lá a imagem no Docker. Então, com um cliquezinho tá instalado. O Lia não é uma aplicação muito popular e é muito nova, então ele não tá aqui no catálogo. Então o que a gente vai fazer é a instalação manual, mas não se preocupa

06:15 que você vai ver que é muito fácil. Então a gente vai clicar aqui em compose manualmente. A gente vai dar um nome aqui para esse projeto que para mim vai ser Laia 3, como eu já te falei, né? Já temamos aqui nesse tutorial. E aí aqui dentro do editor IAML, eu nunca vi alguém falando essa palavra. Enfim, a gente vai colar aqui o código para criar esse contêiner com Laia já instalado e deixar ele rodando. Eu vou colar aqui o código, tá? Você não se preocupa que aqui na descrição desse vídeo tem o código para você copiar e colar. Você não precisa pausar e digitar na mão. Então, ó, colei aqui. E aqui o

06:46 que que é interessante a gente ver? Vai ser um contêiner com o bunto. A gente vai instalar o Python, vai instalar o LIA e qualquer outras dependências que vai precisar. Aqui a gente vai colocar uma API aqui, uma chave de API pro Lia, só para, né, garantir. Você escolhe o que você quiser. Eu vou botar aqui a lista 1 2 3 4. E aqui, ó, a gente já tem networks, redes, já tá aqui com o nome da rede que eu criei. Você lembra que eu criei ali LSNET 3? Então você presta atenção quando você for copiar esse código para mudar isso aqui pro nome da

07:16 sua rede, tá? Então aqui e aqui embaixo também. Depois que você copiou isso tudo, você vai simplesmente vir aqui em implantar e aí o seu contêiner criado e vai tá fazendo todas as instalações. Então vamos esperar aqui um instantinho aqui. Vai abrir para você sair da página. Você vai sair, isso quer dizer que já tá tudo certo, já implementou. E aí vai ter aqui então esse nosso contêiner. A gente pode vir aqui dentro do nosso terminal, a gente pode digitar aqui Docker PS pra gente ver o nome aqui desse nosso contêiner que é esse aqui,

07:48 Laia 3, Laia 1, tá? E aí com isso a gente pode digitar esse comando aqui, que é justamente pra gente ver aqui o que que tá acontecendo. Então vou dar enter e aqui vão estar os logs e a gente consegue ver que ele tá instalando aqui então tudo que ele precisa instalar. A madeira com que a gente criou esse contêiner, toda vez que a gente precisar recriar ele, ele vai baixar aqui tudo de novo, etc. Não é a maneira mais óbvia, mas é a maneira mais simples de fazer isso, especialmente que a gente não vai precisar ficar recriando esse contêiner, tá? Então não vai fazer grande

08:18 diferença. Pode deixar assim mesmo, tudo certo. Ele vai estar aqui instalando tudo. E enquanto isso, o que que a gente vai fazer? A gente vai aproveitar para conectar então o nosso remês à nossa rede, né, onde o Laia já tá aqui. E a gente vai colocar lá a chave de API. Lembra que a gente definiu ali no Lia? A gente vai colocar aqui no remake para ele saber também, para ele poder usar. Então para fazer isso, eu vou clicar aqui em gerenciar no remê que eu já tenho. Lembrando que se você não sabe como instalar aqui o remê na sua VPS, é muito muito fácil. E essa versão aqui ainda vem com um painel maravilhoso de usar. Você já vai ver. Então vou deixar o link, tá? Para você aprender a

08:50 instalar aqui na descrição desse vídeo também. E aí aqui, ó, eu primeiro estudo vou descer e vou adicionar as variáveis de ambiente em relação ao LAIA, que são duas. Primeiro é o Lia API Key, tá? Então você vai botar esse valor aqui e você vai colocar a IPI que você determinou, que no meu caso é a lista 1 2 3 4, tá? Você escolhe aí a sua chave. Depois você vai colocar aqui o Laia URL. Você não precisa obrigatoriamente colocar esse aqui. Você pode passar isso pelo chat. Eu só deixei aqui para ser mais prático mesmo. O valor que você quer colocar aqui é esse aqui, tá?

09:21 Então, o nome do seu contêiner, ó, vai tá aqui, Laia 3, Laia 1, dois pontinhos 8000, que é a porta. E aqui é para ele chamar o modelo, tá? Então é isso aqui que você quer colocar. Lembrando que aqui é o nome do seu contêiner, tá? Então você troca aí também. Antes da gente salvar, implementar, a gente vai vir aqui no nosso IAML. E aqui a gente vai adicionar algumas linhas em relação a network, tá? Em relação à rede, igual tinha lá no LIA. Por que que a gente tá fazendo por aqui e não direto no terminal? Só ali conectando um, só

09:53 conectando, né, os nossos contêiners, que aqui nesse caso são dois, um do agente e um da nossa do nosso painel. Por que que a gente não tá só conectando pelo terminal? Porque se a gente precisar recriar esse contêiner aqui, que é o que a gente já vai fazer aqui agora, porque eu botei novas chaves de IPA, então ele vai criar aqui de novo, aí a conexão que a gente cria no terminal vai cair, tá? Então ela é mais frágil. Então prefiro fazer aqui dentro pelo IAM. Então, o que você vai querer fazer é adicionar aqui, ó, networks. Você vai colocar aqui, ó, o nome da sua network. Aqui a gente tá no Herms Agent,

10:25 no Herms Web UI. Você também vai querer colocar isso. Lembrando que você só vai ter esses dois se você tiver nessa instalação, que é o agente em um contêiner e o weby em outro. Se você tiver só com a instalação normal do Herbs, só vai ter um aqui, tá? Então você só vai colocar isso aqui uma vez. Aqui no do web você vai colocar aqui também. Então, ó, Larmset 3 aqui também. E aqui embaixo também tem aqui, ó, Lar Herms Net 3, aqui a parte da network externa, tá? Então você quer colocar três vezes aqui dentro desse IL YL.

10:56 Enfim, uma coisa que é importante você notar é que esse arquivo aqui de esse arquivo aqui que a gente tá criando, esse editor e AML aqui, ele leva em consideração a identação, tá? Então os espaços que tem antes aqui de cada uma das palavras ajuda o documento a ser interpretado. Então se você errar a quantidade de espaços, ele nem vai te deixar salvar. Então, o que eu sugiro aqui é você copiar o que você já tem aqui pronto, vai no chat GPT, cola lá e diz assim: “Eu quero adicionar a network tal” e aí ele vai colocar para você certinho aqui já dentado com os

11:26 espaçamentos corretos para garantir que tudo vai funcionar, tá? É assim que eu faço, porque realmente toda vez que eu tento fazer na mão, ele diz que não tá certo. Então, pronto, chá de GPT faz. E agora que a gente botou aqui então essas linhas de network e a gente também botou as variáveis de ambiente aqui do Hermes, a gente vai implantar. Então para ele salvar isso tudo. Se a gente voltar aqui no terminal, a gente consegue ver, ó, que já acabou aqui o Laia, já tá tudo instalado e tá rodando aqui na porta 8000, que foi justamente que a gente pediu para fazer. Então agora é só a gente esperar aqui o Hermê ser implantado novamente e aí a gente vai

11:56 poder entrar lá no Hermê e falar para ele usar realmente o L. É, pronto, saí da página. Então, já tá funcionando. Nosso remestado. Vou abrir agora o painel para fazer isso. V aqui. Aqui. Então, tá aqui o painel. E o que eu vou fazer é justamente pedir então para ele fazer o teste de conexão aqui com Laia, que são as versões que já deram errado. Deixa euar isso aqui. OK. Agora vamos testar a nova conexão

12:26 com o Laia. Não use nenhuma skill. E isso aqui eu tô falando justamente porque quando eu testei da primeira vez, ele acabou desenvolvendo já uma skill pro Lia. Não existe uma skill oficial do Lia, mas ele pegou a skill do Jeev que ele já conhecia e ele adaptou. Então se o seu agente ainda não sabe nada de Jeev lá e etc, você vai querer dar aqui algum contexto explicando para que que serve, etc. cola aqui a URL, documentação oficial desses modelos para ele entender. O meu agente, ele já tá sabendo, já sabe o que que tá acontecendo. Ele já viu eu testando isso aqui 32 vezes para gravar o seu

12:58 tutorial, então ele já sabe que que é para fazer aqui, tá? Então, no meu caso, eu vou só dizer aqui, vamos testar uma nova conexão, não usar nenhuma skill, porque às vezes ele se perde. URL já estão definidos nas variáveis de ambiente e o nome da rede Docker que está conectando vocês dois, cada um é um contêiner separado. É Lia Hmsnet 3. Eu gosto de deixar aqui explicando que ele é um contêiner

13:28 separado, cada um é um contêiner porque às vezes o meu vermelho se perde, tá? Então eu eu gosto de deixar bem explicadinho. Então vou dar enter aqui. E aí então depois de algum tempo, ó, demorou uns 15 minutinhos e ele conseguiu aqui fazer tudo rodar. O grande problema aqui é que ele tava achando que o modelo era era compatível aqui com o modelo da Open AI e ele não era. Então ele precisou aqui se resolver e ficou testando, testando, ó, não é mais open AI. Então foi realmente, né, o protocolo é o outro. Então ele demorou

13:58 um pouquinho aqui para compreender isso. Quando ele compreendeu, ele conseguiu aqui terminar o raciocínio e ele fez funcionar. Ótimo. Aí eu pedi para ele atualizar então a skill do próprio Lia, que ele já tinha criado quando eu testei antes justamente que ele se baseou na skill, né, do Jeev, como eu tinha te falado. Então ele atualizou. E aí depois disso o que a gente fez foi testar. Então fiz o mesmo teste que eu fiz no Jev. Ele pegou aqui um título pra gente analisar. Eu tenho uma skill que toda segunda-feira ela analisa vários títulos de vários canais diferentes aqui relacionados ao meu nicho e ele classifica esses títulos entre

14:29 basicamente, né, se é bom e ruim, etc. Para ver se são padrões de título que eu devia adaptar também e usar, porque eles estão funcionando, tá? Essa é a ideia dessa skill, como eu mostrei lá no vídeo do Jeff. E aí ele testou aqui. Então, ó, rodei o cloud code de graça no meu VPS. Não sei de onde ele tirou esse título, porque não é claramente do meu canal, eu não tenho esse vídeo, mas não tem, tá tudo certo, né, para fazer o teste aqui. Ele tá perguntando se é outlier, é incerto. Bem, não vou levar aqui isso em consideração porque eu não sei onde ele tirou esses dados. Tópico, qual é a categoria principal? Então, agente de A

15:01 aqui, né, justamente como eu te mostrei lá no vídeo do Jeff, eh, a minha skill classifica, né, em tópicos, porque tem alguns tópicos que são mais populares que outros. Então, ele pegou aqui a categoria, tá correto? Se é grátis, aberto, ele falou que sim, praticamente certo, porque eu rodei o cloud code de graça, né? Então tá escrito bem grande. Lógico, se a gente pensar bem aqui fazer o raciocínio é no meu VPS, então o VPS não é grátis, né? Mas eu entendo que é basicamente impossível aí conseguir fazer esse raciocínio com tes de graça bem grande, né? Ok. Conecta VPS, sim, altíssimo. É algo que eu sempre, né,

15:31 vejo aqui nos títulos. Se é fácil de fazer um tutorial, se é, etc. Tende a não. Tende a não, apesar de ter setup completo. Esse aqui eu não concordo. Acho que essa aqui tá errada. E urgência é time sensitive. Não, não é urgente. Então a gente viu que tá aqui rodando. Lógico, como ele pegou esse título que não tem nada a ver porque os dados não me parecem corretos aqui. Essa parte aqui de outiler, né? Não funcionou. Não sei de onde ele tirou esse título. Meu Deus. E ele errou aqui. Não tem outras palavras. Ele errou aqui para dizer se é tutorial ou não. Se é só opinião, se é um setup completo. Rodei. Costuma ser

16:02 tutorial. Eu entendo que não é um como fazer não sei o quê. né? Pode ser que eu só mostre o setup e não seja um tutorial. Realmente é é duvidoso, não tem como ter certeza, realmente. OK. E aqui o Remê viu aqui uma diferença entre um e outro e falou aqui, beleza? OK. Mas como você pode ver, pra gente instalar aqui na VPS e conectar com RS, foi muito simples, né? A gente criou ali o L, criou o network, atualizou o remess e disse vai aí e ele foi. Então essa parte foi muito prático. E agora se eu quiser, eu posso atualizar as minhas skills. Inclusive ele já falou aqui, ó. A gente pode atualizar a nossa skill que usa o

16:33 Jeev justamente para utilizar o Lia e aí vai ser completamente de graça, né? Então o Jeev é barato, mas não é grátis, mas o Li é totalmente gratuito. Então a gente já pode, se quiser, atualizar nossas skills agora que usam o Jeev para usar o Lia. Agora eu passo a atualizar então basicamente todos os meus processos aqui dentro do remê para usar o Lia. E aí eu não vou precisar meio que preocupar aí com os custos. Sim, como eu falei, o Jeff ele é bem barato, mas não é grátis e o Laia é gratuito. Então isso também vai ajudar bastante aí nos custos. E lembrando que aqui no canal eu mostro várias ferramentas grátis que podem te ajudar a substituir ferramentas

17:04 pagas. E aí, se você quer conhecer outra que é muito interessante para você substituir o Eleven em Elbeves, eu sugiro que você assista vídeos que tá aparecendo aqui na tela.