Codex e Claude Code podem adotar modelos como o JEV sem você perceber

Author: Cortes do Rafael Quintanilha · Watch on YouTube

Video authored by the channel shown, not by IANIA; all rights belong to the creator. Transcript and summary generated automatically; the original-language content is preserved.

Original language: Portuguese

Original video: Codex e Claude Code podem adotar modelos como o JEV sem você perceber · Channel: Cortes do Rafael Quintanilha · 09:47 · Watch on YouTube

Topics: AI agents, Claude Code, Model inference and optimization, AI models

Summary

O episódio discute modelos de classificação rápidos e baratos, como o JEV, e o potencial de usá-los em workflows agênticos no lugar de um LLM em etapas específicas. Os participantes destacam que esses modelos podem reduzir latência e custo, sobretudo em tarefas como classificação, permissões e apoio ao tool calling. Também comentam alternativas como Laia e Julia, embora ainda pretendam testá-las localmente. A conversa termina com a possibilidade de ferramentas como Codex e Claude Code incorporarem modelos desse tipo ao próprio harness, sem que os usuários percebam.

Key points

O JEV é apresentado como um modelo de classificação generalista, rápido e de baixo custo.
Um classificador pode substituir um LLM em etapas específicas de sistemas agênticos, evitando usar uma solução mais complexa do que o necessário.
A API do JEV é descrita como muito barata, sem custo de output e sem exigir que o usuário mantenha infraestrutura própria.
Os casos de uso mencionados incluem classificação, gateways, sandboxes, permissões e processos decisórios em tempo real.
Segundo a conversa, o Javelin responde em cerca de 140 a 200 milissegundos, sem contar o tempo de rede.
Os participantes relatam que modelos com reasoning podem aumentar a latência em workflows que precisam apenas de respostas diretas.
Um teste com o Jev Gator teria reduzido o tempo de um fluxo em 40% e o custo em 60%, mantendo o cache.
Os participantes especulam que empresas podem integrar modelos semelhantes ao JEV em seus harnesses, inclusive em ferramentas como Codex e Claude Code.

Chapters

Start	Chapter	Summary
00:00	O que é o JEV e por que chamou atenção	Os participantes apresentam o JEV como um modelo de classificação e discutem custo, API e possíveis alternativas.
03:03	Aplicações em sistemas agênticos	A conversa explora como classificadores podem tornar workflows mais robustos e atender tarefas como permissões e decisões em tempo real.
06:11	Testes, alternativas e latência	Os participantes comentam projetos locais, comparam o JEV a modelos usados para classificação e discutem o impacto do reasoning na velocidade.
08:44	Integração no harness de ferramentas	Um teste com o Jev Gator inspira a hipótese de que ferramentas como Codex e Claude Code podem integrar modelos semelhantes sem tornar isso visível.

Quotes

Muitas vezes, você está usando uma bazuca para matar uma mosca. — 02:33

O JEV veio para deixar os nossos sistemas mais robustos. — 03:03

Abre-se um leque de coisas que a gente pode fazer hoje em escala e com velocidade. — 04:06

As empresas vão absorver isso nos harnesses delas. — 09:15

Concepts and entities

Jev, Jev Gator, Laia, Julia, Claude Code, Codex, MCP, UFG

Full transcript (original language)

00:00 Esse é um corte do podcast limite semanal que acontece toda segunda-feira às 7:00 da noite comigo e com o Vini lá da AI Coders. Se você quer ficar por dentro de tudo que acontece de relevante no mundo da IA, considere se inscrever no canal através do link que está tanto na descrição quanto no comentário fixado. >> Ouvindo do Jev assim, e só para trazer um contexto para todo mundo, né? Jev é um modelo de tipo sistema humano que é um que os caras lançaram esse novo essa nova nomenclatura, que ele é um segue a ideia de um classificador generalista

00:30 que ele tem um muito contexto de tudo e que tá no nível de um GPT 5.6 ter mais ou menos ali e consegue classificar bem as coisas com velocidade e um baixo custo. Resumindo é isso. É uma ideia massa. Eu vi todo mundo tentando lançar o próprio Jev. Só que eu não parei para testar todos que lançaram, que tem o Laia, tem o Julia e tudo mais, porque assim, eu acho que tem uma galera que assim, eu não tô falando do Julia, tá? Nem do Laia, mas tem uma galera aproveitando esse hype para pegar modelo menor, tipo o Qwen 3.5, 4B, esses pequenininho, fazer um fine tuning e

01:00 criar um classificador em cima. Que é uma ideia sensacional, que dá para deixar a parada barato, mas eu não tenho ainda capacidade de julgamento de dizer se ele realmente bate tão de frente segundo o Jev ou não. Eu acho que a gente precisa eh para bater de frente com o Jev mesmo, assim, pô, solta numa API para a gente testar, que não preciso rodar local. Porque qual que é a ideia do Jev? A ideia do Jev é que você use uma infraestrutura deles, né? Da API deles, que é barato para caramba, é tipo 4 centavos para cada

01:31 milhão de input token, 4 centavos de dólar, e você não paga nem nada de output. >> Output de graça. >> de rodar Exato, e você não precisa de rodar sua infra. Se for a parada que eu preciso rodar na minha própria infra, aí talvez, dependendo do que for, eu vou preferir treinar meu próprio classificador. Mas aí trazendo as as possibilidades aqui. Porém, o que que é muito legal do Jev? Cara, ele abriu um mercado novo de possibilidade que a gente não tava vendo antes como possibilidade, que é o mercado de você ter classificador atuando em uma parte boa dos processos de agentes que a gente tem hoje. Aí você

02:01 pega, ao invés de ser um LLM mais adiante, poxa, você traz um classificador, ao invés de você ter ali um LLM fazendo o reasoning para tool call, igual eu fiz alguns testes, pô, bota o classificador, bota o Jevil no meio do caminho. Aí eu acho que faz sentido. Mas, que que você tem visto? Você chegou a testar o Jevil, Rafa? Como é que tá o seu, sua perspectiva? >> Fiz, fiz um teste, fiz um vídeo aqui no YouTube que foi super certo, deu, o pessoal gostou bastante. É, cara, eu gosto muito da ideia do Jevil, né? É, eu até, eu até escrevi no Twitter

02:33 que assim, como engenheiro, a gente é muito bom quando você vê uma ferramenta feita para o, para resolver um problema, problema correto, né? Porque o LLM é uma, é uma ferramenta, é claro, só que ela é overkill para a maior parte das coisas. Então assim, a gente consegue resolver diversas coisas com LLM. Só que, é, você tá usando ali muitas vezes uma bazuca para matar uma mosca. >> Perfeitamente. >> E, quando você tá construindo sistemas de IA, você tá construindo sistemas agênticos,

03:03 você tá construindo automações, você tá construindo ali processos decisórios, é muito importante que você tenha domínio sobre o que tá acontecendo ali, que você entenda e que você tenha domínio para que você possa construir o seu próprio processo. Então, o, o Jevil, na minha visão, ele veio para deixar os nossos sistemas mais robustos e o próprio manifesto deles é disso, né? É de você assim, é, construir, é, é, é feito para engenharia, né? É feito para você colocar em processos, para você colocar, né, em automações. Então, me agradou bastante. Se tem uma solução

03:35 melhor, mais barata, open source, cara, a gente vai ver isso por causa do hype, claro. Mas assim, independente disso, eu sou muito, é, bullish, sou muito, a, estou muito animado com essa, com essa nova classe de modelos. Eu acho que ela vai ser excelente para diversos workflows. Então pensa aí, qualquer coisa que seja gateway, sandbox, né, permissão, essas são coisas perfeitas para você fazer, né, com um sistema tipo Javelin, qualquer tipo de de de classificação,

04:06 como você disse. Eu que gosto bastante de de mexer com mercado financeiro, tomada de decisão de investimento ou em real time ali, talvez com com fluxo de dados grande, porque ele é rápido. Então assim, é muito abre-se um leque de bastante coisa que a gente que a gente pode fazer hoje em escala e com velocidade. Então me anima bastante. >> de parar para treinar um classificador e hospedar e cuidar da infra. Eu acho que o ponto mais interessante é tipo poxa, preciso disso num workflow. Plugou a parada e já já tá funcionando, né? Eu acho que essa é a parte legal. E que que eu acho legal também, Rafa?

04:37 O Javelin já ele é bem rápido. O hoje a o Javelin em si ele gasta de 140 a 200 milissegundos para trazer uma resposta. O outro tempo restante é o tempo de deslocamento da informação até seu computador, os outros 150 a 200 milissegundos. É, é o ping. Então o que que é massa? A gente pode estar observando muito em breve, eh, poxa, o Javelin melhorando a performance dele de entrega. Eu acho que isso é bem possível, bem plausível de acontecer com o tempo, a arquitetura vai melhorando. Daqui a pouco tá praticamente instantâneo, porque milissegundos já é

05:08 meio que instantâneo, mas imagina, consegue chegar a 100 milissegundos, 40 milissegundos, 50 milissegundos de resposta, é é um negócio que eu acho difícil chegar por conta de o desafio vai ser o gargalo, vai ser a infraestrutura, vamos dizer assim, né? Mas é uma parada que é interessante, porque vários fluxos nossos hoje têm lentidão no no fluxo por conta da gente estar usando LLM no lugar do do que poderia ser o Javelin, né? Então vamos pegar o reason do do LLM, demora de 1 a 3, até 10 segundos, dependendo. Cara, o Javelin

05:39 consegue otimizar para caramba esse fluxo. Então vem uma parada interessante. Eu tô para para testar o Julia, tô para testar o Laia também, é, localmente para validar. Mas os meus casos de uso do Jev hoje, eles não são locais. Acho que esse é o principal ponto para para trazer aqui nessa essa questão de comparação. Para mim só faz sentido hoje, é, usar uma parada dessas nos meus workflows agênticos, que é onde eu tenho os meus agentes em nuvem, estão trabalhando, tudo mais. Localmente faria sentido para usar na ideia do Jev Gator, que é a parada que eu fiz para para testar. Que

06:11 aí é beleza, o Jev Gator é o plug lá e economiza o token. Mas ainda não me não me chamou atenção esses outros casos do mercado. Que é muito legal ver projetos do Brasil sendo desenvolvidos e tudo mais. Isso é sensacional. Inclusive eu entrevistei o o o pô cabeça está ruim esses dias, cara. Entrevistei um cara lá da da pô, até o nome do lugar esqueci, lá de Goiás lá, é, da UFG. O Celso o Celso da UFG que vai sair o vídeo essa semana lá no canal. Cara, eles têm a UFG está muito massa

06:42 também em várias pesquisas de, é, IA para é, de biotec e tudo mais. Tem uns negócios legais para para sair. Eu acho que o Jev vem nessa nessa pegada aí também de paradas que não são mainstream e que você não precisa ter uma de uma infraestrutura para conseguir treinar uma parada dessa. Acho que é aí que a gente vai começar a ver, é, outros mercados emergindo aí. >> Excelente, cara. E aí, é até o puxando aqui a mensagem do William, perguntando se ele já testou o

07:13 Jev, né? Estamos falando disso. É, eu no meu vídeo, eu até substituí ele, Vini, é, comparei ele com o Deep Psychic V4 Flash, que é um modelo que eu usava para fazer classificação, por ser um modelo rápido e barato. E assim, mesmo o Deep Psychic V4 Flash sendo um modelo, né, rápido e barato, ele ainda fica muito mais caro e lento do que o Jev, é, né? Então >> esse mesmo comparativo, Rafa. >> É, porque é o é o óbvio, né? Porque é o que a gente usa para para fazer sistemas, a gente a gente

07:43 quer fazer um sistema programado, um sistema que vai ter escala, tem que botar um LLM que seja rápido e barato, aí você vai testar o GPT 6, você vai testar na época lá um GPT 5 nano, você vai testar esses modelos de latência baixa. E uma coisa que é legal, e uma coisa que me incomodou é bastante também, Vini, quando a gente antes tinha esses modelos, é, eles não é, por exemplo, na época do GPT 4.1 era era um dos modelos que eu mais gostei para fazer workflows a gente, porque ele não tinha reasoning. Então ele era muito bom para você fazer às vezes algumas

08:14 classificações rápidas, coisas rápidas que você queria colocar IA. E aí depois passou a todos os modelos basicamente terem o reasoning e a latência aumentou demais. E e tem alguns workflows que você não quer o reasoning, você quer ali direto. É claro que se você tirar o reasoning e jogar o Jev direto ali, ele não é tão inteligente, então talvez a classificação não seja tão boa. Mas para alguns alguns processos, cara, você tira o reasoning e joga o Jev lá e já era. >> Já era. Exatamente. Exatamente. Cara, isso aí acho que é onde tá de fato a

08:44 o sweet spot ali, né, do do do Jev. E acho que vem coisa por aí, tá? Eu é o que que eu acho que é o aprendizado que a gente viu no mercado. Eu fiz um projetinho lá, não sei se você viu, Rafa, botei o pessoal do Jev Gator, que a tese que era o seguinte, cara, será que dá para colocar esse cara, o Jev, para antes do LLM fazer o reasoning, o Jev já trazer uma dica e já antecipar isso, tipo tool call. Cara, o LLM gasta tempo para caramba para fazer reasoning de tool call. Não com o tool call local, mas tipo, ah, conectei 4 MCP. Cara, o LLM vai gastar tempo

09:15 fazendo reasoning em cima. E eu botei o Jev para fazer isso. Teve fluxo, Rafa, que a gente reduziu o tempo em 40 eh por cento e o custo em 60% sem sem virar aquele problema de perder o cache, mantendo o cache, tudo certinho. Então, o que que eu vejo acontecendo muito em breve, as empresas vão eh absorver isso no harness delas, Então vai ver Codec, vai ver com o Cloud Code, absorvendo dentro do Harness delas para que parte do processo que acontece ali dentro seja feito por um modelo tipo um Jevin, só que deles. Talvez a gente nem vai ver isso acontecendo. Daí volta muito forte

09:47 para a ideia de ecossistema, né? Talvez já esteja até acontecendo e a gente não vê o fluxo do Harness ali fazendo essa parte. >> Muito bom.