Sim, Jev é insano, mas há uma ressalva

Autoria: Two Minute Papers · Assistir no YouTube

Vídeo de autoria do canal indicado, não da IANIA; todos os direitos pertencem ao criador. Transcrição, resumo e tradução gerados automaticamente; o conteúdo no idioma original é preservado na versão em idioma original.

Idioma original: inglês

Vídeo original: Yes, Jev Is Insane, But There’s A Catch · Canal: Two Minute Papers · 04:50 · Assistir no YouTube

Tópicos: Agentes de IA, Inferência e otimização de modelos, Modelos de IA, Modelos locais e open source

Resumo

Jev é um sistema de IA que, em vez de gerar texto, escolhe uma resposta entre opções e pode fazer isso até cerca de 200 vezes mais rápido que os chatbots atuais. Essa velocidade pode ajudar em tarefas simples de sistemas com IA, reduzindo o tempo e o uso de tokens. A ideia básica não é nova, mas Jev combina uma arquitetura voltada a decisões, avaliação paralela de respostas e um método de treinamento chamado RLCD, que busca calibrar a confiança do sistema. O vídeo reconhece tanto o potencial da ferramenta quanto o exagero causado pelo hype e pelo marketing viral.

Pontos-chave

Jev recebe uma pergunta e opções e seleciona uma resposta, em vez de gerar texto.
Segundo o vídeo, o sistema pode responder até cerca de 200 vezes mais rápido que os chatbots atuais.
O formato de decisão também pode ser usado para escolher ações em videogames.
Jev pode assumir decisões simples em sistemas com IA, como escolher arquivos, avaliar falhas ou decidir se deve tentar novamente.
A abordagem pode reduzir o tempo de execução e o uso de tokens em algumas tarefas.
A ideia geral de classificar opções não é nova, e pesquisas anteriores exploraram ideias semelhantes.
Jev combina uma arquitetura voltada a decisões, parallel sampling e o método de treinamento RLCD.
A calibração da confiança pode ajudar a decidir quando confiar em Jev ou recorrer a um modelo mais robusto.
O apresentador considera Jev promissor, mas ressalta o papel do hype e do marketing viral.

Capítulos

Início	Capítulo	Resumo
00:00	O que Jev faz	O vídeo apresenta Jev como um sistema que escolhe respostas rapidamente, em vez de escrever texto.
00:32	Aplicações e velocidade	A rapidez de Jev pode servir para jogar em tempo real e assumir decisões simples em sistemas com IA.
01:37	O que há de novo — e o que não há	O apresentador observa que a ideia de classificar opções é antiga e reconhece pesquisas anteriores relacionadas.
02:44	Os três componentes de Jev	Jev combina uma arquitetura de decisão, parallel sampling e o método de treinamento RLCD para calibrar a confiança.
03:48	Potencial, hype e encerramento	O vídeo avalia Jev como uma ferramenta promissora, mas também amplificada pelo hype, e termina com um anúncio da Lambda.

Citações

Ele não escreve texto. Em vez disso, toma decisões. — 00:00

Se for extremamente rápido, pode jogar em tempo real. — 00:32

Se disser que tem 80% de confiança, deve acertar cerca de 80 vezes em 100. — 03:14

É incrível? Sim. Está também muito amplificado pelo hype e pelo marketing viral? Sim. — 04:18

Conceitos e entidades

Jev (modelo): Sistema de IA apresentado no vídeo, projetado para escolher entre respostas em vez de gerar texto.
classifier (conceito): Sistema que classifica opções, ideia que o vídeo compara à função básica de Jev.
decision model (conceito): Modelo voltado a selecionar uma resposta ou ação entre alternativas, em vez de gerar tokens.
parallel sampling (conceito): Método descrito no vídeo em que o sistema avalia todas as respostas possíveis ao mesmo tempo.
RLCD (conceito): Método de treinamento que busca fazer a confiança estimada pelo sistema corresponder à frequência com que acerta.
Lambda (empresa): Empresa apresentada no encerramento como provedora de GPUs NVIDIA para experimentos de IA.
NVIDIA (empresa): Empresa cujas GPUs são mencionadas no anúncio de infraestrutura da Lambda.

Tradução completa (pt-BR)

00:00 Uma nova IA chamada Jeff está conquistando o mundo, mas por que se empolgar com um sistema de IA que nem consegue escrever texto? Ela tomou a internet de assalto, então vamos separar os fatos do exagero. Certo, ela não escreve texto. Em vez disso, toma decisões. Você insere uma pergunta e algumas opções, e recebe uma resposta. É meio como Quem Quer Ser um Milionário?, mas você não espera pela resposta: ela aparece instantaneamente, até cerca de 200 vezes mais rápido

00:32 do que nossos chatbots de hoje. Isso é muito útil. Você também pode jogar videogames com ela. Viva! A pergunta é o estado do mundo, e as respostas possíveis são os movimentos que você pode fazer. E, se ela for extremamente rápida, pode jogar em tempo real. Mas fica ainda melhor. LLMs são relativamente lentos, então, quando você programa algo com uma IA superinteligente, tudo leva muito tempo. Mas, no meio do caminho, você também tem algumas decisões simples. Qual arquivo eu

01:04 abro? Qual falha importa? Tento de novo ou sigo em frente? E é aí que Jeff pode ajudar. Passe essas decisões para Jeff, e ele as resolve quase instantaneamente. Em alguns casos, isso pode acelerar de forma significativa um sistema de IA agentiva e até reduzir o uso de tokens. Isso deixa tudo mais barato e rápido. É incrível. Agora, não há artigo de pesquisa, mas alguns de vocês, colegas acadêmicos, provavelmente vão dizer: “Certo, isso é um classificador, uma ideia que já existe

01:37 há cerca de 90 anos. Então, o que há de novo aqui?” Bem, primeiro, não há um artigo de pesquisa oficial. Há apenas uma descrição de alto nível no site, mas isso não nos impede, colegas acadêmicos, de fazer nossa pesquisa, não é? Agora, segurem seus artigos, colegas acadêmicos. Vamos lá, desta vez com mais sentimento.

02:10 Agora sim. Aliás, uma música de verdade. Então, ideias parecidas vêm sendo exploradas há muitos e muitos anos. Há artigos abertos surpreendentemente próximos em espírito, e aqui celebramos a ciência e a pesquisa incríveis. Então, gostaria de dizer um

02:44 muito obrigado aos cientistas por trás desses trabalhos abertos anteriores. Portanto, a ideia básica do Jev certamente não é nova, mas o Jev também combinou três ingredientes. Primeiro, uma nova arquitetura criada para tomar decisões, em vez de gerar tokens. Segundo, ela avalia todas as respostas possíveis de uma só vez, em vez de uma por uma. Eles chamam isso de amostragem paralela. E, terceiro, um novo método de treinamento chamado

03:14 RLCD, em que a confiança da IA corresponde aproximadamente à frequência com que ela acerta. Então, se ela disser que tem 80% de confiança, deve acertar cerca de 80 vezes em 100. Não sempre. Por que isso é bom? Bem, assim você pode olhar o valor de confiança e decidir quando confiar nela ou recorrer a um modelo mais pesado e inteligente. Mais uma vez, ideias parecidas vêm sendo exploradas há anos. Mas a forma como esta foi montada é uma combinação incrível

03:48 que nos dá uma ferramenta nova e muito útil. Adorei. E vocês, colegas acadêmicos, também estão criando implementações open source dela. Isso é ciência aberta no seu melhor. Vocês são incríveis. Então, vamos manter a calma e separar os fatos do exagero. Ela é incrível? Sim. Mais um ingrediente rumo a uma IA local e rápida, que poderemos ter para sempre. E ela também está sendo muito

04:18 impulsionada pelo exagero e pelo marketing viral? Sim. É algo novo? Em parte. Certo, demorei um pouco mais para fazer este vídeo para vocês. Isso não é ótimo para as visualizações, mas faço isso para ser mais conciso, procurar artigos relacionados e ver como vocês, colegas acadêmicos, usam isso na prática. Assim, o vídeo fica melhor para vocês. Inscrevam-se e ativem o sininho para ver mais artigos. Uso o Lambda para reproduzir artigos de pesquisa sobre IA, muitas vezes em questão de minutos. Também é ótimo para treinar seus próprios modelos ou encontrar uma ferramenta, um

04:50 existente. Ou para gerar imagens ou vídeos a partir de texto, facinho. Rodar um chatbot ou agent do DeepSeek: super-rápido e superconfiável. O Lambda oferece GPUs Nvidia poderosas para você executar seus próprios experimentos. Testo ideias dos artigos que abordo e, momentos depois, tenho os resultados. Adoro. Sério, experimente agora em lambda.ai/papers.

Transcrição original

[00:00] A new AI called Jeff is taking the world by storm, but why get excited for an AI system that can’t even write text? It properly ran over the internet, so let’s try to separate the facts from the hype. Okay, so it does not write text. Instead, it makes decisions. A question and some options go in, one answer comes out. Kind of like Who Wants to Be a Millionaire, but you don’t wait for [music] the answer, it pops out instantly, up to about 200 times faster

[00:32] than our chatbots today. That is very useful. You can also play video games with it. Hooray! The question is the world state and the potential answers are the moves you can make. And if it is extremely fast, it can play things in real time. But it gets better. LLMs are relatively slow, so when you code up something with a super smart AI, everything takes a long time. But along the way, you also have a few simple decisions too. Which file do

[01:04] I open? Which failure matters? Retry or move on? And this is where Jeff can help. Offload these decisions to Jeff and it solves them nearly instantly. In some cases, it can meaningfully speed up a fable-like AI system and even cut down the token usage. It makes things cheaper and faster. That is amazing. Now, there is no research paper, but some of you fellow scholars probably say, “Okay, this is a classifier, an idea that dates

[01:37] back around 90 years now. So, what’s new here?” Well, first, there is no official research paper. There is only a high-level description on the website, but it doesn’t stop us fellow scholars from doing our research, does it? Now, hold on to your papers, fellow scholars. Come on, this time with more feel. >> [music]

[02:10] [music] [music] >> Now we’re talking. Actual song, by the way. So, similar ideas have been explored for years and years now. There are open papers surprisingly close in spirit, and we celebrate amazing science and research here. So, I would like to say a

[02:44] big thank you to the scientists behind these earlier open works. So, the basic idea in Jev is certainly not new, but Jev also combined three ingredients. One, a new architecture that is built to make decisions instead of generating tokens. Two, it evaluates all possible answers all at once instead of one by one. They call it parallel sampling. And three, a new training method they call

[03:14] RLCD, where the AI’s confidence roughly matches how often it is right. So, if [clears throat] it says 80% confident, it should be correct about 80 times out of 100. Not always. Why is that good? Well, this way you can actually look at the confidence value and decide when to trust it or fall back to a heavier, smarter model. Once again, similar ideas have been explored for years now. But, the way this one is put together, it is an incredible

[03:48] combination that gives us a really useful new tool. Love it. And you fellow scholars are also pumping out open source implementations of it as well. That is open science at its best. You are amazing. So, let’s be level-headed and separate the facts from the hype. Is it awesome? Yes. One ingredient closer to fast local AI that we will be able to own forever. Now, is it also heavily

[04:18] amplified by hype and viral marketing? Yes. Is it new? Partly. Okay, I took a bit longer to make this for you. That’s not great for views, but I do it to be more concise, look up related papers, and see how you fellow scholars use it in practice. That is a better video for you. Subscribe and hit the bell for more papers. I use Lambda to reproduce AI research papers often in minutes. It’s also great to train your own models or find tool an

[04:50] existing one. or text-to-image or video, easy peasy. Running a deep seek chatbot or agent, super fast, super reliable. Lambda gives you powerful Nvidia GPUs to run your own experiments. I test ideas from the papers I cover and moments later, results. Love it. Seriously, try it out now at lambda.ai/papers.