JEV: como funciona e o que você pode criar

Autoria: Riley Brown · Assistir no YouTube

Vídeo de autoria do canal indicado, não da IANIA; todos os direitos pertencem ao criador. Transcrição, resumo e tradução gerados automaticamente; o conteúdo no idioma original é preservado na versão em idioma original.

Idioma original: inglês

Vídeo original: JEV: How It Works and What You Can Build · Canal: Riley Brown · 19:49 · Assistir no YouTube

Tópicos: Agentes de IA, Aplicações empresariais de IA, Automação de tarefas e workflows, Dados, bancos de dados e embeddings, Modelos de IA

Resumo

O vídeo apresenta Jev, um modelo da Type-safe voltado a tomar decisões rápidas e baratas, em vez de gerar texto como um LLM. Riley demonstra seu uso para classificar e-mails por categoria, urgência e probabilidade de golpe, e explica seus três tipos de saída: escolha, pontuação e null. Ele também aborda custo, velocidade e context window, além de exemplos de uso em direção autônoma, trading e automação de navegador. Por fim, mostra como obter acesso ao modelo e usá-lo por meio do Vercel AI Gateway.

Pontos-chave

Jev é apresentado como um modelo que lê linguagem, mas não gera texto; sua resposta é uma decisão estruturada acompanhada de um nível de confiança.
O vídeo descreve três tipos de saída: choice, score e null.
Em uma demonstração, Jev analisa 500 e-mails e os classifica por categoria, importância e probabilidade de serem golpes.
O apresentador cita benchmarks da empresa de cerca de 0,4 segundo e US$ 0,0004 por decisão, em comparação com cerca de 10 segundos e US$ 0,03 para um LLM tradicional.
A context window informada é de 64 mil input tokens, menor do que a de alguns modelos citados no vídeo.
Entre os usos sugeridos estão monitoramento e encaminhamento de mensagens, filtragem de spam, trading e automação de navegador.
O vídeo afirma que decisões com opções predefinidas podem ser úteis em tarefas como escolher ações de direção ou decidir entre comprar, vender e manter.
É possível solicitar acesso pela lista de espera da Type-safe ou usar Jev pelo Vercel AI Gateway, conforme explicado no vídeo.

Capítulos

Início	Capítulo	Resumo
00:00	Apresentação de Jev e demonstração com e-mails	Riley apresenta Jev como um modelo voltado a decisões e mostra sua velocidade ao analisar e categorizar 500 e-mails.
04:08	Como Jev responde: choice, score e null	O vídeo explica que Jev não é um LLM gerador de texto e detalha seus três formatos de saída com exemplos de classificação de e-mails.
10:57	Saídas estruturadas, velocidade e custo	O apresentador compara as respostas estruturadas de Jev com as de um LLM e cita benchmarks de custo e tempo por decisão.
13:04	Usos para monitoramento e filtragem	Riley discute o monitoramento de mensagens e demonstra a identificação de possíveis golpes entre os e-mails.
16:11	Exemplos de uso e acesso ao modelo	O vídeo comenta demonstrações de direção, trading e automação de navegador e explica como solicitar acesso ou usar Jev pelo Vercel AI Gateway.

Citações

Ele lê linguagem como um LLM, mas nunca escreve. — 04:40

Ele responde de três formas: escolha, pontuação ou null. — 05:12

Ele não desperdiça tokens com a parte de texto. — 11:59

Você pode monitorar tudo muito rapidamente. — 13:04

Conceitos e entidades

Jev (modelo): Modelo apresentado como especializado em tomar decisões estruturadas de forma rápida e barata, sem gerar texto.
TypeSafe AI (empresa): Empresa que, segundo o vídeo, lançou o modelo Jev.
Diogo Almeida (pessoa): Pessoa citada no vídeo como co-inventor do ChatGPT e fundador da Type-safe.
Claude (ferramenta): Assistente usado pelo apresentador para criar aplicativos e um agente que seleciona modelos.
Vercel AI Gateway (ferramenta): Gateway de IA mencionado como uma forma de acessar Jev.
Codex (ferramenta): Ferramenta que o apresentador diz usar para solicitar a criação de aplicativos com Jev.
classificação (conceito): Processo de organizar uma entrada em categorias predefinidas, um dos usos centrais demonstrados para Jev.
choice, score e null (conceito): São os três formatos de saída atribuídos a Jev no vídeo: escolha entre opções, pontuação em uma escala e probabilidade de uma afirmação ser verdadeira.

Tradução completa (pt-BR)

00:00 Temos uma notícia enorme no mundo da IA. Uma empresa chamada Type-safe acabou de lançar um novo tipo de modelo, muito diferente dos outros modelos sobre os quais falo regularmente, como GPT-6 Astra e Fable 5.1. Esse novo modelo se chama Jev e não é um chatbot. Ele nem sequer consegue escrever uma frase. Simplesmente toma decisões inteligentes muito mais rápido e por muito menos do que qualquer outro modelo. Neste vídeo, vou mostrar três exemplos de ferramentas que criei com esse novo

00:30 modelo Jev e também vou explicar as 10 coisas que você precisa saber sobre esse modelo antes de começar a usá-lo. Acabei de pedir ao Claude que criasse este app para mim, que usa Jev. Veja a rapidez com que Jev está analisando 500 dos meus e-mails. Ele está passando por todos os meus e-mails. Já analisou 80, 90, 100, 110, 120, 130. E você pode ver aqui que está categorizando cada um dos e-mails. Está decidindo quais exigem uma resposta. Há muitos e-mails aos quais preciso

01:02 responder hoje. Não sou muito bom em verificar meu e-mail. E você pode ver aqui que ele está passando por todos eles e terminou. Analisou 500 de 500 e-mails e, em seguida, criou este gráfico de pizza com todos os diferentes tipos de e-mails que recebi. E talvez você esteja pensando: “Tá, Riley. Parece bem legal. Mas que diabos é isso?” Não se preocupe. Vamos falar sobre as 10 coisas que você precisa saber sobre Jev para começar a usá-lo. Mas a primeira coisa de que quero falar

01:32 é o vídeo de lançamento. Alguns dias atrás, Diogo Almeida disse: “Depois de co-inventar o ChatGPT, continuei me perguntando: por que modelos de chat sobre-humanos não levaram à AGI? Passei os últimos 2 anos trabalhando em segredo para desenvolver uma nova maneira de treinar modelos, RLCD, e um novo tipo de modelo de IA de ponta que estamos lançando hoje: Jev. Ele é de 20 a 200 vezes mais rápido, de 40 a 400 vezes mais barato,

02:03 otimizado para decisões. E já vamos explicar o que isso significa. Pouco antes de gravar este vídeo, criei um agent de IA com um roteador de modelos que usa Jev. Então, com base na minha entrada, ele usará Jev para decidir imediatamente qual modelo deve usar. Criei isso com um único prompt no Claude. Vou mostrar o prompt daqui a pouco, mas deixe-me mostrar como funciona. Oi, sou Riley. Este é um pedido bem simples. Ele deveria usar um modelo bem barato. Não há

02:34 necessidade de usar um modelo muito poderoso. Veja o que acontece. Vou clicar em enviar. E Jev selecionou imediatamente o Nano, que é o menor modelo. Vamos subir um pouco na escala. Vou atualizar a página. Vou dizer: “Oi, sou Riley. Quero criar um app que use um wrapper de API. Diga qual é a melhor maneira de fazer isso.” Não acho que isso vá exigir um modelo de ponta. Acho que talvez precise de um nível acima. Talvez use um modelo

03:05 um pouco mais inteligente que o Nano. E veja só. Ele realmente selecionou o Claude Sonnet 5, que é o equilibrado, certo? Há o minúsculo, ou nano, o rápido, o equilibrado e o de ponta. E criei este agent, que consegue pesquisar na web, gerar arquivos e até escrever código. Criei isso com um único prompt, e é bem legal. Então, aqui diz: “Por favor…” Vou dizer: “Por favor, você pode gerar todo o código para isso? Garanta que esteja

03:37 perfeito.” Não acho que ele vá escolher o modelo de ponta. Na verdade, ainda não consegui fazê-lo selecionar o modelo de ponta. Mas, como você pode ver aqui, ele tem 95% de certeza de que deve usar este modelo equilibrado. E Jev foi criado para tomar decisões rápidas e de alta qualidade por um custo baixíssimo. Certo, a primeira coisa que percebi sobre Jev, quando conversei com meus amigos, foi que eles disseram que ele é muito bom em classificação. Então, o que significa classificação? Classificação

04:08 é uma maneira de organizar uma entrada em algumas categorias que você definiu previamente. Certo? Se configurássemos isso no nosso e-mail, ele basicamente os organizaria em categorias. Por exemplo: uma pergunta de cliente, um patrocínio ou spam. Este modelo é muito bom em classificar dados com precisão e rapidez em uma categoria predefinida. Então, o que é a Type-Safe AI? Type-Safe AI é o nome da empresa; Jev é o modelo. O cara que trabalhou no ChatGPT saiu para fundar uma empresa chamada

04:40 Type-Safe, e então eles lançaram o modelo chamado Jev. Então, Jev é um LLM? Eles dizem: “Não, não é um LLM. Ele lê linguagem como um LLM, mas nunca escreve nada.” Certo? Por isso não há custo por token de saída, porque não há tokens de saída. Ele simplesmente apresenta um veredito e o grau de confiança. O LLM prevê a próxima palavra, uma palavra por vez, ou um token por vez. Jev simplesmente responde: “Sim, tenho

05:12 91% de confiança na resposta sim.” Ou então: tem 90% de confiança de que isso se encaixa nesta categoria. Certo, esta é, na verdade, a coisa mais importante que você precisa entender sobre Jev quando começar a usá-lo. E é isto: como ele responde exatamente e quais são os diferentes tipos de resposta? Vamos ver os três tipos de resposta. Este modelo responde de três maneiras: com uma escolha, uma pontuação ou um valor nulo. Uma escolha é como múltipla

05:44 escolha, certo? Ela se encaixa em uma das opções predefinidas. É assim que ele categoriza. Também há uma pontuação. Você pode criar uma escala e decidir qual será essa escala, e vou mostrar como ela é criada. E também há um valor nulo. Qual é a probabilidade de isso ser verdade? Para ilustrar os diferentes tipos de saída que Jev pode produzir, fiz algumas alterações no meu app de e-mail, que nos dá controle total sobre as entradas e saídas personalizadas. Então, aqui podemos

06:14 ver que podemos adicionar uma escolha, uma pontuação ou um valor nulo. Vamos começar pela opção mais simples, que é um valor nulo, certo? Quando a resposta é apenas uma probabilidade de sim. Lembre-se de que estamos analisando 500 dos meus e-mails. Se clicarmos em valor nulo, podemos escrever algo como: “menciona uma oportunidade de contrato de publicidade”. E, como todas essas informações serão enviadas ao Jev durante a execução, e é assim que ele prevê o grau de confiança na resposta sim, ou a

06:44 probabilidade de uma resposta sim, precisamos garantir que as respostas aqui sejam boas. O e-mail menciona uma oportunidade de patrocínio no conteúdo de Riley? Assim, ele só vai procurar e-mails que mencionem uma oportunidade de contrato de publicidade. Vamos executar. E observe aqui: esta é a saída do tipo valor nulo. Certo? A maioria dos valores é bem baixa, certo? Eles simplesmente não mencionam nada, mas alguns estão em verde,

07:15 o que significa que há mais de 50% de chance de o e-mail mencionar uma oportunidade de contrato de publicidade. Podemos rolar para baixo. Aqui está Riley Wick Symphony. “Oi, Riley, tudo bem? Tenho acompanhado seu conteúdo sobre IA.” Este menciona uma oportunidade de contrato de publicidade. Este tem 90% de confiança, e ele analisou todos os 500. Isso é um valor nulo. Agora, vamos adicionar outro, certo? Podemos adicionar outro, que é uma escolha. Então, vamos adicionar a categoria de

07:48 e-mail. E qual é a categoria do e-mail recebido por Riley? Podemos dizer: contrato de publicidade. Temos contrato de publicidade, atualização de assinatura, abordagem não solicitada, newsletter e nativo de agent. Para esta categoria, coloquei e-mails bem específicos. E vamos chamar esta opção de nativo de agent. Agora temos cinco opções. Vou clicar em salvar. Veja só: quando clico em salvar, ele adiciona a categoria. Então,

08:19 agora temos aqui a categoria do e-mail. Vamos executar Jev de novo. Como você pode ver, esta é a segunda opção. Este é um valor nulo, como a probabilidade de uma resposta sim. E aqui está a categoria do e-mail. E aqui está o grau de confiança da resposta. Podemos ver a categoria. E ele fez isso imediatamente, certo? Veja só: 500 e-mails analisados em questão de segundos. E agora temos a categoria do e-mail, que é

08:51 Muito legal. Certo, agora temos mais um tipo de saída que podemos criar. Já fizemos null, já fizemos choice para categorias. Agora podemos fazer score. Então, acabamos de adicionar um score. E aqui você pode criar uma escala. Acho que importância é uma boa opção. Qual é a importância de Riley ver pessoalmente um e-mail sobre algo relacionado a Riley? E tudo isso são variáveis. Então, é como perguntar: qual é a importância de Riley

09:22 ver pessoalmente o e-mail? E os dados do e-mail serão inseridos ali. E depois, algo relacionado a Riley. E “sobre Riley” é isto aqui. Então, estamos criando uma escala: ignorar, baixa, média, alta, crítica, e podemos adicionar mais uma. Podemos chamar de “hiper”. Vamos chamar de “insana”. Precisa de resposta em até 30 minutos, ou coisas ruins vão acontecer.

09:54 Então, mais uma vez, isto é um score, que avalia a importância, e você, como pessoa que usa Jev, pode definir as diferentes opções da escala: ignorar, baixa, média, alta, crítica, insana. Certo. Agora vamos salvar. Sempre que salvamos, os dados são redefinidos e, mais uma vez, temos o null, que menciona uma nova oportunidade. Ele pode ser uma medição da probabilidade de sim, uma categoria que escolhe entre diferentes opções, ou um score que coloca algo na escala. Agora podemos executar

10:25 e ver a importância de cada e-mail. Olha só que rápido. E ele até mostra a escala aqui, o que é bem legal. E, assim, acho que foram 12, 13 segundos, e temos todos os e-mails analisados. 500 foram classificados e, aqui, nenhum deles foi considerado insano. Nenhum. Seis foram considerados críticos, e podemos clicar em “crítico” para ver o desempenho exato.

10:57 E podemos clicar diretamente na categoria. Pronto: ele categorizou todos aqueles e-mails. Esses são os diferentes tipos de saída que Jev pode produzir. Então, é isso: as saídas são choice, score e null. Agora quero falar de algo um pouco diferente: os LLMs já não conseguiam produzir uma saída estruturada? E a resposta é sim, mas era muito ineficiente, certo? Pense em pedir a um chatbot que forneça uma

11:27 saída e, depois, ele teria que formatá-la como JSON. E como Jev não pode escrever qualquer coisa, a estrutura não faz parte da solicitação: é a única coisa que ele pode retornar. Este modelo foi feito para responder de forma estruturada. Certo? Então, o LLM teria que gerar texto, formatar esse texto e depois analisar o texto para extrair todas essas informações que aparecem aqui, certo? Se olharmos para tudo isso, um LLM precisa fazer muito trabalho para formatar desse jeito. Já este modelo que temos

11:59 aqui, Jev, formata tudo automaticamente exatamente no formato necessário. É por isso que há apenas três opções diferentes. Ele fará isso perfeitamente todas as vezes. Também será mais eficiente, porque não desperdiça nenhum token com a parte de texto. E a próxima pergunta que muita gente tem sobre esse modelo é: quão rápido e barato ele é? Podemos ver isso aqui. De acordo com os próprios benchmarks, leva cerca de 0,4 segundo e custa US$ 0,0004

12:32 por decisão. Um custo muito baixo. Já um LLM tradicional custaria cerca de 3 centavos e levaria 10 segundos. Sei que 3 centavos não parecem muita coisa, mas, se você fizer dezenas de milhões de solicitações por dia, o custo aumenta incrivelmente rápido. E veja como ele é mais barato. Então, o custo por decisão é menor, e o tempo por decisão é bem diferente, certo? 0,4 segundo contra 10 segundos.

13:04 Certo, então como estou animado para usar isso? Muito simples: vou monitorar tudo. Do mesmo jeito que acabei de configurar meus e-mails, certo? Consegui monitorar cada e-mail, categorizá-lo e criar um nível de urgência. Basicamente, você pode monitorar tudo muito rapidamente. Dá para fazer isso com qualquer coisa, não só com seus e-mails, mas também com suas DMs nas plataformas sociais, comentários, propostas de patrocínio; tudo pode receber uma etiqueta e ser encaminhado à pessoa certa na empresa. Isso vai

13:34 me permitir organizar todas as informações que chegam à minha empresa. Essa é uma das coisas que me deixam muito animado. Depois, pensei no nível da sociedade, certo? Pensem em quanta porcaria existe na sociedade. Se tivéssemos modelos como Jev, especialmente multimodais e capazes de analisar vídeos, basicamente poderíamos filtrar toda essa porcaria. Além disso, se isso for usado em e-mails, vai filtrar todos os e-mails não solicitados e os golpes. Você poderia facilmente

14:06 perguntar: “Este e-mail é um golpe de phishing?” E podemos fazer isso agora mesmo. Podemos criar um novo null. Criamos um novo null, certo? “Isto é algum tipo de golpe? Este e-mail parece ser um golpe ou algo que não é confiável?” Podemos salvar isso. E então vou perguntar: “Este é

14:36 um e-mail de golpe?” Salvar. Agora temos este novo item: “Este é um e-mail de golpe?” Podemos executá-lo, e ele vai verificar quantos são golpes. Olha só: chegamos a 35, 39, 43, 44, 47, 51. 55. De 500 e-mails analisados, 55 eram golpes. E ele reconheceu isso

15:09 assim mesmo. Alguns têm uma confiança maior que outros, certo? Há 54% de chance de este ser um golpe. Há 71% de chance de este ser um golpe. Mas isso corresponde a 10% da minha caixa de entrada, o que é incrível. Então, acho que talvez seja assim que as notificações vão funcionar no futuro, certo? Deveria haver apenas este filtro personalizado para você, que elimina golpes ou e-mails não solicitados. Acho isso muito legal. E qual é o context window? Ele é

15:40 menor. Lembre-se de que todas essas informações são enviadas à IA e ficam no context dela. E lembre-se de que, para este modelo, só há tokens de entrada. Portanto, o context window é de 64.000 tokens de entrada. Se compararmos com Astro, que tem 1,5 milhão, isso equivale a apenas 6% do Astra ou dos melhores modelos do mundo, como Fable 5.1, que têm cerca de um milhão de context window. Este context window tem apenas 6% disso. Então, é bem

16:11 menor. Fico pensando se eles vão criar uma versão maior, para que você possa adicionar mais contexto sobre a sua empresa durante a classificação, mas esse é o context window. Certo, e por fim, como outras pessoas estão usando esse modelo? Vamos dar uma olhada. Aqui está Justin Schroeder, no Twitter. Isto é muito interessante. Vou aumentar a velocidade para 1,25 e vamos assistir a este vídeo. >> Certo, este novo modelo Jev é realmente algo especial. Ele é diferente dos outros porque não é um LLM, é basicamente um classificador. É um classificador sofisticado, mas de uso geral

16:42 um classificador. Então, ele consegue tomar decisões bem boas, mas você precisa dar a ele as opções que poderá escolher. Aqui, consegui recriar o piloto automático da Tesla praticamente em pouquíssimo tempo. Não sou eu que estou dirigindo; ele está tomando as próprias decisões sobre para onde ir. Basicamente, você fornece a árvore de opções, e >> Lembre-se de que falamos sobre como é preciso fornecer a árvore de opções. Então, ele criou algo parecido com as categorias ou com choice: há opções predefinidas, que provavelmente são continuar em frente, virar à esquerda, virar à direita,

17:12 seguir em frente. Não sei quantas opções ele tinha, mas, a qualquer momento ou em determinados intervalos, o modelo Jev que está sendo executado no aplicativo dele decide qual opção escolher com base em todos os dados ao redor. >> Então ele consegue decidir. Por exemplo, está lendo que há um sinal vermelho ali agora e que precisa parar. Ele sabe que há pedestres. >> Certo, então esse cara, Jared, está usando o modelo em tempo real. Ele está analisando as ações e determinando se é para comprar ou vender, e tem a

17:44 confiança, e ele realmente está fazendo negociações. E você pode ver a demonstração aqui em jevtrader.vercel.app. E isso é muito legal. E isso será usado — ou modelos como este serão usados — para fazer negociações ou outras bobagens de jogo de azar. É o modelo perfeito para isso. Decisões muito rápidas com base em um conjunto de entradas. E, como negociar é comprar, vender ou manter, certo? É um conjunto de saídas muito simples. Você quer algo inteligente, rápido e barato. Porque

18:15 você quer que ele rode repetidamente, sem parar. Basicamente, quer que ele rode a cada segundo. E é isso que o torna muito adequado para casos de uso financeiro, como negociações. E o último caso de uso sobre o qual quero falar é o uso de navegadores e agentes de navegador. Olha só. Como este modelo é tão rápido e cada quadro do seu navegador é basicamente um conjunto de entradas, este modelo, Jev, consegue agir muito mais rápido do que se fosse alimentado por um LLM. Confira. Ele está literalmente preenchendo o

18:46 navegador. Está reservando um voo incrivelmente rápido. E isto é o Jev. Ele levou apenas cerca de 7 segundos para passar por esta tela durante a reserva de um voo. E há algumas maneiras de usar o modelo. Você pode acessar a Type Safe e tentar sair da lista de espera. Tive a sorte de conseguir acesso bem cedo. Então, você pode entrar na lista de espera em typesafe.ai. Mas o próprio modelo também está no Vercel AI Gateway. Basicamente, você precisa

19:17 acessar a Vercel e, aqui embaixo, encontrará o seu AI Gateway. Você vai querer obter sua chave de API para esse AI Gateway, porque o modelo Jev está disponível nele. Então, se você obtiver a chave do AI Gateway, pode simplesmente abrir o Claude ou o Codex. Normalmente uso o Codex. Só que estou sem créditos no Codex, e você pode dizer: “Ei, quero que você crie um app que use o Jev. Aqui está minha chave do Vercel AI Gateway; use o Jev e consulte a documentação.

19:49 Quero que você use o Jev e crie um app com o Jev. Ele foi criado pela Type Safe.” Isso vai permitir que você crie um app. Sua IA pode ir pesquisar sobre o Jev e criar qualquer app que você imaginar. Enfim, vá testar esse modelo. Conte nos comentários como você o usa. Que apps você está criando com o Jev? O que mais deixa você animado? Ou isso está recebendo uma empolgação exagerada? Certo? Estou exagerando na empolgação? Por favor, me conte nos comentários, e nos vemos aqui no próximo vídeo.

Transcrição original

[00:00] We have huge news in the world of AI. A company called Type-safe just released a new type of model that’s very different from the other models I talk about regularly like GPT-6 Astra and Fable 5.1. This new model is called Jev and it’s not a chatbot. It can’t even write a sentence. It simply makes smart decisions way faster and way cheaper than any of the other models. In this video, I’m going to show you three examples of tools I built with this new

[00:30] model Jev and I’m also going to explain the 10 things you need to know about this model before you start using it. So, I just had Claude create this app for me that uses Jev. Watch how fast Jev is going through 500 of my emails. And so, it is running through all my emails. It’s gone through 80, 90, 100, 110, 120, 130. And you can see here that it’s actually categorizing every single email. It’s deciding when we need to respond. There’s a lot of emails I need

[01:02] to respond to today. I’m not that great at checking my email. And you can see here it’s going through all of these and it is done. It has gone through 500 out of 500 emails and then it creates this pie chart of all of the different types of emails that I’ve received. And you might be thinking, “Okay, Riley. That seems pretty cool. But like, what the hell is it?” And don’t worry. We are going to be talking about the 10 things that you need to know about Jev in order to start using it. The first thing I want to talk

[01:32] about, however, is the launch video. So, a few days ago, Diogo Almeida, he said, “After co-inventing ChatGPT, I kept asking myself, why have superhuman chat models not led to AGI? I’ve spent the last 2 years in stealth building a new way to train models, RLCD, and a new type of frontier AI model that we are releasing today, Jev. It is 20 to 200 times faster, 40 to 400 times cheaper,

[02:03] optimized for decisions. And we’ll get into what that means in just a second. Right before I filmed this video, I created an AI agent that has a model router that uses Jev. So, based on my input, it will use Jev to immediately decide which model it should use. And I created this in a single prompt using Claude. I’ll show you the prompt in just a second, but let me show you how this works. Hey, I’m Riley. Now, this is a very simple request. It should use a very cheap model for this. There’s no

[02:34] need to use a really powerful model. Watch what happens. I’m going to hit send. And Jev immediately selected Nano, which is the smallest model. Let’s go up the stack a little bit. So, I’m going to refresh. I’m going to say, “Hey, I’m Riley. I want to build an app that uses API wrapper. Tell me the best way to do it.” Now, I don’t think this will be like frontier. I think this might be one level up. It might use a model

[03:05] slightly smarter than Nano. And look at that. It actually selected using Claude Sonnet 5, which is this balanced, right? There’s tiny or nano, fast, balanced, and frontier. And I created this agent that can search the web, it can generate files, it can actually write code. I created this in a single prompt, and it’s pretty cool. And so, here it says, “Please” I’m going to say, “Please, can you generate all of the code for this. Make sure it’s

[03:37] perfect.” Now, I don’t think it’s going to do the frontier. I actually haven’t gotten it to select frontier. But as you could see here, it is 95% sure that it should be this balanced model. And what Jev is made for is to make really fast, high-quality decisions for incredibly cheap. Okay, the first thing that I realized about Jev when I was talking to my friends about it, they said it’s really good for a classification. So, what does classification even mean? Classification

[04:08] is a way of sorting an input into a few boxes that you’ve named ahead of time. Right? If we were to have this set up on our email, it basically sorts them into categories. It’s like a customer question, a sponsorship, or it’s spam. This model is really good at accurately and quick quickly sorting it into a predefined category. So, what is Type-Safe AI? And so, Type-Safe AI is the name of the company, Jev is the model. The guy who worked on ChatGPT left to start a company called

[04:40] Type-Safe, and then they just released their model called Jev. So, is Jev an LLM? And so, they say, “No, it is not an LLM. It reads language like an LLM, but it never writes any.” Right? That’s That’s why there’s no output token cost because there is no output tokens. It just spits out a verdict and how sure it is. The LLM predicts the next word one word at a time or one token at a time. Jev will just respond with, “Yes, it is

[05:12] 91% confident in yes.” Or it is 90% confident it falls into this category. Okay, so this is actually the most important thing that you need to understand about Jev when you’re using it for the first time. And that is, how does it actually respond and what are the different types of responses? Let’s go over all three types of responses. So, this model will respond in three ways. It’s either a choice, a score, or a null. A choice is like multiple

[05:44] choice, right? It fits into one of your predefined choices. That’s how it does categories. Now, there’s also a score. So, you can create a scale, and you get to decide what the scale is, and I’ll show you how that’s created. And then there’s also a null. How likely is this true? To illustrate the different types of outputs that Jev can have, I made some changes to my email app, which gives us full customizability over the inputs and the outputs. So, here we can

[06:14] see that we can add a choice, we can add a score, or a null. Let’s start with the simplest one, which is a null, right? Where the answer is just a probability of yes. So, remember, we’re analyzing 500 of my emails. If we click null, we could say something like mentions a brand deal opportunity. And so then, since all of this information will be sent into Jev when it runs, and that’s how it predicts how confident it is in yes or the

[06:44] probability of a yes, we want to make sure that we give good answers here. Does the email mention an opportunity for sponsorship in Riley’s content? So, it’s only going to be looking for emails that mention a brand deal opportunity. So, let’s go ahead and run this. And notice here, this is the null style output. Right? And so, most of them are very low, right? They just don’t mention anything, but some of them are green,

[07:15] meaning there’s above a 50% chance that it mentions a brand deal opportunity. And so, we can scroll down. Here, it’s Riley Wick Symphony. Hey Riley, how are you? I’ve been following your AI content. And so, this one commands a brand deal opportunity. This one is 90% sure, and it went through all 500 of them. So, that is a null. Now, let’s go ahead and add another one, right? So, we can add another one, which is a choice. So, here we are going to add category of

[07:48] email. And so, what is the category of the email received by Riley? And we could say brand deal. We have brand deal, subscription update, cold pitch, newsletter, and agent native. Here for this, I put very specific emails. And we’re going to call this agent native. And so, now we have five options. I’m going to hit save. Now, check this out. When I hit save, it added category. So,

[08:19] now we have category of email here. So, let’s go ahead and run Jev again. And as you can see here, that is the second option. This is a null, which is like probability of a yes. And here is a category of email. And here is the confidence of its response. And we can see the category. And it did it immediately, right? Look at that. 500 emails in a matter of seconds, all analyzed. And now we have the category of email, which is

[08:51] really cool. Okay, so now we have one more type of output that we can create. We’ve done a null, we’ve done choice for categories. Now, we can do score. So, we just added a score. And here you can create a scale. And so, I’m just going to go I think importance is actually pretty good. How important is it Riley personally sees email about given about Riley? And these are all variables. So, it’s just like, how important is it that Riley

[09:22] personally sees email? And the data from the email will be placed in there. And then given about Riley. And so, about Riley is just this right here. And so, we’re creating a scale. Ignore, low, medium, high, critical, and we can add one more. We can call this like hyper. We’ll just call this insane. Needs response within 30 minutes or bad things happen.

[09:54] So that again, this is a score and it’s scoring its importance and you get to decide as the person who’s using Jev the different scale. Ignore, low, medium, high, critical, insane. Okay. So now we’re going to save this and whenever we save it, the data gets reset and again, we have the null which is mentions a brand new opportunity. That is either yes, it’s a measuring the probability of yes, the category choosing between different options, or a score which will place it in the scale. So now we can run

[10:25] it and let’s see the importance of each email. Look at how fast this goes. And it even has it on the scale right here, which is pretty cool. And just like that, I think that was 12, 13 seconds, we have all the emails analyzed. 500 were classified and here we have none of them were insane. None of them. Six were critical and we can actually click on critical and we can see the exact performance.

[10:57] And so we can actually click directly on the category and there you go. It categorized all of those emails. So those are the different types of outputs that Jev can do. So there we go. The outputs are choice, score, and null. Now I want to talk about something a little bit different, which is couldn’t LLMs already do a structured output? And the answer to that question is yes, but it was really inefficient, right? Think about asking a chatbot to give you an

[11:27] output and then it would actually need to format its output as JSON. And because Jev can’t write it all, structure isn’t part of the request. It’s the only thing it can return. This model is returned to respond in a structured fashion. Right? So, the LLM would need to generate text, format that text, and then parse the text into all of that information that shows up here, right? If we look at all of this, like an LLM has to do a lot of work to format it like this. Whereas this model that we

[11:59] have right here, Jev automatically formats it in the exact format. And that’s why there’s only three different options. It will do it perfectly every single time. It will do it more efficiently because it doesn’t waste any tokens on the text portion. And the next question that a lot of people have about this model is like, how fast and how cheap is this model? And we can take a look at it here. So, based on their own benchmarks, it’s around 0.4 seconds and $0.0004

[12:32] per decision. Very small cost. Whereas a traditional LLM would cost somewhere around 3 cents and take 10 seconds. I know 3 cents doesn’t sound like crazy, but if you’re doing tens of millions of requests per day, it starts to add up incredibly fast. And look at how much cheaper it is. So, it’s cheaper in cost per decision and the time per per decision is way different, right? 0.4 seconds versus 10 seconds.

[13:04] Okay, so how am I excited to use it? And very simply, I’m going to monitor everything. The same way that I just set up my emails, right? I was able to monitor every email and categorize it and create a level of urgency, and you can basically monitor everything really quickly. You could do this about everything, not just your emails, but you could do your DMs across social for platforms, comments, sponsorship pitches, every single thing gets tagged and potentially routed to the correct person within the company. This will

[13:34] allow me to organize all of the information that comes into my company. And so, that is one thing that I’m really excited about. And then, I was thinking at a societal level, right? Think about how much slop there is at the societal level. If we were to get models like Jev that are especially multimodal and can analyze videos, we could basically filter out all of the slop. Additionally, if this is used in email, it’ll filter out all of the cold emails, the scams. You could very easily

[14:06] say, “Is this email a phishing scam?” And we can actually do this right now. We can actually create a new null. We create a new null, right? Is this a scam of any kind? Does this email look like a scam or something untrustworthy? We could actually save this. And then, I’m going to say, “Is this

[14:36] scam email?” Save. Now, we have this new one. Is this a scam email? And we can run it, and it will check on how many of them are a scam. And look at this. We’re at 35, 39, 43, 44, 47, 51. 55. Out of 500 emails analyzed, 55 of them were scams. And it was recognized just

[15:09] like that. Some of them are more confident in others, right? This is a 54% chance that this is a scam. 71% chance that this is a scam. But that’s a 10% of my email inbox, which is crazy. And so I think this may be how notifications work in the future, right? There should just be this filter that you have personalized for you, which filters out scam or cold emails, which I think is really cool. And what is the context window? So the context window is

[15:40] smaller. Remember, all of this stuff is actually sent to the AI as it’s in its context. And remember, there’s only input tokens for this model. So the context window is 64,000 input tokens. So if you compare this to Astro, which is 1.5 million, this is actually only 6% of Astra or the best models in the world like Fable 5.1, which are around a million context window. This context window is only 6% of that. So it’s much

[16:11] smaller. I wonder if they’re going to create a bigger one so you can add in more context about your business as it’s doing the classification, but that is the context window. Okay, and finally, how are other people using this model? Let’s take a look. So here’s Justin Schroeder on Twitter. This is very interesting. I’m going to turn this up to 1.25 speed, and let’s watch this video. >> Okay, this new Jed model is really something else. It’s different than the other ones because it’s not an LLM, it’s basically a classifier. It’s a fancy classifier, but it’s a general purpose

[16:42] classifier. And so it’s able to make decisions that are pretty good, but you have to give it the options that it’s going to take. So here I was able to recreate Tesla autopilot in basically no time at all. I’m not driving this, it’s making its own choices about where to go. You basically give it the tree of options, and >> Remember, we talked about how you have to actually give it the tree of options. So it created a just like the categories or a choice, it has predefined choices, which is probably continue going straight, turn left, turn right,

[17:12] straighten out. I don’t know how many choices he had, but he was able to at any given point or in certain intervals, the Jev model that’s running in his application is deciding which option to take based on all of the data around it. >> Then it’s able to decide. So, like it’s reading that there’s a red light there right now and that it needs to stop for it. It knows about the pedestrians. >> Okay, so this guy, Jared, is actually using it in real time. It’s analyzing the stocks and it’s determining whether it is a buy or sell and it has the

[17:44] confidence and it’s actually making trades. And you can actually see the demo here at jevtrader.vercel.app. And this is really cool. And this will be used or models like this will be used to do trading or other gambling nonsense. It’s just a perfect model for it. Very fast decisions based on a set of inputs. And because trading is either buy, sell, or hold, right? It’s very simple set of outputs. You want something smart and fast and cheap. Cuz

[18:15] you want it to run over and over and over again. You basically want this to run every second. And so, that’s what makes it a really good for finance use cases like trading. And so, the last use case I want to talk about is browser use and browser agents. So, look at this. Because this model is so fast and every frame on your browser is basically a set input, this model Jev is able to move so much faster than if it’s powered by an LLM. Check this out. So, it’s literally filling in the

[18:46] browser. It’s booking a flight incredibly fast. And this is Jev. And so, it only took around 7 seconds to get through this screen here when booking a flight. And in order to use it, there’s actually a couple ways that you can use it. You can go to Type Safe and try and get off the waitlist. I was lucky enough to get access pretty early. So, you can get on the waitlist at typesafe.ai. But also the model itself is on the Vercel AI Gateway. You basically want to

[19:17] go to Vercel, and then down here you have your AI Gateway, and you want to get your API key for this AI Gateway, because this model, Jev, is actually on the AI Gateway. So, if you get the AI Gateway key, you can literally go to Claude or Codex. I normally use Codex. I’m just out of credits on Codex, and you can just say, “Hey, I want you to create an app that uses Jev, and this app, here is my Vercel AI Gateway key, use Jev, look up the docs.

[19:49] I want you to use Jev and create an app with Jev. It’s created by Type Safe.” And this will allow you to create an app. Your AI can go off and learn about Jev, and it will create whatever app you can think of. So, anyway, go out there, test this model. Let me know in the comments how you use it. What apps are you creating with Jev? What are you most excited about? Or is this super overhyped? Right? Am I overhyping this? Please let me know in the comments, and I’ll see you here for the next video.