Jev + Claude Code — dando a uma IA controle por voz do meu navegador

Ver no idioma original →

Autoria: Prompt Engineer 48 · Assistir no YouTube

Vídeo de autoria do canal indicado, não da IANIA; todos os direitos pertencem ao criador. Transcrição, resumo e tradução gerados automaticamente; o conteúdo no idioma original é preservado na versão em idioma original.

Idioma original: inglês

Vídeo original: Jev + Claude Code — When you give Voice Control of My Browser to an AI · Canal: Prompt Engineer 48 · 18:14 · Assistir no YouTube

Tópicos: Agentes de IA, Automação de tarefas e workflows, Claude Code, Engenharia de prompts e contexto, Modelos de IA

Resumo

O vídeo apresenta Jev, um modelo voltado a decisões estruturadas, e compara sua velocidade e custo com os de LLMs tradicionais. O apresentador demonstra três tipos de saída: respostas sim/não, escolha entre opções e pontuações, sempre com probabilidades ou níveis de confiança. Em seguida, mostra como instalar uma skill do TypeSafe AI no Claude Code e como usá-la para criar um aplicativo de controle por voz do Chrome. A demonstração inclui comandos de navegação no YouTube e exemplos de outros usos, como seleção de roupas e filtragem de notícias.

Pontos-chave

• Jev é apresentado como um modelo de decisão, não como um LLM de uso geral para escrever textos ou explicar assuntos.
• O modelo produz saídas estruturadas a partir de opções e formatos definidos, em vez de gerar respostas livres.
• Os três tipos de saída demonstrados são sim/não, escolha entre opções e pontuação em uma escala.
• As respostas incluem probabilidades ou níveis de confiança, e o apresentador destaca a rapidez das avaliações.
• O vídeo demonstra a instalação de uma skill do TypeSafe AI no Claude Code.
• Com essa integração, Claude Code criou e testou um aplicativo que interpreta comandos de voz e controla o Chrome.
• O apresentador também mostra exemplos de seleção de roupas e filtragem de notícias por empresas.
• O modelo é indicado para tarefas de classificação, avaliação e direcionamento entre diferentes ações.

Capítulos

Início	Capítulo	Resumo
00:00	Apresentação do Jev e das decisões estruturadas	O apresentador introduz o Jev como um modelo que retorna decisões tipadas, em vez de escrever respostas em linguagem natural.
03:45	Acesso ao serviço e tipos de saída	O vídeo mostra a plataforma e explica os formatos de escolha, sim/não e pontuação com exemplos de triagem de mensagens.
11:12	Limitações, custo e integração com Claude Code	O apresentador ressalta que o Jev não é um LLM de uso geral e demonstra a skill do TypeSafe AI para Claude Code.
13:21	Criação do aplicativo de controle por voz	Claude Code gera e testa um aplicativo que usa comandos de voz para controlar o Chrome.
15:32	Demonstração no navegador e outros usos	O apresentador testa comandos de navegação e mostra exemplos de seleção de roupas e filtragem de notícias.

Citações

Estamos trabalhando com decisões, não com texto. — 00:00

O Jev é otimizado para produzir decisões tipadas para máquinas. — 04:18

Não dá para pedir que ele escreva um poema ou explique alguma coisa. — 11:12

Vá para o YouTube. Vá para o canal do YouTube Prompt Engineer 48. — 15:32

Conceitos e entidades

• Jev (modelo): Modelo apresentado no vídeo para produzir decisões rápidas e estruturadas, como escolhas, respostas sim/não e pontuações.
• TypeSafe AI (empresa): Serviço apresentado como provedor do Jev, com playground, API, documentação e uma skill para agentes.
• Claude Code (ferramenta): Ferramenta usada no vídeo para instalar a skill do TypeSafe AI e criar o aplicativo de controle por voz.
• skill (conceito): Conjunto de instruções e recursos que o apresentador instala no Claude Code para integrar o serviço.
• Playwright (ferramenta): Ferramenta mencionada na descrição técnica do aplicativo como parte do controle do Chrome.
• Faster Whisper (ferramenta): Componente descrito no fluxo do aplicativo para converter a fala captada pelo microfone em texto.

Tradução completa (pt-BR)

00:00 Acesse o YouTube. Vá ao canal do Prompt Engineer 48 no YouTube. Clique no primeiro resultado, Prompt Engineer 48. Vá à aba de vídeos. Role para cima. Certo, essa é uma demonstração maravilhosa. Agora vamos ver e entender o que é o Jev. Essencialmente, estamos trabalhando com decisões, não com strings. É um modelo de IA que nunca escreve uma frase. Então, não dá para esperar que ele responda a pedidos como “escreva um poeminha”, “escreva um conto” ou qualquer coisa do tipo. Ele

00:34 vai responder apenas em três formatos, que veremos daqui a pouco. Mas ele é 193 vezes mais rápido, 244 vezes mais barato, e a saída é tipada, o que significa que responde usando a lista de itens que você autorizou. Este é o resumo: é 193 vezes mais rápido que um LLM de fronteira, até 444 vezes mais barato para o mesmo trabalho e custa cerca de US$ 42 por bilhão de tokens de entrada. Atenção: por bilhão, não por milhão. E, essencialmente, os tokens de saída são gratuitos, e ele toma decisões 150 milissegundos

01:07 mais rápido do que a percepção humana, o que é realmente ótimo. E temos usado modelos de texto como mecanismos de decisão, o que é muito errado. Então, o que fazíamos com todos os LLMs — por exemplo, com os modelos treinados por reinforcement learning from human feedback, esse tipo de LLM que conhecemos — era colocar um prompt e implorar por uma resposta. Pedíamos ao modelo, em inglês, que respondesse em formato JSON; depois, tentávamos analisar o Markdown, repetir a tentativa quando ele se desculpava em vez de responder e, então, torcíamos para que houvesse confiança calibrada. Assim, não conseguimos dizer se a resposta está certa ou se podemos confiar nela.

01:41 E aí precisamos ficar supervisionando, com uma pessoa no loop, o que é muito ruim. A automação nunca chega a ser lançada e, por isso, não conseguimos automatizar com um LLM comum. Agora, o que eles fizeram — e, voltando ao assunto, o que Alma fez — foi trabalhar antes com RLHF. Ele passou as últimas duas décadas, em segredo, desenvolvendo essas novas formas de treinar modelos. Eles são de 20 a 200 vezes mais rápidos

02:11 do que um LLM comum, de 40 a 400 vezes mais baratos, e o token de saída é basicamente gratuito, porque não há nada para escrever em formato longo. A resposta é apenas uma das opções entre as quais você pediu que ele escolhesse. E isso é realmente incrível. [música] Basta fazer uma pergunta como faria a um LLM e obter a resposta. Até agora, temos treinado modelos com reinforcement learning from human feedback, mas, com esse novo modelo, não estamos nos aproximando da AGI. E o que você acha que isso é?

02:41 Também é difícil de automatizar. À esquerda, você pode ver o TypeSafe em comparação com qualquer outro LLM. O que fizeram com esse modelo foi reinforcement learning from calibrated decision, e isso é bem diferente. Você pode ver a saída aqui: é realmente rápido. Ele concluiu em 114 segundos, enquanto um LLM comum demora um pouco. Dá para ver que eles concluíram em 8,56 segundos. Este é o site oficial, typesafe.ai. Este é o primeiro modelo público de sistema 1. Modelo de sistema 1 significa que ele

03:13 pensa rápido, enquanto os modelos de sistema 2 pensam devagar, mas em formato longo. Certo. Para ter acesso ao type.ai, você pode entrar na lista de espera aqui. Já me inscrevi na lista de espera e recebi US$ 5 em créditos. Se você acessar a seção de uso aqui, verá que estamos nesta página. Depois de conseguir acesso, você será direcionado para cá. Temos Início, Playground e Uso, e dá para ver que tenho usado bastante. As API keys ficam aqui. Você pode gerar uma API key e usá-la na sua criação. Posso copiar esta API key e pronto.

03:45 Vou apagá-la, porque a API key está visível agora. Se você for à página inicial e acessar as configurações aqui, verá que, na seção de cobrança, recebe cerca de US$ 5 para testar. Tenho feito muitos testes e dá para ver que gastei apenas US$ 0,71 e ainda tenho bastante crédito. Posso testar muita coisa com esses US$ 5 em créditos. Se você não tiver acesso, também pode acessar o OpenRouter e obtê-lo por lá. Agora, vamos voltar à apresentação. Primeiro, seguimos uma direção de pesquisa oposta. Sabemos que temos

04:18 o reinforcement learning from human feedback. Todo LLM que você conhece é treinado com base na percepção humana. Ele é otimizado para produzir palavras para as pessoas. Mas este Jev usa reinforcement learning CD, que significa decisões calibradas. Ele é otimizado para produzir decisões tipadas para máquinas. O sucesso se parece com uma probabilidade que realmente está certa. Sistema 1: como sabemos, é julgamento rápido, não um processo lento. Então, este é um modelo de sistema 1. LLMs produzem palavras para as pessoas, mas o Jev produz decisões tipadas, e isso é realmente incrível.

04:49 Há três primitivas, três tipos de saída que você obtém deste LLM. A primeira é uma escolha. A escolha seleciona um item específico de uma lista fornecida. Se você acessar a documentação por este botão e depois for à seção de escolha, verá estes exemplos. Uma escolha é um tipo de pergunta de sistema 1 para selecionar uma opção de um conjunto definido. “Em qual linguagem de programação este código foi escrito?” Estas são as opções, e ele vai responder somente

05:20 dentro desse formato. Certo. A outra é a pontuação. Ela representa um grau ao longo de uma dimensão, uma posição ponderada por probabilidade. Se você voltar à seção de pontuação, verá que ela fornece isto. Por exemplo, a pergunta de pontuação sobre a gravidade do bug: “Quão grave é o bug relatado?” Zero significa que não há impacto na funcionalidade; um significa que está quebrado; e dois significa que há problemas bloqueadores. Essa é uma pontuação. Ela vai de zero a um e dois. E a última é

05:54 null. Null é uma pergunta de sim ou não. Ela fornece a probabilidade de um sim ou de um não. Então, se o sim tem 90% de probabilidade, o não tem 10%. Vamos abrir este exemplo. Se você for ao Playground — tenho testado isso com um exemplo —, deixe-me mostrar. Aqui, por exemplo, temos esta mensagem: “Oi, meu Stripe está falhando. Por favor, ajude o quanto antes. Estou perdendo vários clientes de alto valor.” Então, olhando para a

06:24 mensagem, quero fazer três perguntas. Você pode enviar as três perguntas juntas. A primeira que me interessa é do tipo null, o que significa que a resposta é sim ou não. Aqui temos um objeto e estamos dizendo que é do tipo null. A instrução, ou pergunta, é: “Esta mensagem expressa urgência?” Se eu enviar, você verá à direita: sim, é urgente. E dá para ver que há 90% de probabilidade de ser verdadeiro e 2% de ser falso. Este é um formato de sim

06:56 ou não, como verdadeiro ou falso. Então, para “Isso parece urgente?”, a resposta é sim. Se eu escrever “Meu Stripe está… por favor, ajude” — se eu remover isso, o que você acha que vai acontecer? “Meu Stripe está falhando.” Aí fica como 60% de urgência. Certo. Isso muda, e não é algo que eu tenha editado previamente. É realmente rápido. Quando envio este comando, a resposta vem muito rápido. Se você olhar a saída aqui, verá que o tempo de avaliação em milissegundos é de 161 milissegundos, 104 milissegundos. Muito rápido. Se você enviar a

07:30 solicitação, são 118 milissegundos. Então, é realmente rápido. Esse é o tipo de dado ou de pergunta null que você pode fazer. O outro tipo é este: o tipo de escolha. Você precisa fornecer as opções entre as quais o LLM deve responder. Por exemplo, a instrução é: “Qual opção melhor corresponde à situação em que o Stripe está falhando?” Podemos definir estes critérios: contas, cobrança e pagamentos. E uma breve descrição dos três itens.

08:00 aqui. Então, olhando para esta pergunta e considerando a afirmação, qual você acha que seria o resultado? Se eu executar isso, você pode ver que, à direita, o tipo de problema é pagamento. Certo, estou dizendo que meu Stripe está falhando. Parece um problema de pagamento. Se eu disser que a cobrança do meu Stripe está falhando e enviar isso, você pode ver que a categoria de cobrança aparece com 100% de confiança aqui. A confiança é de 99% de que o problema é com a cobrança, não com contas nem com pagamentos. Mas, se eu deixar a frase vaga, o resultado parece ser conta. Certo. E se eu

08:34 disser: “Meu cliente não consegue pagar pelo link do meu Stripe”, o que você acha? Acho que isso estaria relacionado a pagamentos. Você pode ver que há 94% de probabilidade de ser relacionado a pagamento. Este é outro tipo de pergunta: uma pergunta de escolha. Você oferece algumas opções. Aqui, você oferece três opções, mas não está limitado a três, é claro. O sistema também vai fornecer o nível de confiança e a probabilidade de cada opção que considerar.

09:05 E você pode ver esse resultado aqui. Também pode vê-lo no formato JSON. Este é o modelo Jev 1.3, e estas são as respostas. A primeira resposta é esta: “não” tem probabilidade de 0,94. Depois, temos o tipo de problema “escolha”, e você pode ver que a confiança é de 91%. Em seguida, temos pagamento com 94%, contas com zero. Esta é a segunda. E a terceira que vamos analisar é esta. Então, vamos ver o terceiro tipo de variável

09:35 que você pode usar. O terceiro tipo é o tipo de pontuação. A pontuação vai de 0 a 1. Se colocarmos a instrução “onde está a gravidade nesta escala?”, a resposta é que estou perdendo vários clientes de alto valor. Isso definitivamente fica no nível mais alto da escala. Então, o resultado é 1,99. E, se eu remover esta parte, por exemplo, e enviar isso, você pode ver que a gravidade é 1,53. Este é apenas um exemplo para mostrar que você pode enviar as três perguntas juntas e, com base nesta afirmação específica, com base nesses tipos de

10:08 perguntas que fez, seja uma pergunta nula ou, digamos, de escolha e uma pontuação, você obtém este resultado. E, se olhar para ele, não há tokens de saída propriamente ditos: o sistema apenas retorna as respostas às perguntas que você fez. Se for uma resposta de sim ou não, retorna um percentual; se for uma escolha, retorna as probabilidades e a confiança; e, se for gravidade, retorna 0, 1 ou 2. Também retorna o nível de confiança para os tipos de variável de escolha e de pontuação. Certo. E você pode ver que os tokens de entrada são

10:40 392 e os tokens de saída são 70. Não são exatamente zero, porque esse resultado precisa de alguns tokens. Mas, em comparação com outros LLMs, é essencialmente gratuito. Os tokens de saída não custam nada. E este é o ID da solicitação. Este é o tempo de avaliação. Você pode ver: 120 milissegundos. Isso muda dependendo dos servidores. 87 milissegundos, menos; e, em outro caso, cerca de 130. Então, fica entre 80 e 150 milissegundos para esse tipo específico de pergunta. É realmente incrível. Voltando ao site, este é o primeiro modelo, o modelo de sistema um. O modelo de sistema um é um modelo de

11:12 pensamento rápido. O Jev dá à IA as propriedades do código. Isso é muito importante, porque você pode ver a velocidade aqui. É muito rápido, cerca de 193 vezes mais rápido. Este não é um LLM de uso geral. Você não pode fazer perguntas e pedir que escreva um poema ou explique alguma coisa. Ele é, em geral, um tomador de decisões para você, caso já tenha listado as opções. Isso é realmente importante para o software que usa nosso sistema de IA. Já vimos o RLHF. Agora, isto é conhecido como aprendizado por reforço a partir de decisões calibradas

11:42 e é 193 vezes mais rápido e 440 vezes mais barato. Você pode ver que o Type Safe AI é muito rápido e que os outros são realmente lentos. Testei os exemplos aqui: ele é realmente muito rápido. Também podemos ver a relação entre inteligência do workflow e custo. O custo médio é muito baixo. Mas, mais uma vez, você precisa se lembrar das limitações desses tipos de modelo. Basicamente, ele é um tomador de decisões para você. Não funciona como um LLM normal, como o GPT-5.2 Luna, por exemplo. Você pode ver que a taxa de erro na saída estruturada é muito baixa, quase zero. Então, não há

12:15 alucinações, porque o tipo de saída é fixo. Não há nada para alucinar. Portanto, a taxa de alucinação é zero, o que é muito bom. E você pode ver o preço: US$ 40 por bilhão de tokens de entrada. Compare e veja que o preço de entrada é 238 vezes menor do que o do Claude Fable 5.1. Realmente incrível. Então, vamos testar isso. Se você tiver acesso, pode ir ao playground aqui. Desculpe, pode ir à página inicial, onde verá a opção de copiar esta configuração para o Claude Code ou para opções de agentic semelhantes. Também temos o arquivo skill.md.

12:47 Então, você pode baixar esta visualização e verá que este é o arquivo de skill. Ou posso baixar a skill inteira. Posso baixar o skill.md e vou mostrar esse arquivo para você. Uma skill é basicamente chamada Type Safe AI e tem uma descrição: criada com Type Safe. Toda a documentação está listada aqui, e ela tem basicamente tudo o que você precisa. Há cookbooks e tudo mais disponível aqui. Basta copiar este system prompt e colocá-lo no seu sistema. Então,

13:21 estou com o Claude Code aberto aqui. O que fiz foi simplesmente colar esta skill do Type Safe, e podemos ver que ela já está instalada, porque eu já a tinha instalado antes. Se você acessar a documentação e, em seguida, a seção de agent skill para o Claude Code, poderá executar estes dois comandos. Se abrir o cmd, ou o Prompt de Comando em um sistema Windows, e executar isto, verá que já está instalado aqui. Certo. Você pode instalar isso. Depois de concluir, ficará instalado no Claude Code. É isso que está dizendo: que ele

13:55 já tem. Agora quero fazer alguns exemplos. Então, pedi para criar alguns exemplos criativos: IA como se fosse uma instrução if. É uma IA que funciona como uma instrução if. Estes são alguns exemplos diferentes que ele forneceu, mas eu queria mesmo criar aquele app de controle por voz. Então, coloquei o arquivo de ambiente em algum lugar aqui. Coloquei o arquivo de ambiente, o .env, dentro do arquivo VB. Coloquei a chave de API que obtive

14:26 daqui. Depois que consegui as chaves de API, pedi que ele criasse aquele app de controle por voz. Ele foi em frente e criou tudo para mim. Também testou tudo por conta própria. Agora, posso simplesmente iniciar o app. Abri o projeto no meu editor de código, o Visual Studio Code. Esta é a pasta específica que ele criou, chamada voice chrome. Vou até a pasta e executo pip install -r requirements.txt.

14:58 Depois que instalar os requisitos, você pode abrir o arquivo README, selecionar a visualização de prévia e ver o fluxo: do microfone, o áudio vai para o faster-whisper, é convertido em texto e segue para a classe de direcionamento do Jev; depois, passa pelo Playwright e pelo Chrome local, na CPU ou na GPU; em seguida, temos a validação de tipos. Certo, vamos iniciar isso. Posso executar python -m voice_chrome aqui. Isso vai iniciar o Chrome, e posso usar comandos de voz agora. Vou parar por aqui.

15:32 isso e iniciar de novo. Vá para o YouTube. Acesse o canal do YouTube Prompt Engineer 48. Clique no primeiro vídeo. Prompt Engineer 48. Vá para a aba Vídeos. Role para cima. Role para cima. Vá para a aba Vídeos, perto de Início. Clique na aba Vídeos, perto de Início. Clique em Vídeos. >> Quanto alguém consegue aprender realisticamente sobre IA em apenas 3 horas? É só rolar para cima, clicar em Vídeos, clicar em Populares, rolar para baixo, mais para baixo, rolar para baixo. Ah, clique em Claude Code + Nvidia Nim. Certo. Então, certo. Espera, deixa eu ver. Deixa eu

16:07 mostrar isso para vocês. Então, dá para ver que isto é o Claude Code. Role para baixo. Curta o vídeo. Clique no botão Curtir. Role para baixo. Mais para baixo, em uma nova aba. Abra a Wikipédia. Vá para a Wikipédia. Wikipédia. Clique no segundo link, por favor. Role para baixo. Role para baixo. Vá para Pepper Petrella. Volte. Vá para Pepper Petrella. Volte. Clique em Pepper Petrella. Clique em Pepper Petrella. Role para cima. Role para cima. Então, dá para ver que isto é, ah, uma demonstração que o Claude Code fez para mim, e esse é todo o

16:38 negócio. É realmente incrível testar isso. E você tem essas pequenas seções no canto inferior direito. Dá para ver esta aqui: o que você disse e quais opções estão disponíveis. Dá para ver todas elas e, com base nessas opções, a ação é iniciada. E este é um exemplo do que o Jev consegue fazer. Há muitos outros exemplos. Há uma porção de exemplos diferentes que as pessoas fizeram. Agora, um desses exemplos é este, ah, exemplo de >> Ei, estou experimentando vestidos aqui. >> Que tal branco?

17:09 >> Então, dá para ver que há uma seleção de vestidos em tempo real aqui. Isso é incrível. Ah, este é outro exemplo em que dá para ver que ele percorre as notícias e filtra notícias de diferentes empresas, e é muito rápido. Dá para ver à direita que o OPUS cloud 5 é realmente lento e a velocidade de processamento é baixa. Então, qualquer tarefa que exija separação, classificação ou encaminhamento para ramificações diferentes, você pode usar essa

17:42 saída estruturada. Jev, você pode experimentar hoje mesmo. Acesse Type Safe AI e consiga aqueles US$ 5 em créditos. Se não conseguir, você pode, obviamente, acessar o OpenRouter e usar isso. Então, instale essa skill e comece. E dá para ver todos os cookbooks; estão disponíveis aqui. Você pode conferir. E agora vou fazer muito mais vídeos sobre isso. Acabei de começar a criar alguns casos de uso diferentes que realmente vão envolver você e

18:14 surpreender você. Então, até lá, siga este canal, e volto com mais casos de uso interessantes do Jev. Enquanto isso, você pode conferir estes outros vídeos no meu canal. Curta, compartilhe e inscreva-se, e vejo você na próxima

Transcrição original

[00:00] Go to YouTube. Go to Prompt Engineer 48 YouTube channel. Click on the first one, Prompt Engineer 48. Go to the videos tab. Scroll up. All right, that’s a wonderful demo. And now let’s go ahead and see and understand what Jeff is. So essentially, we’re working with decisions, not string. And it’s an AI model that never writes a sentence. So you cannot expect to get the answer of write me a small poem or write me a short story or anything like that. It is

[00:34] going to respond you in three formats only which we’ll see in just a second. But it is 193 times faster, 244 times cheaper and the output is a typed output which means it responds from the list of things that you have allowed. And this is the summary. 193 times faster than a Frontier LLM to 444 times cheaper on the same work and about $42 per billion input token. Mind it per billion. It’s not per million. And essentially output tokens are free and 150 milliseconds

[01:07] decision faster than the human perception which is really great. And we have been using text models as decision engines which is really wrong. So what we were doing uh with all the LLMs uh for example reinforcement learning from human feedback those kind of LLMs the LLMs that we know we put in the prompt and we beg the answer we beg the model in English to answer in JSON format and then we go ahead and parse the markdown French retry when the apologize instead and then we pray that no calibrated confidence so we cannot tell if the

[01:41] answer is sure or are we confident about the answer and then we need to babysit uh with a human in the loop and that’s a very bad thing and the automation never actually ships and therefore uh we are not able to automate with the normal LLM. Now what they have done and if we go and now what do Alma has done he has worked with RLHF earlier as well and he spent the last two decades in stealth building this new ways of training models it’s 20 to 200 times faster

[02:11] compared to the normal LLM 40 to 400 times cheaper and it the output token is basically free because there is nothing to write in a longer form the answer is just one of the things that you have asked it to answer from and it’s really amazing questions [music] just like you would an LM get the answer. So we have been till now training uh reinforcement learning from human feedback but this new model we are we have not approached AGI and what do you think that is and

[02:41] it’s also difficult to automation and it’s also difficult to automate you can see on the left the type save versus any other LLM and what they’ve done for this model is reinforcement learning from calibrated decision and that’s really different you can see the output here it’s really fast it completed in 114 seconds while the normal LM it takes a bit of a time. So you can see they completed in 8.56 seconds. So this is the official website typesafe.ai. This is the first public system one model. System one model meaning it

[03:13] thinks fast and the system two models is thinking slow but in the long form. Okay. So you want access to this type.ai. You can go to join weight list here. And I’ve already applied to weight list. I got this $5 of credit. If you go to the uh usage here, we can see that we are here. After you get access, you’ll be brought here. We have home playground usage and you can see that I’ve been using this a lot. We have the API keys here. So, you can generate an API key. Use that API key uh for your creation. So, I can copy this API key and that’s

[03:45] done. I’m going to delete this because the API key is visible now. So, if you go to home and if you go to settings here, then you can see that in the billing section, you’ll get about $5 to test it out. And I’ve been testing this a lot and you can see I’ve just spent uh 0.71 and I have a lot to go. I can test so much with this $5 of credit. So, if you don’t have access to this, you can go to open router as well and get access from there. Now, let’s go back to the PPT. So, we took the opposite research direction first. Uh we know that we have

[04:18] the reinforcement learning from human feedback. Every LLM you know it’s trained on human perception. It’s optimized to produce words for people. But this Jeff Jev is reinforcement learning CD which is calibrated decisions. It’s optimized to produce typed decisions for machine. Now success looks like a probability is actually right. System one how we know fast judgment not like a slow pros. So this is a system one model. LLM produce words for people but Jeff produce type decisions and it’s really amazing. So

[04:49] there are three primitives there are three types of outputs that you get from this LLM. The first is a choice. So the choice is something which will select a particular one from a given list. If you go if you go to the documentation from this button if you go to the documentation and go to the choice you can see that we have these examples. So a choice is a system one question type for selecting one option from a defined set. So what programming languages is this code written. So these are the options and it is going to answer only

[05:20] within that format. Okay. The other one is the score here. So this is a degree along a dimension. So this is a probability weighted position. If you go back to score you can see that it gives out this. So for example the uh score question bug severity how severe is the reported bug. So when it says zero it means no impact of functionality one is like broken but two is like blocking issues. So this is a score. It goes from zero one and two. And the last one is a

[05:54] null. Null is a yes no question. So it gives a probability of a yes or a no. So if yes has a probability of 90%. No has a probability of 10%. So let’s go ahead and go to this example here. If you go to the playground here and I’ve been playing uh with this on one example, let me show you. So this one you can see that uh we have this statement for example. Hi my stripe is failing. Please help ASAP. I’m losing numerous high value clients. So looking at the

[06:24] statement I want to ask three questions. You can send all the three questions together. So the first question that I’m really interested is the is the type of null which means it says yes or no yes or no. So this is u an object here and we we are saying that this is a null type and the instruction the question is does this message express urgency and if I send this you can see on the right yes this is urgent and you can see that this is 90% true and 2% false this is a no

[06:56] format okay which is like a yes no or true false so if uh does this sound urgent it’s yes so if I maybe my stripe is please help If I remove this maybe if I remove this then what do you think will happen? My stripe is failing. So it’s like a 60% urgent. Okay. So this changes and it’s not like uh I pre-edited this. This is really fast. So when I send this command it’s really fast. If you go ahead and see the output here you can see the evaluation time in millisecond is 161 millisecond 104 millconds. Really fast. If you send the

[07:30] request it’s 118 milliseconds. So it’s really fast. So this is the null type of uh data that you can ask or question that you can ask and the another type is this one. This is the type of choice. So you have to give the choice to this LLM to answer from. So for example the instruction is which option best fit the state the state that the stripe is failing and uh we can put this criteria so accounts billing and payments. So and a small description of the three things

[08:00] here. So looking at this question here and given the statement, what do you think the output would be? So if I run this and you can see on the right problem type is payment. Okay, I’m saying my stripe is failing. It looks like a payment issue. If I say my stripe billing is failing and send this, then you can see that the billing is 100% here. It’s like confident 99% confident that it’s the issue of the billing, not of accounts, not of payments. But if I make it like a vague thing, then it looks like account. Okay. Uh and if I

[08:34] say uh my customer uh my customer is not able to pay via the via my stripe link. Now what do you think? I think that would be related to payments. So you can see 94% payment related to payment. So this is another question type which is a choice type. You give a choice. You give three choices here and it is going to take it’s not limited to three of course. So it will give out the confidence level as well give out the probability of each of what it thinks.

[09:05] Uh and you can see this output here. You can see this output in a JSON format as well. So this is the model uh Jeff 113 and uh this are the answers. So the first answer is this. So no is 0.94. Then we have the problem type of choice and you can see the confidence is 91%age. Then we have payment is 94, accounts is zero. This is the second one. And the third that we’re going to look at is this one. So let’s go ahead and look at the third type of variable

[09:35] that you can use. So the third type is the score type. So score goes from 0 to one. So if we put the instruction of where does the severity falls on the scale, then it’s uh I’m losing numerous high value clients. It’s definitely uh on the high scale here. So it’s giving you 1.99. And if I remove this part for example and then send this and you can see that 1.53 is the severity. So this is just an example to show you that you can send all three of these questions together and based on this particular statement based on these type of

[10:08] questions that you have asked uh whether it’s a null or let’s say choice and it’s a score you get this output and you can look at the output there is no output tokens as such it’s just that it returns from the things that you have asked whether it’s a yes no which is return in percentage whether it’s a choice it returns the probabilities and confidence and there’s a severity It returns whether 0, 1 or two. And it also returns the confidence level on the choice and the score variable type. Okay. And you can see the input token is

[10:40] 392 and output token is 70. It’s not zero per se because this output needs uh some tokens to give you. But compared to the other LLM, it it’s essentially free. The output token is free. And there’s the request ID. And this is the evaluation time. You can see 120 mconds. Keeps on changing depending on the servers. 87 milliseconds lesser and it’s like 130. So it’s within like 80 to 150 millconds for this particular type of questions really amazing. So moving back to the website this is the first system one model. So system one model is a fast

[11:12] thinking model. Jeff gives AI the properties of code. Now this is really important because uh you can see the speed here. It’s really fast like 193 times faster. Now this is not a general purpose LLM. cannot ask questions uh and ask it to poem, ask it to explain something, but it’s generally a decision maker for you if you already have the options listed out. It’s really important for the software that our AI system use. So, we had the RLHF we have already seen. Now, this is known as reinforcement learning from calibrated

[11:42] decisions and it’s 193 times faster, 440 times cheaper. You can see that type safe AI is so fast, it’s really slow and I’ve tested uh the examples here. It’s really it’s really fast and we can see that workflow intelligence versus cost. So average cost is very less. But again you need to remember that the limitation of these type of models. It’s basically a decision maker for you. It doesn’t work like a normal LLM like for example GPT 5.2 Luna would work. So you can see the structured output error rate is very less almost zero error. So there is no

[12:15] hallucinations because the output type is fixed. There is nothing to hallucinate. So it’s zero hallucination which is really good. And you can see the price $40 per billion input token compared and you can see 238 times lower input price than Claude Fable 5.1. Really amazing. So let’s go ahead and test this out. Now if you have access to this, you can go to uh playground here uh sorry you can go to home here and you can see that uh we have this option of copying this setup uh to cloud code or aentic options like that. We have the

[12:47] skill MD file as well. So you can go ahead and download this uh view here and you can see that uh this is the skill file or I can go ahead and maybe download the skill as a whole. So skill.md I can download this and you can see I’m going to show you this skill file here. So a skill is basically uh the name is type safe AI and there’s a description built with type safe. We have all the documentations listed here and uh it’s basically has everything that you need. So cookbooks and everything is available here. So it’s just a matter of copying this system prompt and putting it on your system. So

[13:21] I have cloud code uh here and I what I’ve done is I’ve just pasted this type skill uh type safe skill and we can see that it’s already installed because uh previously what I’ve done is I’ve gone ahead and installed this. So if you go to the documentation here and if you go to the agent skill here for the cloud code you can run these two commands. So if you go to your cmd or command prompt on a Windows system and run this, you can see that it’s already installed here. Okay. So you can go ahead and install this. And once you’re done, this is installed uh into cloud code. So that’s what uh it’s saying that it’s

[13:55] already has. Now uh I want to do some examples here. So I ask you to do give some creative examples. So AI as if uh as an if statement. So this is an AI which is like an if statement only. So these are different examples that is given but I really wanted to make that voice control app. So what I’ve done is I’ve given the uh environment file somewhere here. So I put the environment file uh the dot on on the inside thevb file. I put the API key which I obtained

[14:26] from the uh location here. And once I have the API keys what I asked it to make that voice control app. It went ahead and made the entire thing for me. uh and it even tested it out on its own. Now what I can do is I can just go ahead and start this up. So I’ve opened that on my code editor uh visual studio code editor and what I can do is that this is the particular folder which it has made this voice chrome here. I go ahead and navigate to the folder then I do pip install-r requirements.txt.

[14:58] And once you have uh those requirements done then what you can do is you can just go to the readme file here open preview and you can see this from the mic it goes to the faster whisper it is uh made into text to speech and goes to Jeff direction class then playright chrome local in the CPU on the GPU then we have type validated okay so let’s go ahead and uh start this up so I can say python-m voice chrome and I just run it here this is going to start up my Chrome and I can do voice command now. So, I’ll just stop

[15:32] this and start this up again. Go to YouTube. Go to Prompt Engineer 48 YouTube channel. Click on the first one. Prompt engineer 48. Go to the videos tab. Scroll up. Scroll up. Go to the videos tab near the home. Click on the videos tab near the home. Click on videos. >> How much can someone learn realistically in 3 hours all about AI? in just scroll up, click on videos, click on popular, scroll down, down, scroll down. Uh, click on cloud code plus Nvidia Nim. Okay. So, okay. Wait, let me see. Let me

[16:07] show you this. So, you can see this is cloud code. Scroll down. Like the video. Click the like button. Scroll down. Down on a new tab. Open Wikipedia. Go to Wikipedia. Wikipedia. Please click on the second link. Scroll down. Scroll down. Go to Pepper Petrella. Go back. Go to pepper petrella. Go back. Click on pepper petrella. Click on pepper petrella. Scroll up. Scroll up. So you can see that this is u a demo which cloud code made for me and this entire

[16:38] thing. It’s really amazing to test this out. And you have this little sections of on the right bottom. You can see this one uh when what you said and what are the options that are available. You can see all these and based on these options the action is initiated. And this is one example of what this Jev can do. There are many more examples. Got tons of different examples that people have done. Now, one such example is this uh example of >> hey, I’m going dress try on here. >> How about white?

[17:09] >> So, you can see there’s a real time uh dress selection here. That’s amazing. Uh this is another one uh in which you can see that it goes through the news items and it filters for different uh companies or different companies news and it’s so fast. You can see on the right you can see OPUS cloud 5 it’s really slow and the processing speed is slow. So any task which needs segregation or ratings or diversion to different branches you can use this

[17:42] structured output Jeff you can go ahead and try it out today go to types safe AI get that $5 of credits or if you don’t get that you can go ahead obviously to open router and use this so install this skill and get started and you can see all the cookbooks um it’s available here you can go ahead and Check this out. And now I will make much more and many more videos on this. I’ve just started creating a few different use cases that would really um indulge you and uh

[18:14] wonder you. So until then follow this channel and I will be back with more interesting use cases on Jeff. And in the meantime, you can check out these other videos on my channel. Like, share and subscribe and I will see you next