O que é Jev? Explicado em 10 minutos!

Ver no idioma original →

Autoria: Pavan Belagatti · Assistir no YouTube

Vídeo de autoria do canal indicado, não da IANIA; todos os direitos pertencem ao criador. Transcrição, resumo e tradução gerados automaticamente; o conteúdo no idioma original é preservado na versão em idioma original.

Idioma original: inglês

Vídeo original: What Is Jev? Explained in 10 Mins! · Canal: Pavan Belagatti · 09:58 · Assistir no YouTube

Tópicos: Agentes de IA, Ferramentas de desenvolvimento com IA, Modelos de IA

Resumo

O vídeo apresenta Jev como um modelo voltado a decisões delimitadas, como classificar solicitações, avaliar relevância e estimar probabilidades, em vez de gerar respostas longas. O apresentador compara esse uso ao de um LLM generativo e ressalta que modelos generativos também podem produzir saídas estruturadas. Em seguida, demonstra no playground exemplos de escolha de equipe para atendimento, pontuação de resultados de busca e probabilidade de adiar uma notificação. A ideia central é que Jev pode fornecer resultados estruturados para uso direto em aplicações.

Pontos-chave

• Jev é apresentado como um modelo para tomar decisões delimitadas a partir de uma situação e de uma pergunta específica.
• As opções possíveis são definidas previamente, e o modelo pode retornar uma escolha acompanhada de probabilidades.
• O modelo também pode atribuir pontuações ou estimar a probabilidade de uma resposta sim ou não.
• No exemplo de suporte, Jev classifica uma solicitação sobre cobranças duplicadas como responsabilidade da equipe de cobrança.
• No exemplo de busca, Jev avalia a relevância de um resultado para uma consulta sobre calçados de trilha para chuva.
• No exemplo de notificação, Jev estima a probabilidade de que um lembrete deva esperar até o fim do horário de silêncio.
• O apresentador observa que Jev pode errar e que um LLM generativo também pode gerar saídas estruturadas quando configurado para isso.
• O vídeo recomenda avaliar os ganhos de velocidade e custo citados pela Type Safe como resultados relatados em seus próprios workflows, não como garantia para toda tarefa de IA.

Capítulos

Início	Capítulo	Resumo
00:00	O que é Jev	O apresentador introduz Jev como um modelo voltado a decisões específicas e explica que ele pode retornar escolhas com probabilidades.
03:40	Comparação e demonstração do playground	O vídeo contrasta Jev com LLMs generativos e inicia uma demonstração de escolha de equipe para uma solicitação de suporte.
05:48	Pontuação da relevância de uma busca	O apresentador demonstra como Jev pontua a relevância de um resultado de busca e apresenta a pontuação e a confiança retornadas.
08:21	Probabilidade para uma notificação	O último exemplo usa Jev para estimar se um lembrete deve esperar até o fim do horário de silêncio.

Citações

Dê a Jev uma situação e uma pergunta específica, e ele retorna uma decisão que seu software pode usar. — 01:03

Quando meu software precisa de uma decisão, eu preciso de um parágrafo gerado? — 02:38

Isso não significa que Jev não possa cometer erros. — 03:09

Ele fornece exatamente o que é necessário: uma saída estruturada adequada ao que sua aplicação precisa. — 07:50

Conceitos e entidades

• Jev (modelo): Modelo apresentado no vídeo como voltado a decisões delimitadas, pontuações e estimativas de probabilidade.
• TypeSafe (empresa): Empresa mencionada como responsável por Jev e por avaliações internas de velocidade e custo.
• LLM (conceito): Modelo de linguagem generativo usado no vídeo como contraste para tarefas de decisão estruturada.
• gemini.dev/playground (ferramenta): Playground indicado no vídeo para experimentar Jev com perguntas e cenários próprios.

Tradução completa (pt-BR)

00:00 Olá, desenvolvedores. Neste vídeo, vamos conhecer o modelo de IA que está repercutindo e causando bastante alvoroço no setor hoje: o Jev. Vamos ver o que é o Jev e em que ele difere dos outros modelos. E, no final, também tenho um playground simples para mostrar como o Jev funciona, basicamente. Então, vamos começar. A maioria de nós sabe que modelos de IA são ferramentas que geram algo como uma resposta, um e-mail ou um trecho de código. Mas o Jev foi criado para fazer algo diferente. O Jev tem uma

00:31 função diferente. A Type Safe o criou para analisar informações e tomar uma decisão definida, certo? Ele foi, na verdade, criado para tomar decisões, certo? Imagine, então, que você dê a ele uma mensagem para o suporte ao cliente e pergunte qual equipe deve cuidar dela, certo? Você define as equipes possíveis, e o Jev retorna uma opção com probabilidades. Essa é a parte importante: ele fornece as probabilidades, certo? Nenhum outro modelo consegue fornecer essas probabilidades, certo? Você também pode pedir que ele atribua uma pontuação a algo ou estime a

01:03 probabilidade de uma resposta ser sim ou não. É isso que o Jev faz, certo? Essa é a ideia que quero que você lembre. Dê ao Jev uma situação e uma pergunta específica, e ele retorna uma decisão que seu software pode usar. É isso, basicamente. Talvez você não entenda enquanto eu explico agora, mas, quando eu mostrar o playground, vai entender como o modelo Jev é usado para tomar decisões em aplicativos ou em qualquer situação, certo? Agora

01:33 vamos ao ponto principal: por que todo mundo está falando desse modelo específico, o Jev, certo? Pense em quantos pequenos julgamentos qualquer aplicativo faz. Por exemplo: qual equipe deve receber este chamado? Este resultado de busca é relevante? A próxima ação de um agent deve ser verificada? Os desenvolvedores costumam usar um LLM generativo para responder a essas perguntas, o que acaba sendo meio desnecessário, certo? Mesmo quando o aplicativo só precisa de uma categoria, uma pontuação ou até da probabilidade de sim ou não, todos usamos um LLM generativo

02:06 e recebemos um parágrafo enorme até mesmo para uma consulta pequena, certo? O que é meio desnecessário. O Jev é interessante porque se concentra nessas decisões delimitadas, certo? A Type Safe também relatou ganhos substanciais de velocidade e custo nas avaliações dos próprios workflows. Mas eu trataria isso como resultados relatados pela Type Safe, e não como uma afirmação de que o Jev é mais rápido para todas as tarefas de IA. Mas a pergunta prática é mais simples: quando meu software precisa tomar uma decisão, preciso de um

02:38 parágrafo gerado? É isso que o Jev faz. Ele fornece a probabilidade para qualquer uma das perguntas mais simples que você tiver. E é aí que o Jev realmente se destaca. Agora vamos entender como o Jev é diferente dos outros modelos de LLM generativos, certo? Jev versus um LLM generativo. Vamos usar o exemplo do chamado. Se eu perguntar a um LLM generativo qual equipe deve cuidar dele, posso receber uma explicação em frases, certo? Isso pode ser útil quando uma

03:09 pessoa quer entender o problema. Com o Jev, primeiro defino as equipes permitidas. A resposta dele se encaixa nessa decisão. Por exemplo: faturamento. Junto com as probabilidades das opções disponíveis. Meu aplicativo pode usar o resultado diretamente. Isso não significa que o Jev não possa cometer erros. Ele pode escolher a equipe errada, e um LLM também pode retornar uma saída estruturada quando configurado para isso. A diferença que estou mostrando aqui é aquilo para que o Jev foi criado: retornar um julgamento delimitado de forma adequada.

03:40 Em um workflow real, um LLM pode redigir uma resposta, enquanto o Jev ajuda a encaminhar o chamado. Essa é a ideia principal por trás do modelo Jev. Este é o diagrama do modelo de IA Jev que você está vendo. Você pode acessar gemini.dev/playground. Se entrar lá, poderá experimentar o modelo Jev. Aqui está o playground completo.

04:11 Como você pode ver, experimente o modelo de IA Jev. Escolha uma pergunta ou três perguntas diferentes sobre o mesmo contexto. Experimente um cenário real. Edite as entradas. Inspecione cada tipo de resposta. Aqui, explore projetos no GitHub, casos de uso, inscreva-se e veja todas essas coisas. Aqui é onde se cria uma decisão, e é aqui que usamos o modelo de IA Jev. Estou escolhendo de propósito esta pergunta, do tipo escolha. Na verdade, podemos usar o Jev para

04:44 tomar decisões, atribuir uma pontuação ou calcular uma probabilidade. Mas estou usando-o para este caso específico, o tipo escolha. E o contexto é exatamente como expliquei: um cliente diz: “Minha fatura mostra duas cobranças pelo mesmo pedido. Você pode reembolsar o pagamento extra?” Agora temos o tipo escolha, a pergunta ou instrução, como você preferir chamar: “Qual equipe deve cuidar desta solicitação específica?” E temos as opções aqui: a equipe de faturamento, a equipe técnica,

05:15 e a equipe geral, para todas as outras solicitações. Faturamento abrange pagamentos, faturas e reembolsos. A equipe técnica cuida de bugs, erros de API e integrações. E a equipe geral cuida de todas as outras solicitações. Agora, se eu executar esta decisão, quero uma resposta, certo? Então, vamos executar e ver. Recebemos uma saída estruturada, como você pode ver aqui. A resposta do modelo é estruturada. “Qual equipe deve cuidar desta solicitação?” A opção é faturamento. O tipo

05:48 é escolha. A opção é faturamento. A probabilidade para a equipe geral é zero, para faturamento é um e para a equipe técnica é zero. A confiança é um. Esse é o tipo de saída que você vai receber ao usar o modelo Jev. Também posso editá-lo e mostrar outro exemplo. Por exemplo: “Classifique um resultado de busca com base na relevância.” A consulta de busca é “Sapatos de trilha leves para tempo chuvoso”. O resultado

06:19 é “Página de produto de tênis impermeáveis para corrida em trilha, com guia de tamanhos e avaliações de clientes”. Esse é o contexto que nosso modelo Jev tem. E esta é a parte de pontuação da pergunta e da instrução: “Qual é a relevância deste resultado para a consulta de busca?” Estes são os limites da pontuação: “Não relacionado à consulta, um pouco relevante, mas não atende a uma necessidade importante, e corresponde muito bem à consulta.” Agora, você encontra a classificação desta decisão.

06:50 Aqui está a resposta do modelo. Uma resposta estruturada para a pergunta: “Qual é a relevância deste resultado para a consulta de busca?” A pontuação é 1,69. O tipo é pontuação, porque escolhemos pontuação aqui. E a pontuação é 1,69. A legenda explica: “Não relacionado à consulta” é zero; “um pouco relevante, mas não atende a uma necessidade importante” é um; e “corresponde muito bem à consulta” é dois. Mas a consulta era

07:20 “Sapatos de trilha leves para tempo chuvoso”. E o resultado é “Página de produto de tênis impermeáveis para corrida em trilha, com guia de tamanhos e avaliações de clientes”. Estas são as probabilidades que ele está obtendo. Então, a resposta, a pontuação, é 1,69, certo? Para esta consulta de busca específica e também para o resultado, estas são as probabilidades, certo? Ele também fornece a confiança: 0,54. Espero que esteja entendendo. Você pode usar este modelo nos seus aplicativos quando quiser as

07:50 probabilidades e a confiança, certo? Ele não vai fornecer uma explicação específica como a que um LLM generativo costuma dar — uma explicação ou um parágrafo —, mas vai fornecer exatamente o que é necessário, o que seu aplicativo precisa, certo? Uma saída estruturada, devidamente estruturada. Você também pode ver que “não relacionado à consulta” vale zero; “um pouco relevante, mas não atende a uma necessidade importante” vale um; e “corresponde muito bem à consulta” vale dois.

08:21 A confiança para o conjunto todo é 0,54, enquanto a pontuação é 1,69, certo? Também posso usar a própria probabilidade aqui. Digamos que o contexto seja: são 22h30. Um aplicativo de calendário quer enviar um lembrete sobre um almoço de equipe marcado para a próxima sexta-feira. O usuário ativou o horário de silêncio até as 7h. E agora a pergunta sobre a probabilidade é: esta notificação deve esperar até o fim do horário de silêncio? E então, o que acontece,

08:54 sim ou não? Então, recebemos esta entrada aqui. Falso: envie agora, porque o lembrete é sensível ao tempo. Verdadeiro: o atraso até o fim do horário de silêncio não prejudica o usuário. Então, se eu executar essa decisão, obteremos novamente uma saída estruturada aqui. Uma saída estruturada. A probabilidade responde à pergunta: esta notificação deve esperar até o fim do horário de silêncio? Essa era a pergunta. Quer dizer, era isso que queríamos responder. E a probabilidade é 0,83. O tipo é agora e, sim, o agora

09:27 é 0,83. Digamos que essa seja a probabilidade. Então, esta é a estrutura de probabilidade que você pode usar nas suas aplicações de IA, certo? Sempre que estiver tomando, ou quiser tomar, algum tipo de decisão. Então, é isso e, sim, a mesma pergunta se repete. Quer dizer, é isso que queremos responder, certo? Esta notificação deve ser mantida? Basicamente, eles dão a resposta em forma de probabilidade para a sua consulta. Então, isso é tudo sobre o modelo Gemini. Acho que você pode acessar este playground específico em gemini.dev e basicamente brincar

09:58 também com as suas próprias perguntas, certo? E ver como o modelo responde. Basicamente. Então, é isso sobre o modelo Gemini. Obrigado por assistir.

Transcrição original

[00:00] Hey developers, so in this video we’re going to see the AI model that is making rounds and making a lot of buzz in the industry today, that is Jev. So, we will see what is Jev and how it is different from the other models. And also at the end I have a simple simple playground to show you how Jev basically works. So, let’s get started. So, most of us know that AI models as tools that generate something like an answer, an email, or a piece of code. But Jev is built different. Jev has a

[00:31] different job. Type safe built it to examine information and make a defined decision, right? It is It is actually built to make decisions, right? So, imagine giving it a customer support message and asking which team should handle this, right? So, you you define the possible teams and Jev returns a choice with probabilities. So, that’s the important thing here. It It will give you the probabilities, right? So, no other model can give that probability thing, right? So, you can also ask it to score something or estimate the

[01:03] probability of a yes or no answer also. That’s what Jev does, right? So, that’s the idea I want you to remember. Give Jev a situation and a specific question and it returns a decision your software can use. So, that’s the whole thing. Maybe you won’t understand it as I explain it now, but but when I show you the playground, you will actually understand how Jev model is used for decision making in the applications or in any of the situations, right? Now

[01:33] coming to the main thing, right? Why everyone is talking about this particular model Jev, right? So, think about how many small judgments any application makes, right? For example, which team gets this ticket? Is this search result relevant? Should an agent’s next action be checked? So, developers often use a generative LLM model for these questions, which is which is kind of not necessary, right? So, even when the application only needs a category, a score, or even a yes or no probability, so we all use a generative LLM model

[02:06] uh where we will get a big paragraph even for a small even for a small query, right? Which is kind of not necessary. So, Jase is interesting because it focuses on those bounded decisions, right? So, Type Safe has also reported substantial speed and cost gains in its own workflow evaluations. Um so, but I would treat those as Type Safe uh reported results rather than a claim that Jase is faster than faster for every AI task. But, the practical question is simpler, right? When my software needs a decision, do I need a

[02:38] generated paragraph? So, that’s what Jase does. Like, it will it it will give you a probability of for any of the smallest questions that you have. And that is where Jase basically shines. So, now let’s understand how Jase is different from the other generative LLM models, right? So, Jase versus a generative LLM model. So, let’s use the ticket example. If I ask the generative LLM model, which team should handle it? I might get an explanation in sentences, right? So, that can be useful when a

[03:09] person wants to understand the issue. With Jase, I define the allowed teams first. Its answer fits that decision. For example, billing. Along with probabilities for the available options. My application can use the result directly. So, this does not mean Jase cannot make make mistakes. It can choose the wrong team, and an LLM can also return structured output when configured to do so. The distinction I’m showing here is what Jase is built to do, return a

[03:40] bounded judgment properly. In a real workflow, an LLM might draft a reply while Jase helps route the ticket. So, that’s the main idea behind uh the model Gem model. So, this is what you see the Gem AI model diagram. So, you can go to gemini.dev/playground. So, if you go there, you can actually try the Gem model, right? So, here is the complete playground.

[04:11] As you can see, try the Gem AI model. Choose one question or three different questions about the same context. Try a real scenario. Edit the inputs. Try inspect each type answer, right? So, here explore uh GitHub projects, use cases, subscribe, and all these things, right? Here is Here comes like building a decision, and this is where we are using the Gem AI model. And I’m purposely picking this one question like the choice. We can actually use Gem to

[04:44] do decision making or to score or for the probability. But, I’m using it for this particular thing, the choice, right? And the context is just like how I explained. A customer says, “My invoice shows two charges for the same order. Can you refund the extra payment?” Now, we have the choice one, the question or the instruction you can call, “Which team should handle this particular request?” And we have We have the choices here, right? The billing team, the technical team,

[05:15] and the general all other requests, right? And uh Billing These comes in the payments, invoices, and refunds. And technical is all about bugs, API errors, and integrations. And general is all other requests, right? Now, if I run this particular decision, I want an answer, right? So, if I run this, let’s see, right? We get a structured output, as you can see here, right? The model response a structured answer. “Which team should handle this request?” The choice is billing, right? So, type

[05:48] type is choice. The choice is billing. The probability equals the general is zero, billing is one, and the technically is zero. Confidence is one. So, this is the type of output you’re going to get when you use the Jack model. I can also edit it and I can also do the other other example take the other example. For example, “Rank a search result based result on relevance scale.” The search query is “Lightweight hiking shoes for rainy weather.” Result

[06:19] “Product page for waterproof trail running shoes with a size guide with and customer review.” So, that’s the context that our Jack model has. And this is the score part of the question and the instruction. “How relevant is this result to the search query?” And these are the score limits. “Unrelated to the query, somewhat relevant but misses key need, and strong match of all the query.” So, you find the rank this particular decision.

[06:50] Here is the model response. Structured answer like how relevant is this result to the search query? The the score is 1.69. The type is score because we we picked the score here. And then the score is 1.69. The legend here which explains like “Unrelated to the query is zero, somewhat relevant but misses misses key need.” That is one. Two, “Strong match for the query.” But the query was

[07:20] “Lightweight hiking shoes for rainy weather.” And the result is “Product page for waterproof trail running shoes with size guide and customer review.” So, these are the probabilities that it is getting. So, the answer the score is 1.69, right? So, for this particular search query and also the result, these are the probabilities, right? And the confidence also it is giving 0.54. So, I hope you are getting it. You can use this model in your in your applications when you want the

[07:50] probabilities and the confidence, right? So, it won’t give you a particular explanation in the form of how an how a generative LLM model usually gives, like like an explanation or something a paragraph, but it will exactly give you what what is required what your application needs, right? As an output, a structured a proper structured output. So, you can also see like unrelated to the query it is zero, somewhat relevant, but necessity meet is one. And strong match for the query is two.

[08:21] The probability of this whole the confidence of this whole thing is 0.54, whereas the score is 1.69. Right? And also I can also go for the probability itself here. Let’s say the context is it is 22 30. A calendar app wants to send a reminder about a team lunch scheduled for next Friday. The user has quiet hours enabled until 7:00. And now the probability the question is should this notification wait until quiet hours end? And then what comes,

[08:54] yes or no? So, we are given this input here. False, send now because the reminder is time sensitive. True, is delay until quiet hours end without harming the user. So, if I run this decision, we will again get a structured output here. A structured output. Probability is should this notification wait until quiet hours end? That was the question. I mean, that was the that was the thing that we wanted to answer. And the probability is 0.83. The type is now and yeah, the now

[09:27] is 0.83. The probability we just say. So, this is the this is the probability structure that you can use in your AI applications, right? Whenever you are making you want to make a type of decision. So, that’s it and yeah, the same question is repeated. I mean, that’s what we want to answer, right? Should this notification be retained? So, they basically give you the probability answer for your query. So, that’s the whole thing about the Gemini model. I think you can go to this particular gemini.dev playground and to basically play around

[09:58] with your own questions also, right? And see how how the model responds. responds, basically. So, that’s it about the Gemini model and thanks for watching.