CLM 8B — Contrastive Language Models: o tomador de decisões de IA mais rápido

Autoria: Fahd Mirza · Assistir no YouTube

Vídeo de autoria do canal indicado, não da IANIA; todos os direitos pertencem ao criador. Transcrição, resumo e tradução gerados automaticamente; o conteúdo no idioma original é preservado na versão em idioma original.

Idioma original: inglês

Vídeo original: CLM 8B - Contrastive Language Models: Fastest AI Decision-Maker · Canal: Fahd Mirza · 11:33 · Assistir no YouTube

Tópicos: Agentes de IA, Avaliação e benchmarks de IA, Inferência e otimização de modelos, Modelos de IA

Resumo

O vídeo apresenta o CLM 8B, um modelo desenvolvido por pesquisadores da Stanford e da Nvidia que aplica aprendizado contrastivo à tomada de decisões por agents. Em vez de gerar texto, ele compara estados e ações para escolher ou classificar opções, usando um encoder Qwen 3 8B congelado e pequenas projection heads treináveis. O apresentador instala e testa o modelo localmente, demonstrando decisões rápidas em exemplos de suporte ao cliente e jogos, além de resultados em benchmarks. Ele observa que, embora o modelo tenha bom desempenho em algumas tarefas, o ranking de respostas ainda pode falhar.

Pontos-chave

O CLM 8B usa aprendizado contrastivo para associar estados a ações e selecionar a melhor opção.
O modelo não gera respostas em texto: ele pontua ou classifica candidatos.
O encoder Qwen 3 8B permanece congelado; apenas pequenas projection heads são treinadas.
Segundo o vídeo, o componente treinável tem cerca de 75 MB.
O apresentador instala o modelo localmente e o serve com vLLM.
No exemplo de suporte ao cliente, o CLM classifica urgência, departamento responsável e frustração.
O vídeo relata resultados de velocidade e precisão em benchmarks, incluindo uma comparação com Jev.
Em um teste de ranking de respostas, o modelo escolhe uma opção inadequada, mostrando uma limitação.

Capítulos

Início	Capítulo	Resumo
00:01	O que é o CLM 8B	O apresentador contextualiza o aprendizado contrastivo e explica que a novidade do CLM é aplicá-lo à tomada de decisões por agents.
02:44	Instalação e funcionamento interno	O vídeo mostra a instalação e explica como o encoder Qwen 3 8B congelado e as projection heads treináveis formam o modelo.
05:53	Demonstração de decisões em tempo real	O apresentador abre o playground e testa classificações de atendimento ao cliente, como urgência, equipe responsável e frustração.
08:27	Benchmarks, ranking e limitações	O vídeo apresenta resultados de benchmark e testes de ranking, incluindo uma resposta inadequada que evidencia limitações do modelo.

Citações

Em vez de gerar texto, o CLM aprende a conectar estados e ações. — 01:37

O CLM reage nove vezes mais rápido porque pontua candidatos em vez de gerar tokens. — 03:17

Nenhum parágrafo escrito, nenhum raciocínio em voz alta, apenas decisões instantâneas. — 07:25

O ranking ainda não está pronto para este modelo. — 11:33

Conceitos e entidades

CLM 8B (modelo): Modelo que usa aprendizado contrastivo para pontuar estados e ações e apoiar decisões sem gerar texto.
Contrastive learning (conceito): Método de aprendizado usado para aproximar representações de exemplos relacionados e distinguir opções menos compatíveis.
Qwen3 8B (modelo): Encoder congelado usado pelo CLM para transformar texto em representações numéricas.
Jev (modelo): Sistema comparado ao CLM no exemplo do jogo Chrome Dino.
CLIP (modelo): Modelo mencionado como exemplo anterior do uso de aprendizado contrastivo para relacionar imagens e texto.
vLLM (ferramenta): Ferramenta usada no vídeo para servir o modelo localmente.
DeepSeek (modelo): Benchmark citado na comparação de desempenho do CLM na seleção de correções de código.
Fahd Mirza (pessoa): Apresentador do vídeo e responsável por demonstrar a instalação e os testes do CLM.
NVIDIA (empresa): Empresa cujos pesquisadores participaram do desenvolvimento do modelo apresentado.
Stanford (empresa): Instituição cujos pesquisadores participaram do desenvolvimento do modelo apresentado.

Tradução completa (pt-BR)

00:01 Você olha as redes sociais sobre IA e todo novo modelo acaba com o jogo e muda tudo para sempre. A mesma coisa aconteceu com este modelo da Nvidia e uma equipe de Stanford: CLM de 8 bilhões. As pessoas começaram a dizer que é algo muito novo, uma nova classe de modelo que nunca vimos antes. Olha, isso não é bem verdade. Se você olhar meu canal, há mais de 2 anos falamos sobre esse aprendizado contrastivo.

00:31 Já falei sobre aprendizado contrastivo antes. Falei sobre o CLIP aqui mesmo no canal. O CLIP conecta imagens e texto usando aprendizado contrastivo. Não é uma ideia nova. Mas o que é diferente é outra coisa. Como eu disse, uma equipe de Stanford e da Nvidia Research pegou essa mesma ideia poderosa e a aplicou à tomada de decisões por agents. Conheça os modelos de aprendizado contrastivo, ou CLM: um modelo de 8 bilhões de parâmetros publicado há poucas horas, e a ideia é bastante

01:03 empolgante. Não há dúvida disso. Por isso, vamos instalá-lo localmente e vou testá-lo. Mais importante ainda, vou explicar da maneira mais simples possível o que exatamente acontece por baixo dos panos. Eu sou Fahad Mirza e dou as boas-vindas ao canal. Se quiser ajudar o canal, torne-se membro na página inicial ou no primeiro comentário fixado. Recentemente, também comecei esta newsletter semanal gratuita sobre IA, na qual você pode se inscrever em fahadmirza.substack.com.

01:37 Então, o que exatamente é este modelo? Olha, em vez de gerar texto, o CLM aprende a conectar estados e ações. O resultado é o CLM de 8 bilhões. Ele é construído sobre um encoder Qwen 3 de 8 bilhões congelado, com pequenas camadas de projeção treináveis que têm apenas 75 MB. Sim, é isso mesmo. Então, se eu abrir o cartão do modelo e acessar os arquivos, você verá que o tamanho do modelo é de apenas 75 MB. Nada além disso.

02:12 E ele se iguala a modelos muito maiores em benchmarks de agents, sendo até nove vezes mais rápido. Também vou mostrar isso daqui a pouco. Outra grande vantagem: licença Apache 2, livre para usar e para fazer fine-tuning. Vamos começar a instalação. Vou usar este sistema Ubuntu. Você pode até executá-lo no seu laptop. Embora, para ser transparente, eu tenha uma GPU. Se quiser alugar uma GPU ou CPU por um preço muito bom, você encontra o link para Vast Compute na descrição do vídeo.

02:44 Primeiro, vou clonar o repo e deixarei o link na descrição do vídeo. Ele vai instalar algumas coisas. Enquanto isso acontece, vamos falar um pouco mais sobre algumas coisas que eles compartilharam. Então, esta é uma comparação entre o CLM e Jev jogando o jogo Chrome Dino em zero-shot. E sim, Jev é outra coisa que todo mundo achava ser algo revolucionário, mas é só um modelo de classificação, embora tenha muitos recursos novos e empolgantes. Enfim, o CLM faz 91 pontos com apenas 16

03:17 ms de latência. Jev só chega a 17 pontos, com 150 ms. Mesma GPU, mas o CLM reage nove vezes mais rápido porque pontua opções candidatas em vez de gerar tokens. Tudo foi instalado. Agora vou iniciá-lo com vllm. Na primeira vez que você executa isso, ele também baixa o Qwen 3 de 8 bilhões, que fica congelado, mas executamos este modelo sobre ele. Também vou explicar isso.

03:49 Enquanto o Qwen é baixado, vou explicar o que está acontecendo aqui. Este diagrama resume tudo. Vou explicar em termos simples. Ele mostra exatamente por que o CLM é tão leve. O texto de entrada vai para um Qwen 3 de 8 bilhões congelado. Sem atualizações de gradiente. Sem treinamento. Completamente bloqueado. Ele pega o estado oculto do token final, normaliza-o para que tenha comprimento unitário usando a norma L2 e, em seguida, passa-o

04:20 por uma pequena camada de projeção MLP, e essa camada é a única coisa que está sendo treinada. Apenas 20 milhões de parâmetros. A saída é um vetor de embedding de comprimento unitário que representa um estado ou uma ação. Essa é a explicação de aprendizado de máquina. Agora vou explicar em termos humanos. Então, de novo, seu texto entra no Qwen 3 de 8 bilhões, que fica completamente congelado, ou seja, não mexemos nele, não o treinamos de novo nem tentamos atualizá-lo.

04:51 Você pode pensar nele como um leitor muito inteligente que simplesmente lê seu texto e produz uma lista de números que representa seu significado ou sua semântica. Depois, reduzimos e organizamos esses números para que todos fiquem na mesma escala, como converter diferentes moedas para uma moeda padrão. Então, esses números organizados passam por uma pequena rede neural, com apenas algumas camadas matemáticas simples. E essa rede pequena é a única coisa que realmente é treinada.

05:22 Todo o resto fica bloqueado. Por isso, o componente treinado inteiro tem apenas 75 MB, em vez de um gigabyte. Espero que isso faça sentido. Se ainda não fizer, deixe sua pergunta nos comentários, e ficarei feliz em responder. E já temos o Qwen 3 de 8 bilhões rodando na GPU. Este é o encoder neste terminal, funcionando como a parte que converte texto em números. Vou mostrar o consumo de VRAM. Apenas 1,38 GB, nada demais, apenas

05:53 menos de 30 GB de VRAM. E agora, no próximo terminal, estamos iniciando o servidor do CLM, que carrega essas pequenas camadas de projeção de 75 MB e fica sobre o encoder. Quando os dois estiverem rodando, podemos acessar o playground no navegador ou, acho que, também usar a CLI para pedir ao CLM que tome decisões em tempo real. Vou executá-lo. Como você pode ver, ele baixou o modelo e agora está sendo servido em localhost

06:24 na porta 8700. Vou copiá-lo e abri-lo aqui. E pronto, este é o nosso playground em execução. Vou ativar o fundo escuro. Pronto, muito melhor. Também vou aumentar um pouco a fonte, se conseguir. Certo, agora veja isto. À esquerda, temos uma reclamação de cliente como estado, como você pode ver aqui no topo. E o cliente está dizendo: minha fatura foi

06:55 cobrada duas vezes e ninguém atende o telefone. Então, este é um estado: um cliente irritado, cobrado duas vezes, que não consegue falar com ninguém. Abaixo, temos três perguntas que estamos fazendo ao CLM sobre essa situação, como você pode ver aqui. Uma delas é: isso é urgente? Outra: qual equipe deve cuidar disso? E outra: quão frustrado está o cliente? E você também pode ver que o CLM não vai gerar nenhum texto. Ele apenas lê a situação e então

07:25 pontua essa resposta instantaneamente. Vou executar para mostrar. Viu como foi rápido? 379 milissegundos para três respostas de uma vez. Ele diz: urgente, 84,5% de probabilidade de sim; departamento de cobrança, 99% de confiança; frustração do cliente: muito irritado, 100% de confiança. Como você já pode ver, não há parágrafos escritos nem raciocínio em voz alta, apenas decisões instantâneas. É exatamente isso que você quer dentro de um

07:55 agent de suporte ao cliente, tomando decisões de encaminhamento em tempo real, e esse é o caso de uso deste modelo. E este é o momento certo para mostrar algo muito interessante. Olhe para esta imagem que eles compartilharam. Vou explicá-la em termos simples. Você pode pensar neste diagrama como um app de namoro. Sei que algumas pessoas ficam um pouco incomodadas porque falo muito de namoro, mas é isso aí. Durante o treinamento, ele analisa milhares de situações e ações

08:27 e aprende quais delas combinam. Então, o Mario prestes a bater em um cacto combina com pular, não com correr para a esquerda. Depois que esse pareamento é aprendido, na hora do jogo você só mostra a situação. Ele passa pelas opções e escolhe a que melhor combina em milissegundos. Nada de escrever um texto enorme sobre o que fazer, apenas um pareamento instantâneo. Veja este benchmark de agents. Imagine que você peça a cinco pessoas para corrigir um bug no seu código. Em vez de

08:58 ler você mesmo as cinco respostas, você as entrega ao GLM — desculpe, ao CLM — e ele diz qual está realmente correta. É isso que esses benchmarks testam. O CLM escolheu a correção certa em 81,6% das vezes no Deep Sea, superando a concorrência, que marcou 71,1%, e fez isso em 79 milissegundos, contra 449 milissegundos. Mais rápido e mais preciso: essa é a história toda, e acabamos de ver isso em primeira mão neste playground.

09:30 Certo, vamos fazer outro teste. Vamos ver se o CLM consegue salvar um casamento mais rápido do que encaminha um chamado de suporte ao cliente. Então, o estado é: sua esposa diz: “Você esqueceu nosso aniversário de novo e ainda está no trabalho às 22h.” Agora, esta é apenas uma pergunta de sim ou não que dá uma probabilidade. Tipo: isso é verdade ou quão confiantes estamos? Então, meu conhecimento é: sobrevivência — estou em sérios apuros? E a próxima pergunta é sobre a ação. Estas são algumas das opções: o que devo fazer agora?

10:01 Peça desculpas, ignore ou talvez eu precise fazer tudo isso, menos a última opção. Qual é o nível de perigo? Tudo bem, dormir no sofá hoje à noite; desastre total. E, claro, você pode adicionar mais opções, basta clicar no nível de mais. E então adicione o que quiser. Vou usar apenas a versão mais recente do CLM. Deixe-me executar isso e ver a velocidade. E dá para ver que o modelo está realmente tentando ajudar e sabe o que está acontecendo. Então, ele diz que sim, estou em sérios apuros, o que é verdade.

10:32 E eu deveria pedir desculpas e depois comprar uma flor. Ignorar. Então, sabe, ignorar e continuar trabalhando. Ele colocou “continuar trabalhando” no final. Então, talvez não tenha mais vídeos hoje. O nível de perigo é: sim, é dormir no sofá hoje à noite, não um desastre total. Não é tão ruim. Então, veja, é um modelo muito bom. E, claro, sim no curl; você também pode fazer a classificação, se quiser. Então, principalmente, o que isso significa é que, em vez de fazer perguntas, sabe,

11:03 vários candidatos, você simplesmente apresenta os vários candidatos ao CLM, e ele diz qual é a melhor resposta. Então, a pergunta é: o que devo fazer quando minha esposa está com raiva? Agora, deixe-me colar algumas das respostas aqui. Pronto. Estas são as respostas. Vamos executar isso. E pronto. Ele as classificou em ordem, mostrando o que eu deveria fazer entre todas essas opções. E, por engano, simplesmente dupliquei esta,

11:33 mas, mesmo assim, olhando para isso, acho que a resposta é péssima neste caso. Pronto. Ele diz para continuar trabalhando e pedir desculpas amanhã, o que não é bom. É totalmente diferente do que fizemos antes. Então, a classificação ainda não está pronta para este modelo. Mas, fora isso, este foi muito bom, como você já viu quando fizemos as perguntas. É isso. Me diga o que você pensa nos comentários. Espero que tenha sido útil. Se ajudou, torne-se membro. Obrigado por todo o apoio.

Transcrição original

[00:01] You look at AI social media and every new model finishes the game and changes everything forever. Same thing happened with this model from Nvidia and a team from Stanford CLM 8 billion. People have started saying that it is something very new, a new class of model which we never saw before. Look, that is not really accurate. If you look at my channel, more than 2 years ago, we covered this contrastive

[00:31] learning before. I covered clip right here on this channel. Clip connects images and text using contrastive learning. Not a new idea at all. But what is different is something else. As I said, a team from Stanford and Nvidia research has taken that same powerful idea and applied it to agent decision-making. Meet contrastive learning models of CLM in 8 billion parameter posted just few hours ago and the idea is quite

[01:03] exciting. There is no doubt about it. That is why we are going to install it locally and I am going to test it out. More importantly, I am going to unpack in as simple words as possible what exactly is happening under the hood. This is Fahad Mirza and I welcome you to the channel. If you want to help out the channel, please become a member from the home page or in the first pin comment. Recently, I also have started this free weekly AI newsletter which you can subscribe at fahadmirza.substack.com.

[01:37] So, what exactly is this model? Look, instead of generating text, CLM learns to connect states and actions. The result is CLM 8 billion. This is built on a frozen country 8 billion encoder with tiny trainable projection heads that are only 75 meg. Yes, that’s right. So, if I go to the model card, go to files, you see the model size is just 75 meg. Nothing more.

[02:12] And it matches much larger models on agentic benchmarks while running up to nine times faster. I will also show you that very shortly. Another great thing, Apache 2 licensed, free to use and free to fine-tune. Let’s get the installation underway. I’m going to use this Ubuntu system. You can even run it on your nail. Although I have one GPU for the transparency. If you’re looking to rent a GPU or CPU on very good price, you can find the link to Vast Compute in video’s description.

[02:44] First up, let me get clone the repo and I will drop the link in video’s description. It is going to install a few things. While that happens, let’s talk a bit more around a few of the things which they have shared. So, this is CLM versus Jev playing the Chrome Dino game zero shot. And yes, Jev is another thing where everyone was thinking it’s something very groundbreaking that is just a classification model, but a lot of exciting new features. Anyway. So, CLM is scoring 91 points at just 16

[03:17] ms latency. Jev only reaches 17 points at 150 ms. Same GPU, but CLM is reacting nine times faster because it scores candidates instead of generating tokens. Everything is installed. Let me now serve it with vllm. First time when you run this, it also downloads that Qwen 3 8-billion which is frozen, but we run this model on top of it. I will also explain that.

[03:49] So, while that Qwen gets downloaded, let me explain what is happening here. So, this diagram is what sums up everything. Let me explain in simple words. Because this is showing exactly why CLM is so lightweight. Input text goes into a frozen Qwen 3 8 billion. No gradient updates. No training. Completely locked. It takes the final token’s hidden state, normalizes it into unit length via L2 norm, then passes it

[04:20] through a tiny MLP projection head, and that head is only thing being trained. Just 20 million parameters. The output is a unit length embedding vector that represents either a state or an action. So, this is a machine learning explanation. Let me explain it in human terms. So, again, your text goes in and goes into Qwen 3 8 billion, which is completely frozen, meaning we are not touching it, not retraining it, not trying to update it.

[04:51] You can consider it like, you know, it’s a very smart reader that just reads your text and produces a list of numbers representing its meaning or semantic. Then we shrink and clean up those numbers, so they are all on the same scale, like converting different currencies to one standard currency. Then those clean numbers pass through a tiny neural network, just a few simple math layers. And that tiny network is the only thing that actually gets trained.

[05:22] Everything is locked. That is why the whole trained component is just 75 meg instead of a gigabyte. So, hopefully that makes sense. If it still doesn’t, let me know in the comments with your question, then I will be happy to answer. And we have got this Qwen 3 8 billion running on the GPU. This is encoder in this terminal, acting as the the that converts text into numbers. Let me show you the VRAM consumption. Just 1.38 billion, nothing fancy, just

[05:53] under 30 gig of VRAM. And now, in the next terminal, we are starting the CLM server itself, which loads those tiny 75 meg projection heads and sits on top of the encoder. Once both are running, we can hit the playground in the browser or even I think should be okay in CLI too, ask CLM to make decisions in real time. Let me run this. So, you see it has downloaded that model and now it is being served at localhost

[06:24] at port 8700. Let me copy it and open it here. And there you go, this is our uh playground running. Let me turn on the dark background. There you go, much better. I will also make the font a little bigger if I can. Okay, so now look at this thing. On the left, we have a customer complaint as the state, as you can see here at the top. And customer is saying my invoice was

[06:55] charged twice and nobody answers the phone. So, this is a state, an angry customer charged twice who cannot reach anyone. Below that, we have three questions we are asking CLM about this situation, as you can see here. There is an is this urgent, which team should handle this, and how frustrated is the customer. And then, um you can also see that not only that, CLM is not going to generate any text. It just reads the situation and then

[07:25] instantly scores this answer. Let me run this to show. You see how fast that was? 379 milliseconds for three answers at once. It says urgent, 84.5% yes, department billing at 99% confidence, customer frustration very angry 100% confidence. As you can already see, no paragraphs written, no thinking out loud, just instant decisions. This is exactly what you want running inside a

[07:55] customer support agent making routing decisions in real time and that is the use case of this model. And this is the right time to show you one very interesting thing. Look at this image which they have shared. Let me unpack it in simple words. You can consider this diagram like a dating app. I know some people get a bit upset that I use dating a lot, but you know, that is what it is. During training it looks at thousands of situations and actions

[08:27] and learns which ones belong together. So, Mario about to hit a cactus belong with jump, not run left. Once that matching is learned, at game time you just show it the situation. It swipes through the options and picks the best match in milliseconds. No writing an essay about what to do, just you know, instant matching. Look at this agentic benchmark. So, just you know, imagine you ask five people to fix a bug in your code. Instead of

[08:58] reading all five answers yourself, you hand them to GLM, oh sorry, CLM and tells you which one is actually correct. That’s what these benchmarks test. CLM picked the right fix 81.6% of the time on Deep Sea beating the competition at 71.1% and it did it in 79 milliseconds versus 449 milliseconds. Faster and more accurate, that’s the whole story and we just saw it first hand in this playground.

[09:30] Okay, let’s do another test. Let’s see if CLM can save a marriage faster than it routes a customer support ticket. So, state is that wife, you forgot our anniversary again and you are still at work at 10:00 p.m. So, now this is just a yes and no question that gives you a probability. Like is this true or how confident are we? So, my knowledge is that survival, am I in serious trouble? And then next question is action. These are few of the choices, what should I do right now?

[10:01] Apologize or ignore or maybe I would need to do all of these except last one. What is the danger level? Fine, couch tonight, full disaster. And then of course you can add more, just click on plus level. And then add whatever you like. I’m just going to go with CLM latest. Let me run this and look at the speed. And you can see that model is really trying to help out and it knows what is happening. So, it says yes, I am in serious trouble, which is true.

[10:32] And I should apologize and then buy a flower. Ignore. So, you know, ignore and keep working. It has put keep working at the end. So, no further video maybe today. Danger level is yes, it is couch tonight, not full disaster. It’s not as bad. So, look, pretty good model. And then of course yes on curl and this you can also do the ranking if you like. So, primarily what it means is that instead of asking questions, you know,

[11:03] multiple candidates, uh you just throw the multiple candidates at CLM and it tells you which one is the best answer. So, the question is what should I do when my wife is angry? And then let me paste some of the answers here. There you go. So, these are the answers. Let’s run this. And there you go. So, it has ranked them in order at what should I uh do out of all of these. And I mistakenly just duplicated this,

[11:33] but still if you look I think the response is terrible in this one. There you go. So, it says keep working and apologize tomorrow, which is not good. It is totally different than what we did earlier. So, a ranking is not there yet for this model. But other than that, this one was quite good as you already saw the asking stuff. So, that’s it. Let me know your thoughts in the comments. Hopefully, this was useful. If it helped out, please become a member. Thank you for all the support.