98% do Qwen — Bonsai 2
Autoria: Prompt Engineering · Assistir no YouTube
Vídeo de autoria do canal indicado, não da IANIA; todos os direitos pertencem ao criador. Transcrição, resumo e tradução gerados automaticamente; o conteúdo no idioma original é preservado na versão em idioma original.
Idioma original: inglês
Vídeo original: 98% of Qwen - Bonsai 2 · Canal: Prompt Engineering · 01:02 · Assistir no YouTube
Tópicos: Agentes de IA, Avaliação e benchmarks de IA, Modelos de IA, Modelos locais e open source
Bonsai 2 é um modelo de 27 bilhões de parâmetros da Prism ML que roda em um MacBook e cabe em um arquivo de 6 GB. Ele foi treinado novamente a partir do Qwen 3.8 27B, com pesos limitados a -1, 0 ou +1, e a empresa afirma que preserva 98% do desempenho do modelo original. Em testes curtos, o modelo igualou o modelo completo, mas falhou em uma tarefa longa em um agentic loop: repetiu a mesma busca 114 vezes sem escrever o aplicativo solicitado. O vídeo recomenda testar o modelo nas próprias tarefas antes de confiar nos benchmarks, especialmente para tarefas agentic de longa duração.
Pontos-chave
Seção intitulada “Pontos-chave”- Bonsai 2 tem 27 bilhões de parâmetros e cabe em um arquivo de 6 GB.
- O modelo roda em um MacBook.
- Seus pesos foram limitados aos valores -1, 0 e +1.
- A Prism ML afirma que Bonsai 2 preserva 98% do desempenho do Qwen original.
- Em tarefas curtas, o modelo igualou o modelo completo nos testes do narrador.
- Em uma tarefa de longa duração, Bonsai repetiu a mesma busca 114 vezes e não escreveu o aplicativo.
- O vídeo recomenda avaliar o modelo nas próprias tarefas antes de confiar nos benchmarks.
Capítulos
Seção intitulada “Capítulos”| Início | Capítulo | Resumo |
|---|---|---|
| 00:00 | Bonsai 2 e seus pesos ternários | O vídeo apresenta o modelo, seu tamanho, os valores possíveis de seus pesos e a alegação de desempenho em relação ao Qwen. |
| 00:31 | Teste em uma tarefa longa com agentic loop | Em uma tarefa para criar um rastreador da ISS em um globo 3D, Bonsai repetiu a busca e não escreveu o aplicativo. |
| 01:02 | Teste nas próprias tarefas | O narrador recomenda avaliar o modelo em tarefas próprias antes de confiar nos benchmarks. |
Citações
Seção intitulada “Citações”Eles afirmam que ele preservou 98% do desempenho do modelo Qwen original. — 00:00
Ele executou exatamente a mesma busca 114 vezes e obteve a mesma resposta todas as vezes. — 00:31
Teste-o nas suas próprias tarefas antes de confiar nos benchmarks. — 01:02
Conceitos e entidades
Seção intitulada “Conceitos e entidades”- Bonsai 2 (modelo): Modelo de 27 bilhões de parâmetros da Prism ML, com pesos limitados a -1, 0 ou +1.
- Prism ML (empresa): Empresa responsável por Bonsai 2.
- Qwen3.8 27B (modelo): Modelo usado como base para o treinamento de Bonsai 2.
- agentic loop (conceito): Ciclo de execução em que um modelo realiza etapas para tentar concluir uma tarefa.
- benchmark (conceito): Teste padronizado de desempenho que, segundo o vídeo, não substitui a avaliação nas tarefas reais do usuário.
Tradução completa (pt-BR)
Seção intitulada “Tradução completa (pt-BR)”00:00 Este é um modelo com 27 bilhões de parâmetros rodando no meu MacBook, e tudo cabe em um arquivo de 6 GB. Ele se chama Bonsai 2, da Prism ML. Eles pegaram um Qwen 3.8 27B e o retreinaram para que cada peso fosse apenas -1, 0 ou +1. E afirmam que ele preservou 98% do desempenho do modelo Qwen original. Em tarefas curtas, ele igualou o modelo de tamanho completo nos meus próprios testes, mas depois dei a ele algumas
00:31 tarefas reais em um loop com agents. Por exemplo, construir um rastreador da ISS em um globo 3D. O modelo Qwen completo construiu um rastreador funcional. Bonsai não escreveu uma única linha do aplicativo. Em vez disso, fez exatamente a mesma busca 114 vezes e obteve a mesma resposta todas as vezes. Então, a compressão se sustenta em conversas e ajuda rápida com programação em um laptop, mas, para tarefas autônomas de longa duração, teste-o nas suas
01:02 próprias tarefas antes de confiar nos benchmarks.
Transcrição original
[00:00] This is a 27B parameter model running on my MacBook and the whole thing fits in a 6 GB file. It’s called Bonsai 2 from Prism ML. They took a Qwen 3.8 27B and retrained it so that every weight is just -1, 0, or +1. And they claim it preserved 98% of the performance of the original Qwen model. Now, on short tasks, it matched the full-size model in my own tests, but then I gave it some
[00:31] real jobs in an agentic loop. For example, build an ISS tracker on a 3D globe. The full Qwen model built a working tracker. Bonsai never wrote a single line for the app. Instead, it ran the exact same search 114 times and got the same answer every time. So, the compression holds up for chat and quick coding help on a laptop, but for long running agentic tasks, test it on your
[01:02] own tasks before you trust the benchmarks.