Pular para o conteúdo

Flint 40B vs Qwen3.8 27B

Ver no idioma original →

Autoria: Data Science in your pocket · Assistir no YouTube

Vídeo de autoria do canal indicado, não da IANIA; todos os direitos pertencem ao criador. Transcrição, resumo e tradução gerados automaticamente; o conteúdo no idioma original é preservado na versão em idioma original.

Idioma original: inglês

Vídeo original: Flint 40B vs Qwen3.8 27B · Canal: Data Science in your pocket · 04:35 · Assistir no YouTube

Tópicos: Agentes de IA, Avaliação e benchmarks de IA, Modelos de IA, Modelos locais e open source, Modelos multimodais

O vídeo compara Flint e Qwen3.8 27B, destacando diferenças entre a arquitetura esparsa de especialistas do Flint e a arquitetura densa e multimodal do Qwen. Embora o Flint ative apenas cerca de 2,5 bilhões de parâmetros por token, é preciso armazenar seus 39,8 bilhões de pesos. O Qwen aceita imagens e vídeos e apresenta resultados relatados superiores em algumas avaliações de código, enquanto o Flint se destaca em seguimento de instruções. A escolha depende do workflow, do hardware e do desempenho dos modelos em tarefas reais.

  • Flint tem 39,8 bilhões de parâmetros totais e ativa cerca de 2,5 bilhões por token; o Qwen3.8 27B usa 27 bilhões de parâmetros densos.
  • A ativação esparsa do Flint reduz a computação por token, mas não diminui o armazenamento necessário para os pesos completos.
  • Ambos documentam uma context window nativa de 262.144 tokens; o Qwen pode chegar a 1 milhão com yarn scaling, que é uma extensão.
  • Flint recebe e produz texto, enquanto Qwen aceita imagens e vídeos e pode ser usado em tarefas visuais.
  • Nos resultados divulgados, Qwen supera Flint em Terminal Bench 2.1 e LiveCodeBench v6, mas as avaliações não são perfeitamente controladas.
  • Flint apresenta resultado divulgado superior em IFBench e é voltado a tarefas de programação com uso local e iterativo.
  • A escolha deve considerar tarefas reais, ferramentas, latência, hardware e o trabalho concluído por unidade de tempo e recursos.
Início Capítulo Resumo
00:00 Dois modelos, arquiteturas diferentes A apresentação compara o Flint esparso com o Qwen denso e descreve suas estruturas principais.
01:01 Eficiência, memória e contexto O vídeo explica a ativação seletiva do Flint, a arquitetura do Qwen e os limites práticos de memória e contexto.
02:32 Multimodalidade e resultados de código A comparação aborda o suporte visual do Qwen e os resultados divulgados dos modelos em avaliações de programação.
03:34 Seguimento de instruções e uso como agent Flint é apresentado como opção para programação local, enquanto o vídeo discute esforço de raciocínio e uso ao longo de várias interações.
04:04 Escolher pelo workflow A conclusão recomenda avaliar os modelos com prompts, ferramentas, hardware e tarefas reais.

Maquinários diferentes, o mesmo objetivo: inference local capaz, sem infraestrutura de escala de ponta. — 01:32

Ativação esparsa pode reduzir a computação por token. Não reduz magicamente o checkpoint a um modelo de 2,5 bilhões de parâmetros. — 02:02

Trate esses resultados como evidência indicativa, não como uma corrida perfeitamente controlada. — 03:03

A escolha prática não é simplesmente entre velocidade e inteligência. — 04:04

A configuração local mais inteligente não é uma coleção de troféus. É uma caixa de ferramentas. — 04:35

  • Flint (modelo): Modelo de programação esparso da Recursive, com 39,8 bilhões de parâmetros totais e cerca de 2,5 bilhões ativos por token.
  • Qwen3.8 27B (modelo): Modelo denso de 27 bilhões de parâmetros descrito como multimodal, com suporte a imagens e vídeos.
  • Recursive (empresa): Empresa associada ao Flint e aos resultados divulgados para o modelo.
  • Mixture of Experts (conceito): Arquitetura em que um roteador seleciona especialistas para processar cada token.
  • yarn scaling (conceito): Método mencionado para estender o contexto do Qwen a até 1 milhão de tokens.
  • Terminal-Bench 2.1 (conceito): Avaliação de programação na qual o desenvolvedor do Qwen relata resultado superior ao divulgado para Flint.
  • LiveCodeBench v6 (conceito): Avaliação de código cuja pontuação divulgada para Qwen é superior à informada para Flint.
  • IFBench (conceito): Avaliação de seguimento de instruções na qual Recursive relata resultado superior para Flint.
  • SWE-bench Verified (conceito): Benchmark de tarefas de engenharia de software no qual Flint reporta resultado de 74,2.

00:00 Um repo quebrado. >> [música] >> Centenas de arquivos. Um teste falhando. Dois modelos de pesos abertos entram na mesma oficina digital, mas abordam a crise de maneiras muito diferentes. Flint é um especialista compacto em programação com uma enorme biblioteca de especialistas. Qwen3.8 27B é um solucionador denso e multimodal de problemas. A verdadeira questão não é qual nome vence. É qual arquitetura se encaixa no seu trabalho. >> [música] >> Flint vem da Recursive e tem 39,8 bilhões de parâmetros no total, mas apenas cerca de

00:31 2,5 bilhões ativos para cada token. Qwen usa 27 bilhões de parâmetros densos >> [música] >>, com todas as partes do seu modelo de linguagem participando à medida que os tokens percorrem a rede. >> [música] >> Pense nisso como o despacho de especialistas versus o foco da equipe inteira. Ambos são lançados com pesos Apache 2.0. Dentro do Flint, um token chega a um roteador, em vez de a uma oficina gigantesca. >> [música] >> Cada camada de mistura de especialistas contém 256 especialistas roteados. O roteador escolhe seis, enquanto um especialista compartilhado está sempre ativo.

01:01 Ao longo de 49 camadas, essa ativação seletiva preserva um grande conjunto de capacidade aprendida sem calcular cada especialista para cada token [música]. Esse é o principal truque de eficiência do Flint. Qwen segue outro caminho. >> [música] >> Seu decodificador de 64 camadas repete três blocos gated DeltaNet e, depois, um bloco completo de atenção gated. Portanto, é denso, mas não antiquado. Os estágios de atenção linear lidam com boa parte do processamento da sequência, enquanto a atenção completa periódica reconecta informações distantes. O treinamento com previsão de múltiplos tokens acrescenta

01:32 mais uma ferramenta de eficiência. Maquinários diferentes, mesmo objetivo: inferência local capaz, sem infraestrutura em escala de modelos de fronteira. >> [música] >> Aqui está a armadilha do destaque de 2,5B do Flint. Parâmetros ativos não são a mesma coisa que parâmetros armazenados. >> [música] >> Mesmo quando apenas alguns especialistas são ativados, todos os 39,8 bilhões de pesos ainda precisam de memória ou armazenamento. A ativação esparsa pode reduzir a computação por token. >> [música] >> Ela não reduz magicamente o checkpoint a um modelo de 2,5 bilhões de parâmetros. Sempre reserve recursos para os pesos completos,

02:02 cache, runtime e contexto. Ambos os modelos documentam um contexto nativo de 262.144 tokens. >> [música] >> Imagine uma bancada compartilhada gigantesca para código, saídas de ferramentas e conversa. Qwen pode se estender a 1 milhão de tokens usando o escalonamento yarn, mas isso é uma extensão, não sua context window nativa, e o escalonamento estático pode prejudicar prompts mais curtos. Para qualquer um dos modelos, uma context window grande representa capacidade, não uma garantia de precisão perfeita em contextos longos. Agora, entregue aos dois agents uma captura de tela

02:32 em vez de texto simples. Flint recebe texto e produz texto. Qwen inclui um codificador visual e aceita imagens e vídeo, produzindo texto. Isso muda os tipos de agents que você pode criar: teste de interfaces, compreensão de documentos, análise de gráficos, desenvolvimento web visual e uso do computador. Se a tarefa começa com pixels, Qwen parte de uma vantagem fundamental. Nos resultados de programação divulgados, Qwen parece mais forte em duas comparações importantes. Seu desenvolvedor relata 73% no Terminal

03:03 Bench 2.1 e 90,3 no LiveCodeBench versão 6. O cartão do modelo do Flint relata 54,9 e 80,3. Mas as configurações de avaliação variam entre as fontes, então trate esses números como indícios, não como uma disputa perfeitamente controlada. Seu repo e seu harness de ferramentas continuam sendo o teste decisivo. >> [música] >> Flint contra-ataca no seguimento de instruções. A Recursive relata 89,2 no IFBench, em comparação com os 79,5 relatados para Qwen. Flint também relata 74,2 no SWE-Bench

03:34 Verified, mostrando que esparso não significa fraco. Seu propósito é restrito e claro: investigar bases de código, corrigir bugs, implementar recursos, escrever testes e sustentar o uso de ferramentas em várias interações como um agent de programação local e rápido. >> [música] >> O comportamento do agent importa tanto quanto sua arquitetura. Qwen raciocina por padrão e oferece níveis de esforço de raciocínio baixo, médio e extra alto. Um esforço menor pode acelerar uma única interação, mas causar novas tentativas em tarefas difíceis. Da mesma forma, Flint recomenda orçamentos generosos de saída para problemas complexos e

04:04 a preservação do raciocínio entre interações. A compensação prática não é simplesmente velocidade ou inteligência. É o trabalho concluído por unidade de tempo, tokens e supervisão. >> [música] >> Portanto, escolha o workflow, não o hype. Flint é a opção mais adequada quando seu mundo é texto e código [música] e a prioridade é o rendimento de programação local esparsa. Qwen é a opção mais abrangente quando você quer compreensão multimodal densa, resultados divulgados mais fortes em tarefas de terminal e resultados competitivos em programação, ou a possibilidade de chegar a um contexto de 1 milhão de tokens. Ambos merecem uma avaliação privada com

04:35 seus prompts reais, ferramentas, metas de latência e hardware. >> [música] >> De volta à oficina, o teste que falhava finalmente passa. Mas a máquina vencedora depende do próximo desafio. Um ciclo de correção apenas com texto pode pedir o despacho especializado do Flint [música]. Uma sessão de depuração orientada por capturas de tela aponta para Qwen. A configuração local de IA mais inteligente não é uma coleção de troféus. É uma caixa de ferramentas em que a arquitetura desaparece dentro do trabalho que você realmente precisa fazer.

Transcrição original

[00:00] A broken repository. >> [music] >> Hundreds of files. One failing test. Two open weight models enter the same digital workshop, but they approach the crisis very differently. Flint is a compact coding specialist with a huge library of experts. Gwen 3.827B is a dense multimodal problem solver. The real question is not which name wins. It is which architecture fits your work. >> [music] >> Flint comes from Recursive with 39.8 billion total parameters, but only about

[00:31] 2.5 billion active for each token. Gwen uses 27 billion dense parameters >> [music] >> with every part of its language model participating as tokens move through the network. >> [music] >> Think specialist dispatch versus full team focus. Both are released with Apache 2.0 weights. Inside Flint, a token reaches a router instead of one giant workshop. >> [music] >> Each mixture of experts layer contains 256 routed experts. The router chooses six, while one shared expert is always active.

[01:01] Across 49 layers, this selective activation preserves a large pool of learned capacity without computing every expert for every [music] token. That is Flint’s central efficiency trick. Gwen takes another route. >> [music] >> Its 64-layer decoder repeats three gated Delta net blocks, then one full gated attention block. So, this is dense, but not old-fashioned. Linear attention stages handle much of the sequence work, while periodic full attention reconnects distant information. Multi-token prediction training adds

[01:32] another efficiency tool. Different machinery, same goal, capable local inference without frontier scale infrastructure. >> [music] >> Here is the trap in Flint’s 2.5B headline. Active parameters are not the same as stored parameters. >> [music] >> Even when only a few experts wake up, all 39.8 billion weights still need memory or storage. Sparse activation can reduce computation per token. >> [music] >> It does not magically shrink the checkpoint to a 2.5 billion parameter model. Always budget for the complete weights,

[02:02] cache, runtime, and context. Both models document a native context of 262,144 tokens. >> [music] >> Picture an enormous shared workbench for code, tool outputs, and conversation. Quen can extend to 1 million tokens using yarn scaling, but that is an extension, not its native window, and static scaling can hurt shorter prompts. For either model, a large window is capacity, not a guarantee of perfect long context accuracy. Now hand both agents a screenshot

[02:32] instead of plain text. Flint is text in, text out. Quen includes a vision encoder and accepts images and video, then produces text. That changes the kinds of agents you can build, interface testing, document understanding, chart analysis, visual web development, and computer use. If the task begins with pixels, Quen starts with a fundamental advantage. On reported coding results, Quen looks stronger in two important comparisons. Its developer reports 73% on Terminal

[03:03] Bench 2.1 and 90.3 on LiveCodeBench version 6. Flint’s model card reports 54.9 and 80.3. But evaluation setups vary across sources, so treat these as directional evidence, not a perfectly controlled race. Your repository and tool harness remain the deciding test. >> [music] >> Flint fights back on instruction following. Recursive reports 89.2 on IFBench, compared with Quen’s reported 79.5. Flint also reports 74.2 on SWE-Bench

[03:34] verified, showing that sparse does not mean weak. Its purpose is narrow and clear, investigate codebases, repair bugs, implement features, write tests, and sustain multi-turn tool use as a fast local coding agent. >> [music] >> The agent’s behavior matters as much as its architecture. Quen thinks by default and exposes low, medium, and extra high reasoning effort. Lower effort can accelerate a single turn, yet cause retries on difficult tasks. Flint likewise recommends generous output budgets for hard problems and

[04:04] preserving reasoning across turns. The practical trade-off is not simply speed or intelligence. It is completed work per unit of time, tokens, and supervision. >> [music] >> So, choose the workflow, not the hype. Flint is the cleaner candidate when your world is text and code [music] and sparse local coding throughput is the priority. Quinn is the broader candidate when you want dense multimodal understanding, stronger reported terminal and competitive coding results, or an optional path toward 1 million token context. Both deserve a private evaluation on

[04:35] your real prompts, tools, latency targets, and hardware. >> [music] >> Back in the workshop, the failing test finally turns green. But, the winning machine depends on the next challenge. A text-only repair loop may call for Flint’s specialist [music] dispatch. A screenshot-driven debugging session points toward Quinn. The smartest local AI setup is not a trophy cabinet. It is a toolbox where architecture disappears into the work you actually need done.