Pular para o conteúdo

Os 30 mil tokens ocultos que o Claude Code usa antes de você digitar

Ver no idioma original →

Autoria: Leon van Zyl · Assistir no YouTube

Vídeo de autoria do canal indicado, não da IANIA; todos os direitos pertencem ao criador. Transcrição, resumo e tradução gerados automaticamente; o conteúdo no idioma original é preservado na versão em idioma original.

Idioma original: inglês

Vídeo original: The Hidden 30K Tokens Claude Code Uses Before You Type · Canal: Leon van Zyl · 00:30 · Assistir no YouTube

Tópicos: Agentes de IA, Claude Code, Modelos locais e open source

Antes de receber qualquer mensagem, o Claude Code já ocupa mais de 30 mil tokens da context window. Isso pode ser um problema para modelos locais, que costumam ter janelas de contexto menores, especialmente em hardware de consumo. O vídeo apresenta um harness compacto para modelos open-weight, removendo componentes de que eles não precisam. Com isso, as definições de ferramentas, o system prompt e outros elementos necessários ocupam apenas 1.400 tokens.

  • O Claude Code pode usar mais de 30 mil tokens antes de receber uma mensagem do usuário.
  • Modelos locais costumam ter context windows menores, sobretudo em hardware de consumo.
  • Uma context window de 32 mil ou 64 mil tokens pode não comportar esse overhead sem comprometer o espaço disponível.
  • O criador desenvolveu um harness compacto para modelos open-weight.
  • O harness remove componentes que modelos open-weight executados em hardware próprio não precisam.
  • MCP tools e subagents são citados como componentes desnecessários para esses modelos.
  • As definições de ferramentas, o system prompt e os demais elementos necessários somam 1.400 tokens.
Início Capítulo Resumo
00:00 O custo inicial do Claude Code O vídeo destaca que o Claude Code ocupa mais de 30 mil tokens antes de receber qualquer mensagem.
00:15 Limites dos modelos locais O grande uso de contexto pode ser inviável para modelos locais com janelas menores e hardware de consumo.
00:30 Um harness compacto para modelos open-weight O criador descreve um harness que remove recursos desnecessários e reduz os componentes essenciais a 1.400 tokens.

Antes de eu enviar uma única mensagem ao Claude, ele já está ocupando mais de 30 mil tokens da minha context window. — 00:00

Se a sua context window inteira tiver apenas 32 mil ou 64 mil tokens, você não pode se dar ao luxo de injetar os 30 mil tokens do Claude Code. — 00:00

Criei este pequeno harness, que elimina tudo de que um modelo open-weight nunca vai precisar. — 00:30

Tudo de que este modelo precisa ocupa apenas 1.400 tokens. — 00:30

  • Claude Code (ferramenta): Ferramenta cujo harness, segundo o vídeo, ocupa mais de 30 mil tokens antes de o usuário enviar uma mensagem.
  • Harness (conceito): Estrutura de componentes que prepara o contexto e as ferramentas necessárias para o modelo.
  • open-weight models (conceito): Modelos de pesos abertos que podem ser executados no hardware do próprio usuário.
  • MCP (conceito): Tecnologia citada como exemplo de recurso que o harness compacto exclui para modelos open-weight.
  • subagent (conceito): Agente auxiliar citado como recurso desnecessário para os modelos open-weight descritos.
  • context window (conceito): Espaço de contexto disponível para o modelo, medido em tokens.

00:00 Antes mesmo de eu enviar uma única mensagem para Claude, ele já está ocupando mais de 30.000 tokens da minha context window. Em geral, seus modelos locais têm uma context window muito pequena, especialmente em hardware de consumo. Se toda a sua context window tiver apenas 32.000 ou 64.000 tokens, você não pode se dar ao luxo de injetar os 30.000 tokens do Claude Code — que são apenas coisas do harness — na context window. Então, decidi criar este pequeno codificador

00:30 harness, que remove tudo de que um modelo de pesos abertos nunca vai precisar. Modelos de pesos abertos que rodam no seu próprio hardware nunca vão precisar executar coisas como ferramentas MCP ou subagents. Todas as definições de ferramentas, o system prompt, tudo de que esse modelo precisa ocupa apenas 1.400 tokens.

Transcrição original

[00:00] Before I’ve sent a single message to Claude, it’s already taking up over 30,000 tokens of my context window. Typically, your local models have a very tiny context window, especially on consumer-grade hardware. If your entire context window is only like 32,000 tokens or 64,000 tokens, you cannot afford to inject Claude codes 30,000 tokens, which is just purely harness stuff, into the context window. So, I decided to create this small coder

[00:30] harness, which strips away anything an open-weight model will never need. Open-weight models that run on your own hardware will never need to run things like MCP tools or sub-agents. All the tool definitions, the system prompt, everything this model needs only takes 1,400 tokens.