Pular para o conteúdo

DeepSeek no Claude Code (e o mecanismo que eles disponibilizaram)

Ver no idioma original →

Autoria: Mervin Praison · Assistir no YouTube

Vídeo de autoria do canal indicado, não da IANIA; todos os direitos pertencem ao criador. Transcrição, resumo e tradução gerados automaticamente; o conteúdo no idioma original é preservado na versão em idioma original.

Idioma original: inglês

Vídeo original: DeepSeek in Claude Code (and the Engine They Gave Away) · Canal: Mervin Praison · 07:54 · Assistir no YouTube

Tópicos: Agentes de IA, Claude Code, Inferência e otimização de modelos, Modelos de IA, Modelos locais e open source

O vídeo apresenta o modelo DeepSeek V4.1 Flash 1017 e o mecanismo de inferência que a DeepSeek disponibilizou como open source. Ele mostra como conectar o modelo ao Claude Code por meio de um endpoint compatível com Anthropic e compara custos com outros modelos. Também explica limitações de hardware, recursos ausentes no mecanismo e cuidados com benchmarks, privacidade e hospedagem própria. A conclusão é que o modelo é uma opção econômica para tarefas de volume, enquanto modelos de fronteira ainda são preferíveis para trabalhos mais difíceis.

  • DeepSeek V4.1 Flash 1017 tem uma context window de 1 milhão de tokens e pesos publicados sob licença MIT.
  • O modelo melhorou em benchmarks em relação à versão Flash anterior, mas as comparações entre laboratórios devem ser tratadas como aproximadas.
  • A DeepSeek também publicou o mecanismo de inferência DeepInfra sob Apache 2.0, uma iniciativa menos comum do que a liberação de pesos.
  • O mecanismo inclui recursos como decodificação especulativa, agendamento assíncrono de lotes e saídas estruturadas.
  • A implementação foi direcionada a GPUs Nvidia da classe Blackwell e ao Huawei Ascend 950; não é voltada para execução em um MacBook.
  • O lançamento cobre inferência offline, mas não inclui componentes necessários para um serviço completo, como sistema de KV cache e balanceamento de carga entre réplicas.
  • O Claude Code pode ser conectado ao endpoint compatível com Anthropic da DeepSeek usando variáveis de ambiente.
  • No exemplo apresentado, duas tarefas de programação custaram cerca de 22 centavos em preços fora do horário de pico.
  • O vídeo recomenda testar o modelo no próprio repo e considerar requisitos de conformidade antes de enviar dados à API.
  • A recomendação é usar o Flash para tarefas em volume e modelos de fronteira para as tarefas mais complexas.
Início Capítulo Resumo
00:00 O modelo e o mecanismo da DeepSeek O vídeo apresenta os lançamentos do modelo Flash e do mecanismo de inferência, além de resumir os ganhos nos benchmarks.
02:06 Como funciona o mecanismo e quais são seus limites São descritos os componentes técnicos, os requisitos de hardware e os recursos de infraestrutura que não foram incluídos no lançamento.
03:40 Conectando a DeepSeek ao Claude Code O vídeo demonstra a configuração do endpoint e exemplos de tarefas de programação, com uma estimativa de custo.
05:13 Custos, concorrência e recomendações O apresentador compara preços, contextualiza a disputa por modelos abertos e recomenda avaliar benchmarks, privacidade e uso de modelos de fronteira.

Essa é a nova versão open source da DeepSeek, e nem sequer é a grande notícia. — 00:00

Você recebe o mecanismo, mas não o carro inteiro. — 03:40

A inteligência barata está virando uma commodity. — 06:17

O modelo é um bom cavalo de batalha barato, mas o mecanismo é a verdadeira história. — 07:21

  • DeepSeek V4.1 Flash 1017 (modelo): Modelo Flash da DeepSeek apresentado no vídeo, com pesos sob licença MIT e context window de 1 milhão de tokens.
  • DeepInfra (repo): Mecanismo de inferência publicado sob Apache 2.0 e descrito no vídeo como parte da infraestrutura usada pela DeepSeek em serviços de produção.
  • DeepSeek (empresa): Empresa responsável pelo modelo, pela API e pelo mecanismo de inferência discutidos no vídeo.
  • Claude Code (ferramenta): Ferramenta de programação que pode ser configurada para enviar solicitações ao endpoint da DeepSeek compatível com Anthropic.
  • Anthropic (empresa): Empresa cujo formato de API é compatível com o endpoint da DeepSeek usado no exemplo.
  • Terminal-Bench 4.0 (conceito): Benchmark citado para comparar o desempenho do modelo em tarefas de terminal.
  • Flash MLA (conceito): Biblioteca de kernels da DeepSeek mencionada como componente do mecanismo de inferência.
  • DSpark (conceito): Nome dado pela DeepSeek à técnica de decodificação especulativa descrita no vídeo.
  • KV cache (conceito): Componente necessário para um serviço completo de inferência e apontado como uma possível fonte de problemas em hospedagem própria.
  • Huawei Ascend 950 (modelo): Acelerador da Huawei citado entre as plataformas de hardware visadas pelo mecanismo.
  • Codex (ferramenta): Ferramenta citada como possível cliente das APIs de busca e busca de conteúdo da DeepSeek.
  • Cloudflare (empresa): Empresa que publicou o postmortem citado sobre um problema em serving desagregado com SG Lang.
  • SGLang (ferramenta): Sistema de serving mencionado no vídeo em relação a um bug corrigido na versão 0.5.22 ou posterior.

00:00 US$ 30 ou US$ 2,10 pelo mesmo dia de programação com IA. Esse é o novo modelo open source da DeepSeek — e nem sequer é a grande notícia. Três dias depois, eles disponibilizaram o engine que executa a própria API. Isso é raro. A principal história de IA do mês no Hacker News. >> [música] >> Veja como conectá-lo ao Claude Code e quanto custa uma sessão. Mas há uma ressalva: a parte que eles não disponibilizaram como open source.

00:32 Dois lançamentos, com três dias de intervalo. Em 17 de outubro, a DeepSeek lançou o V4.1 Flash 1017, uma atualização do modelo Flash. Os pesos estão no Hugging Face e no ModelScope sob a licença MIT. A context window é de 1 milhão de tokens, e os tensores seguros somam cerca de 763 bilhões de parâmetros. >> [música] >> Ele já é o modelo por trás do nome DeepSeek Flash na API deles. Então, se você estava chamando o Flash na semana passada, agora está usando o novo modelo,

01:03 Em 20 de outubro, eles publicaram o DeepInfra no GitHub sob a licença Apache 2.0. Ele é descrito como o framework que alimenta os serviços de produção em grande escala da DeepSeek e chegou a [música] 21 mil estrelas em poucos dias. Os laboratórios publicam pesos o tempo todo. Publicar o engine de serving é muito mais raro, e foi por isso que os desenvolvedores prestaram atenção. Vamos ver os números divulgados pela própria DeepSeek em comparação com o Flash anterior. O Terminal Bench 4.0 passou de 31,2 para

01:35 42,3, >> [música] >> um salto de 11 pontos. O Program Bench passou de 20,3 para 29,1. O Deep SWE passou de 74,2 para 77. As notas de lançamento resumem os resultados assim: pontuações mais altas, conclusão de tarefas mais rápida e respostas mais curtas. E respostas mais curtas reduzem diretamente sua conta. Agora, a parte honesta. No Terminal Bench, este não é um modelo de ponta. O Claude Opus 5.5 fica em torno de 66. O novo Kimi K2.1 Pro afirma ter 65,7

02:06 e o GPT-6.1 Terra, da OpenAI, lançado em 26 de outubro, afirma ter cerca de 50. A DeepSeek ficou em 42. Observe também que cada laboratório executa esses testes com seu próprio harness, e a DeepSeek executou o Terminal Bench dentro do Claude Code. Portanto, encare as comparações entre laboratórios como aproximadas. A proposta não é ter o melhor modelo. A proposta é ter um modelo bom o bastante para a maioria das tarefas de programação, por uma fração do preço, com pesos que você pode controlar. Veja o que há dentro do DeepInfra. Ele usa

02:39 as próprias bibliotecas de kernel da DeepSeek: Flash MLA, DeepGEMM e DeepEP. Ele conta com paralelismo de especialistas com balanceamento de carga para as camadas de mistura de especialistas, decodificação especulativa chamada DSpark, agendamento assíncrono de lotes e saídas estruturadas com JSON Schema, rejeições ou gramática. Em GPUs Nvidia, há amostragem determinística com invariância de lote >> [música] >>, então o mesmo prompt gera a mesma resposta. Se você já teve que depurar um agent instável,

03:10 esse último recurso é muito importante. Duas ressalvas. Primeiro, o hardware. Ele é voltado para GPUs da classe SM 100 Blackwell da Nvidia >> [música] >> e para o Huawei Ascend 950. Os benchmarks deles usaram quatro GPUs para prefill e 64 para decode. Isso não é algo que você executa em um MacBook. É um projeto de referência para equipes que executam inference em grande escala, e é notável que um laboratório chinês tenha lançado primeiro suporte de primeira linha para um chip da Huawei. Segundo, ele é

03:40 apenas para inference offline. O README diz que um serviço completo ainda precisa de um sistema de cache KV, desagregação entre prefill e decode e balanceamento de carga entre réplicas, e esses componentes não estão incluídos neste lançamento. >> [música] >> Então, você recebe o engine, mas não o carro inteiro. A maioria de vocês não vai hospedar isso por conta própria, então aqui está a maneira mais rápida de experimentar. A DeepSeek oferece um endpoint compatível com Anthropic, então basta apontar o Claude Code para ele usando três variáveis de ambiente. A

04:12 URL base é api.deepseek.com/anthropic; depois, sua chave da DeepSeek; e, por fim, o modelo DeepSeek Flash. Inicie o Claude Code normalmente, e todas as solicitações passarão a ir para a DeepSeek. Veja uma reprodução de uma tarefa inicial típica: adicione um endpoint de saúde, escreva um teste e execute-o [música]. Ele planeja, edita o app e escreve o teste. A primeira execução falha, e ele corrige a causa raiz por conta própria. Quando experimentar, observe quantas rodadas são necessárias e se ele consegue se recuperar de um teste que falha.

04:42 É aí que o ganho de 11 pontos no Terminal Bench deve aparecer. Agora, uma tarefa mais difícil: uma refatoração em vários arquivos. Ele encontra todas as importações, escreve um único carregador e corrige um teste que falha na segunda tentativa. Sua execução pode ser diferente, então experimente no seu repo. Neste exemplo, as duas tarefas custam cerca de 22 centavos nos horários fora de pico. [música] Seu painel mostra o valor real. Mais uma coisa: a DeepSeek também abriu suas APIs de busca e fetch. Elas custam 75 centavos por mil chamadas,

05:13 mas, quando o Claude Code ou o Codex as chama como ferramentas do lado do servidor, elas são gratuitas até sábado, 31 de outubro, às 16h UTC. Se você quer experimentar agents fundamentados na web por um preço baixo, esta é a semana. Vamos colocar números nisso. Considere um dia intenso de programação com agents: 10 milhões de tokens de entrada e 1 milhão de tokens de saída. Pelos preços de tabela, antes do cache, >> [música] >> o DeepSeek V4.1 Flash, fora do horário de pico, custa cerca de

05:45 US$ 2,10. O GPT-6.1 Terra, a US$ 1 para entrada e US$ 5 para saída, custa US$ 15. O Gemini 4 Argon, a US$ 2 para entrada e US$ 10 para saída, custa US$ 30. O cache reduz ainda mais o custo da DeepSeek. A entrada com cache custa um terço de centavo por milhão. Uma ressalva para quem está no Reino Unido: a DeepSeek tem horários de pico nos dias úteis, >> [música] >> da 1h às 4h e das 6h às 10h, no horário do Reino Unido, quando os preços dobram. Execute seus trabalhos em lote à tarde. Vamos ampliar a perspectiva.

06:17 E isto é uma guerra de preços de modelos open source que está acontecendo em duas semanas. A Meta lançou o MuSpark como open source. A Kimi prometeu os pesos do K2.1 até 4 de novembro. A MiniMax igualou o preço de 0,15. E agora a DeepSeek também lançou o engine. A inteligência barata está virando uma commodity. E a vantagem competitiva está migrando para harnesses, ferramentas e workflows. Quatro coisas para considerar antes de transferir sua equipe. Primeiro: os benchmarks são autorrelatados e dependem do harness. Teste no seu próprio

06:48 repo. Segundo: os dados. A API da DeepSeek funciona nos servidores da DeepSeek. Se isso for um problema de conformidade, os pesos sob a licença MIT permitem usar outro provedor de hospedagem ou executar o modelo por conta própria. Terceiro: se você fizer self-hosting, é no cache KV que as coisas podem dar errado. Em 26 de outubro, a Cloudflare publicou um post-mortem: um bug do SGLang em serving desagregado vazou 155 respostas contendo dados de outros clientes em prompts muito longos. Eles corrigiram o problema

07:21 e recomendam o SGLang 0.5.22 ou posterior. Essa é exatamente a camada que o DeepInfra deixa de fora. Quarto: é um modelo Flash. Para refatorações do seu harness, os modelos de ponta ainda levam vantagem. Use este para volume e os modelos mais caros para as partes difíceis. Minha opinião: o modelo é um cavalo de batalha sólido e barato, [música] mas o engine é a verdadeira história. A DeepSeek está publicando como um laboratório de ponta realmente serve modelos. E todas as equipes de inference vão ler esse código. Se você cria agents, experimente o DeepSeek Flash e o Claude Code esta semana, enquanto busca e fetch estão gratuitos, e compare com o que você paga agora por tarefa. Coloquei na descrição os comandos exatos e todas as fontes. Conte nos comentários quanto custou cada tarefa para você. Siga para ver mais análises como esta sobre ferramentas para desenvolvedores de IA.

07:54 A equipe de inferência vai ler este código. Se você cria agents, experimente DeepSeek Flash e Claude Code nesta semana, enquanto a pesquisa e a busca são gratuitas, e compare os resultados com o que você paga agora. Coloquei na descrição os comandos exatos e todas as fontes. Conte nos comentários quanto custou por tarefa. Siga para ver mais análises de desenvolvimento com IA como esta.

Transcrição original

[00:00] $30 or $2.10 [music] same day of AI coding. That’s DeepSeek’s new open model, and it’s not even the big news. Three days later, they open-source the engine that runs their own API. That’s rare. Number one AI story on Hacker News this month. >> [music] >> Here’s how to plug it into Claude code and what a session costs. But there’s a catch, the part they didn’t open-source.

[00:32] Two releases, three days apart. On the 17th of October, DeepSeek released V4.1 Flash 1017, an update to its Flash model. The weights are on Hugging Face and ModelScope under MIT. The context window is 1 million tokens, and the safe tensors add up to about 763 billion parameters. >> [music] >> It’s already the model behind the DeepSeek Flash name in their API. So, if you were calling Flash last week, you’re

[01:03] on the new one now. Then on the 20th of October, they put DeepInfra on GitHub under Apache 2.0. It’s described as the framework that powers DeepSeek’s large-scale production services, and it passed [music] 21,000 stars within days. Labs release weights all the time. Releasing the serving engine is much rarer, and that’s why developers paid attention. Let’s look at DeepSeek’s own numbers against the previous Flash. Terminal Bench 4.0 goes from 31.2 to

[01:35] 42.3, >> [music] >> an 11-point jump. Program Bench goes from 20.3 to 29.1. Deep SWE goes from 74.2 to 77. Their release notes sums it up as stronger scores, faster task completion, and shorter outputs. And shorter outputs directly lower your bill. Now the honest part. On Terminal Bench, this is not a frontier model. Claude Opus 5.5 is around 66. Kim is new K 3.1 Pro claims 65.7

[02:06] and Open AI’s GPT 6.1 Terra, released on the 26th of October, claims about 50. Deep Seek is at 42. Also note that every lab runs these with its own harness and Deep Seek ran terminal bench inside Claude code. So, treat cross lab comparisons as rough. The pitch isn’t best model. The pitch is good enough for most coding tasks at a fraction of the price with weights you can own. Here’s what’s inside Deep Info. It uses

[02:39] Deep Seek’s own kernel libraries, Flash MLA, Deep [music] Gem and Deep EP. It has expert parallelism with load balancing for the mixture of experts layers, speculative decoding they call DSpark, asynchronous batch scheduling, and structured outputs with JSON schema, rejects or grammar. On Nvidia, there’s batch invariant >> [music] >> deterministic sampling, so the same prompt gives the same answer. If you’ve ever debugged a flaky agent,

[03:10] that last one is a big deal. Two catches. First, hardware. It targets Nvidia’s SM 100 Blackwell class GPUs >> [music] >> and Huawei’s Ascend 950. Their benchmarks used four GPUs for prefill and 64 for decode. This is not something you run on a MacBook. It’s a blueprint for teams running inference at scale and it’s notable that a Chinese lab shipped first class support for a Huawei chip. Second, it’s

[03:40] offline inference only. The readme says a full service still needs a KV cache system, prefill decode disaggregation and load balancing across replicas, and those aren’t in this release. >> [music] >> So, you get the engine but not the whole car. Most of you won’t host this yourselves, so here’s the fastest way to try it. DeepSeek exposes an Anthropic compatible endpoint, so you point Claude code at it with three environment variables. The

[04:12] base URL is api.deepseek.com/anthropic, then your DeepSeek key, then the model DeepSeek flash. Launch Claude code as normal, and every request now goes to DeepSeek. Here’s a recreation of a typical first task. Add a health endpoint, write a test, and run [music] it. It plans, edits the app, and writes the test. The first run fails, and it fixes the root on its own. When you try it, watch how many turns it takes and whether it recovers from a failing test.

[04:42] That’s where the 11-point terminal bench gain should show up. Now a harder one, a multi-file refactor. It finds every import, writes one loader, and fixes a failing test on the second pass. Your own run will differ, so try it on your repo. In this example, both tasks come to about 22 cents at off-peak prices. [music] Your dashboard shows the real figure. One bonus, DeepSeek also opened its search and fetch APIs. They cost 75 cents per thousand calls,

[05:13] but when Claude code or Codex calls them as server-side tools, they’re free until Saturday, the 31st of October, at 4:00 p.m. UTC. If you want to try web-grounded agents cheaply, this is the week. Let’s put numbers on it. Take a heavy day of agentic coding, 10 million input tokens, and 1 million output tokens. At list prices, before caching, >> [music] >> DeepSeek V 4.1 flash, off-peak, about

[05:45] $2.10. GPT 6.1 tera, at $1 in and $5 out, $15. Gemini 4 Argon, at $2 in and $10 out, $30. Caching helps DeepSeek even more. Cash hit input is a third of a cent per million. One catch for UK viewers, DeepSeek has peak hours on weekdays, >> [music] >> 1:00 to 4:00 a.m. and 6:00 to 10:00 a.m. UK time when prices double. Run your batch jobs in the afternoon. Zoom out.

[06:17] And this is a two-week open model price war. Meta shipped MuSpark open. Kimmy promised K 3.1 weights by the 4th of November. MiniMax matched the 0.15 price. And now DeepSeek has shipped the engine, too. Cheap intelligence is turning into a commodity. And the moat is moving to harnesses, tools, and workflows. Four things before you move your team over. One, benchmarks are self-reported and harness dependent. Test on your own

[06:48] repo. Two, data. The DeepSeek API runs on DeepSeek servers. If that’s a compliance issue, the MIT weights mean you can use another host or run it yourself. Three, if you self-host, KV cache is where things break. On the 26th of October, Cloudflare published a postmortem and SG Lang bug in disaggregated serving leaked 155 response containing other customers’ data on very long prompts. They fixed it

[07:21] and they recommend SG Lang 0.5.22 or later. That’s exactly the layer Deep Infra leaves out. Four, it’s a flash model. For your harness refactors, Frontier model still leads. Use this for volume and the expensive models for the hard parts. My take, the model is a solid, cheap workhorse, [music] but the engine is the real story. DeepSeek is publishing how a Frontier lab actually serves models. And every

[07:54] inference team will read this code. If you build agents, try DeepSeek flash and Claude code this week while search and fetch are free and measure it against what do pay now. I’ve put the exact commands and every source in the description. Tell me in the comments what it cost you per task. Follow for more AI developer breakdowns like this one.