DSpark

Ver no idioma original →

Mecanismo de speculative decoding descrito como um modelo auxiliar que propõe tokens para o modelo principal verificar em paralelo.

Mencionado em

• O que há de novo em engenharia de inference — Philip Kiely, Baseten
• DeepSeek no Claude Code (e o mecanismo que eles disponibilizaram)
• DeepSeek reduziu sua memória em 437 vezes em dois anos

Relacionados

KV cache, DeepSeek, DFlash, NVFP4, Baseten, Claude Code, Terminal-Bench 4.0, Anthropic, DeepSeek V4.1 Flash 1017, Cloudflare, SGLang, Codex