Eagle 4

Ver no idioma original →

Método de speculative decoding que usa um modelo menor para propor tokens que um modelo maior verifica em conjunto.

Mencionado em

• Eagle 4 é mais rápido que DFlash, MTP e DFlash na inferência de LLMs
• GitHub Trending Hoje #55: free-my-tv, pele, SPACE, ascii-sharks, harp, DeepInfer, ElyOffice, fx0

Relacionados

vLLM, DFlash, speculative decoding, Qwen3.8, SGLang, MTP, PandaCode, DeepInfer, MemT-1.0, Harp, ElyOffice, SPACE