prefill
Etapa de processamento de entrada que pode ter características de uso de compute diferentes das etapas seguintes.
Mencionado em
Seção intitulada “Mencionado em”- Agentes que controlam a própria inferência — Du’an Lightfoot e Khaja Omer, Akamai Technologies
- Curso Jev – Inferência somente com prefill e decision models do zero
- O que é o DeepSeek DeepInfer?
- DeepSeek acaba de abrir o código de como atende 155 trilhões de tokens por dia
- A infraestrutura por trás da inteligência de fronteira | Runway AI Summit SF 2026
- O que é, afinal, um mecanismo de inferência? — Charles Frye, Modal
Relacionados
Seção intitulada “Relacionados”decode, vLLM, speculative decoding, KV cache, DeepSeek, SGLang, Grafana, FP8, Kubernetes, llama.cpp, continuous batching, Langfuse