CUDA graphs
Representação de uma sequência de operações da GPU como um grafo que pode ser lançado com menos trabalho de controle na CPU.
Mencionado em
Seção intitulada “Mencionado em”- Como o autoresearch deixou nossos modelos 3 vezes mais rápidos — Tejas Bhakta, Morph
- O que é, afinal, um mecanismo de inferência? — Charles Frye, Modal
Relacionados
Seção intitulada “Relacionados”B200, H200, reward hacking, Harness, autoresearch, vLLM, decode, prefill, Modal, speculative decoding, SGLang, KV cache