quantization

Ver no idioma original →

Técnica de redução da precisão numérica dos parâmetros para diminuir o custo computacional e o uso de memória.

Mencionado em

• Flint 40B: o melhor LLM de médio porte
• Cloudflare Clef vs Jev: testei o Q4_K_M localmente no Ollama
• Haiku 5.5: a alternativa BARATA ao Claude Opus merece atenção?

Relacionados

Recursive, Mixture of Experts, Eureka Machine, Hugging Face, llama.cpp, Flint, distillation, Clef, Ollama, schema, Jev, RTX 4060