RCO

Ver no idioma original →

Método que distribui o orçamento de tamanho do modelo entre as camadas e os tensores conforme a perda observada.

Mencionado em

• Underdog Saluki 27B 1.0 localmente: além de Qwen e GSQ+RCO
• DeepSeek-V4.1-Flash-1017 GSQ+RCO GGUF: rode localmente com menos de 12 GB de VRAM

Relacionados

GSQ, llama.cpp, Fahd Mirza, Qwen, Hugging Face, DeepSeek V4.1 Flash, GGUF