Q4_K_M
Quantização recomendada no vídeo para executar o modelo, com tamanho informado de 8,1 GB.
Mencionado em
Seção intitulada “Mencionado em”- 8 modelos locais de IA em um Raspberry Pi 5: só 3 são utilizáveis
- Testei o Drex V1.5 da Nace.AI localmente (llama.cpp, Q4_K_M e demonstrações reais)
- Modelo de programação de 12B em uma GPU de laptop com 8 GB? Eu testei
- ZDTaichu 5.0-9B em teste local: ótimo em tool calling, fraco com capturas de tela
- Quais modelos locais de IA um computador comum consegue executar?
- Testei o novo decision model da Liquid em um laptop com 8 GB. Veja o que aconteceu
Relacionados
Seção intitulada “Relacionados”llama.cpp, Ollama, Qwen3.5, Apache License 2.0, Qwen3.5 9B, GGUF, MiniCPM-5, Granite, LFM 2.5, Hugging Face, SWE-bench, JetBrains