GGUF
Formato do arquivo quantizado do modelo usado para executá-lo dentro das limitações de memória do laptop.
Mencionado em
Seção intitulada “Mencionado em”- MiniCPM-V 4.7 1B: instale com Ollama e llama.cpp e teste seus limites
- Modelo de memória da Tencent “supera Claude Opus 5”. Aluguei uma GPU para conferir
- Qwen 3.8 27B é o melhor modelo para rodar localmente? Resultados absurdos
- Modelo de programação de 12B em uma GPU de laptop com 8 GB? Eu testei
- A Xiaomi abriu o código dos segredos de treinamento com RL — usei-os para treinar minha própria IA
- O novo modelo de tradução da Bilibili roda no meu laptop de 8 GB — testei os memes
- DeepSeek-V4.1-Flash-1017 GSQ+RCO GGUF: rode localmente com menos de 12 GB de VRAM
- Este pequeno modelo de programação não deveria ser tão bom (MiniCPM5)
- Ternary Bonsai 2 9B em GGUF: um modelo de 2,4 GB localmente
- O seletor de raciocínio INSANO do Spark-X2.6-4B: 180 testes em uma GPU de 8 GB
- JEV+RUST vs Python+DeepSeek: detectando fraudes no Pix em tempo real!
- Qwen-Image-2.1-Turbo em um laptop com 8 GB: 10 imagens, de 768 a 2048, com tempos reais
- Strata vs. Llama.cpp vs. vLLM
- O novo modelo open weight alemão de 78B (Kolibri-1) roda a 126 tokens/s em uma GPU (testei a fundo)
- Este modelo open source pensou por 88 mil caracteres… e não escreveu nenhum código
- Execute o Saluki 27B em menos de 8 GB
- Testei o novo decision model da Liquid em um laptop com 8 GB. Veja o que aconteceu
- Testando o Qwen-Image-2.1 localmente em uma GPU de 8 GB
Relacionados
Seção intitulada “Relacionados”llama.cpp, Hugging Face, Ollama, Fahd Mirza, RunPod, OpenBMB, KV cache, Qwen3.8 27B, Qwen3.8 Flash Next, MiMo-V2.6, Apache License 2.0, Qwen3.5 9B