🇺🇸 Granite 4.1 8B Instruct
Denso 8B Apache 2.0, 12 lingue tra cui FR, 131k ctx, GQA 32Q/8KV. MMLU 73.84, HumanEval 85.37. Uscita 29 aprile 2026.
# HuggingFace : ibm-granite/granite-4.1-8b
Classifica aggiornata il 22/09/2026
8 GB di VRAM rappresentano il livello di ingresso per l'IA locale — RTX 3060 8GB, 4060, 5060, 3070, 2080, ecc. I modelli da 7 a 9B in Q4_K_M rientrano comodamente nella memoria disponibile. Ecco le scelte migliori per questa quantità di VRAM.
RTX 4060 Ti 8 GB : alternativa d'acquisto disponibile per l'IA locale — RTX 5060 Ti 16 GB :
Quale PC scegliere in base al tuo budget? Le nostre scelte da 800 a 3 500 € →
Link di affiliazione — QuelLLM può ricevere una commissione sugli acquisti, senza costi aggiuntivi per te, il che non influenza la classifica (stabilita in modo indipendente). In qualità di Partner Amazon, QuelLLM realizza un guadagno sugli acquisti che soddisfano i requisiti.
Denso 8B Apache 2.0, 12 lingue tra cui FR, 131k ctx, GQA 32Q/8KV. MMLU 73.84, HumanEval 85.37. Uscita 29 aprile 2026.
# HuggingFace : ibm-granite/granite-4.1-8b
Gemma 4 12B (Google): modello denso multimodale (testo, visione, audio), contesto da 256k, ~7 GB di VRAM in Q4. Apache 2.0, multilingue.
# HuggingFace : google/gemma-4-12B
Granite 4.2 8B (IBM): denso Apache 2.0, contesto 128k, ~4,6 GB di VRAM in Q4. Chat, codice e ragionamento multilingui per le aziende.
ollama pull granite4.2
Versione ottenuta tramite fine-tuning SFT «thinking» di OLMo 3 7B: ragionamento passo per passo, contesto 16k, circa 4,2 GB di VRAM in Q4. 100% aperto, licenza Apache 2.0.
# HuggingFace : zimplex/olmo3-7b-think-sft-eosfix-16k-3ep-euc
GLM 5.3 (Zhipu): denso 7B specializzato in codice e ragionamento, contesto 128k, ~4,1 GB di VRAM in Q4. Leggero, gira su GPU da 6-8 GB, licenza MIT.
ollama pull glm-5.3
Modello denso 7B aperto al 100% (pesi + dati + codice). Trasparenza totale per la ricerca.
ollama run olmo-3:7b
Modalità ibrida thinking/fast. 119 lingue, 32k nativi (131k tramite YaRN).
ollama run qwen3:8b
LFM2.5 7B (Liquid AI): Liquid Foundation Model denso, contesto da 32k, 4.1 GB di VRAM in Q4. Ottimizzato per CPU ed edge. Uscita a maggio 2026.
ollama pull lfm2.5
| Posizione | Modello | Params | VRAM Q4 | Contesto | Licenza | Su RTX 4060 Ti 8GB |
|---|---|---|---|---|---|---|
| #1 | Granite 4.1 8B Instruct | 8B | 5 GB | 131 072 | Apache 2.0 | 12 tok/s · Q5_K_M |
| #2 | Gemma 4 12B | 12B | 7 GB | 262 144 | Apache 2.0 | 18 tok/s · Q4_K_M |
| #3 | Granite 4.2 8B | 8B | 4.6 GB | 128 000 | Apache 2.0 | 32 tok/s · Q5_K_M |
| #4 | OLMo 3 7B Think (SFT) | 7B | 4.2 GB | 16 000 | Apache 2.0 | 32 tok/s · Q8 |
| #5 | GLM 5.3 7B | 7B | 4.1 GB | 128 000 | MIT | 32 tok/s · Q8 |
| #6 | OLMo 3 7B | 7B | 5 GB | 8 192 | Apache 2.0 | 12 tok/s · Q5_K_M |
| #7 | Qwen 3 8B | 8B | 5 GB | 131 072 | Apache 2.0 | 12 tok/s · Q5_K_M |
| #8 | LFM2.5 7B | 7B | 4.1 GB | 32 768 | LFM Open License v1.0 | 32 tok/s · Q8 |
Il tuo ChatGPT privato e gratuito sulla tua macchina in 1 ora — LM Studio, Ollama, Open WebUI, i tuoi documenti, senza cloud.
Memo gratuito
Ricevi il memo VRAM → miglior modello per la programmazione → comando Ollama (una sola schermata, copia-incolla). E passa al kit Copilote Local per farne un setup che funziona davvero.
Il kit Copilota Locale — le configurazioni Ollama + Cline + Aider pronte da incollare, Modelfile configurati, risoluzione dei problemi, spazio online a vita →Niente spam. Disiscrizione in 1 clic. I tuoi dati restano da noi (mai rivenduti).
La tua scheda → il miglior modello per programmare da far girare in locale e il comando Ollama esatto:
| La tua VRAM | GPU / Mac tipici | Modello consigliato per la programmazione | Comando Ollama |
|---|---|---|---|
| 8 GB | RTX 4060 / 3060 · M1-M2 16 GB | Qwen 3.5 9B (Q4, 6,6 GB — 256k ctx) | ollama run qwen3.5:9b |
| 12 GB | RTX 3060 12 GB / 4070 / 5070 | Qwen 3.5 9B (Q8, 11 GB) o Gemma 4 12B (7,6 GB) | ollama run qwen3.5:9b-q8_0 |
| 16 GB | RTX 5070 Ti / 4080 / 5080 · RX 9070 XT · M4 24 GB | Devstral 24B (Q4, 14 GB) — specialista negli agenti di programmazione | ollama run devstral:24b |
| 24 GB | RTX 3090 / 4090 · RX 7900 XTX · M4 Pro 48 GB | Qwen 3.8 27B (Q4, 18 GB) — il « quasi Copilot » | ollama run qwen3.8:27b |
| 32 GB | RTX 5090 | Qwen 3.6 35B-A3B (Q4, 23 GB) — MoE veloce | ollama run qwen3.6:35b |
| 48 GB+ | Mac M4 Max 64 GB · M2 Ultra 128 GB | Qwen3-Coder 30B-A3B (Q8, 32 GB — 256k ctx) | ollama run qwen3-coder:30b-a3b-q8_0 |
-base : ollama run qwen2.5-coder:7b-base — è ancora il riferimento per questo caso specifico. ⚠️ Qwen 3.8: il suo livello di ragionamento è impostato su un valore molto alto per impostazione predefinita e « ragiona troppo » sulle richieste semplici — abbassalo a low (o disattivalo) al primo avvio. ⚠️ Insidia della licenza: Codestral 22B = Mistral Non-Production License → vietato per programmare al lavoro. Qwen 3.5/3.8, Gemma 4 e Devstral sono distribuiti sotto licenza Apache 2.0. 💡 Va in crash per problemi di memoria? Tieni circa 1,5 GB di VRAM libera per il contesto, oppure scendi di un livello di quantizzazione.🔌 Per integrarlo in VS Code: Cline (agente che opera su più file), Aider (CLI) o Tabby/Twinny (autocompletamento FIM) — tutti si collegano a Ollama in locale. Il kit Copilota Locale — configurazioni pronte da incollare + setup testato — è disponibile: /copilote-local.
Filtro: VRAM Q4 ≤ 8 GB e ≥ 3 GB (si escludono i modelli ultracompatti sottoutilizzati). Si mantengono i modelli da 3 a 9B che rientrano in questi limiti in Q4_K_M, con margine per il contesto.
Criteri presi in considerazione:
Il sistema di assegnazione dei punteggi è completamente trasparente: consulta la nostra metodologia per i dettagli sul calcolo della VRAM e dei token/sec.
Quale LLM con 8 GB per iniziare?
Granite 4.1 8B Instruct è il punto di ingresso migliore. Mistral 7B, Llama 3.1 8B e Qwen 2.5 7B sono tutti eccellenti e sono gratuiti. Inizia con Ollama (ollama run mistral:7b-instruct).
È possibile eseguire Gemma 2 9B in 8 GB?
Solo Q4_K_M (≈ 6 GB per il modello + 1-2 GB per il contesto = ≈ 8 GB). Nessun margine per un contesto ampio. Preferisci Mistral 7B se vuoi gestire comodamente un contesto di 32k+ token.
Quale quantizzazione con 8 GB?
Q4_K_M per un 7-9B. Q5_K_M per un 3-5B. Q8 solo per un 3B o modelli più piccoli.
RTX 4060 vs RTX 3060 12 GB ?
La 4060 è più veloce in termini di puro throughput (+15-20%), ma è limitata a 8 GB: niente modelli 12B né contesti ampi. La 3060 da 12 GB è migliore per gli LLM nonostante appartenga a una fascia inferiore.