Qwen 3.6 27B in locale: memoria per quantizzazione

#Qwen 3.6 27B: la risposta breve

Per usare Qwen 3.6 27B senza overflow sul processore, prevedi una scheda con 24 GB di VRAM, oppure un Mac con almeno 32 GB di memoria unificata. Un Mac da 24 GB può andare bene per una prova con un contesto breve e poche altre applicazioni aperte. Al di sotto, il modello può ancora caricarsi, ma una parte del calcolo passa sul processore.

Commande

ollama run qwen3.6:27b. Le tag existe dans la bibliothèque officielle d'Ollama (relevé du 5 septembre 2026).

File

18 GB su Ollama (rilevazione del 29 settembre 2026); 16,10 GB sulla scheda LM Studio (rilevazione del 5 settembre 2026).

Altre quantizzazioni

Circa 19 GB in Q5, 29 GB in Q8 e 54 GB in FP16 secondo il catalogo QuelLLM. Sono stime, non dimensioni ufficiali dei file.

Contesto

Ollama alloca 4 k token sotto i 24 GiB di VRAM, 32 k da 24 a 48 GiB, 256 k a partire da 48 GiB. Ogni aumento consuma memoria in aggiunta al file.

Controllo da fare sempre

ollama ps: finché la colonna PROCESSOR non indica 100% GPU, il modello sta sforando.

#Che cosa stai installando

Qwen 3.6 27B è un modello denso di Alibaba, pubblicato ad aprile 2026 con licenza Apache 2.0. «Denso» significa che i suoi 27 miliardi di parametri partecipano al calcolo di ogni token. La scheda Ollama gli attribuisce le capacità di visione, strumenti e ragionamento (thinking), e un contesto massimo dichiarato di 256 k token. Le specifiche complete sono disponibili sulla scheda /modele/qwen36-27b: questa guida tratta solo la memoria e l'installazione.

Questo modello non è più il più recente della sua taglia: Qwen 3.8 27B gli è succeduto nell'agosto 2026. Il 3.6 resta interessante se i tuoi prompt sono già ottimizzati per lui o se uno strumento che usi lo cita nella sua documentazione. Per una prima installazione, confrontalo anche con la nostra guida su Qwen 3.8 27B, che ha tag e impostazioni propri.

#Memoria di Qwen 3.6 27B per quantizzazione

La quantizzazione riduce la precisione dei pesi per ridurne le dimensioni. Più è spinta, meno pesa il file, con il rischio di una perdita di qualità. La tabella separa volutamente le dimensioni pubblicate dalle stime del catalogo, perché questi numeri non hanno lo stesso valore.

La colonna «Dimensione + 15-25 %» applica una regola prudenziale, identica a quella della nostra guida su Qwen 3.8 27B. Serve a prevedere la cache del contesto e l'overhead del motore. È un calcolo, non una misurazione: il consumo reale dipende dal contesto scelto, dal motore e da ciò che è in esecuzione in parallelo.

Perché 18 GB e 16,10 GB?

Ollama e LM Studio non distribuiscono necessariamente lo stesso pacchetto. La nostra rilevazione non permette di attribuire la differenza a una causa precisa: tieni per buono il valore mostrato dallo strumento che usi.

Perché il catalogo indica 16 GB in Q4?

È una stima basata sul numero di parametri. Dà un ordine di grandezza e risulta 2 GB sotto il file indicato da Ollama. Per questo tag, prevale il valore di Ollama.

Un termine di paragone

Per Qwen 3.8 27B, modello della stessa dimensione, Ollama pubblicava 18 GB in Q4_K_M, 30 GB in Q8 e 56 GB in BF16 (rilevazione del 18 agosto 2026). Questi valori riguardano un altro modello: indicano una tendenza, ma non sostituiscono una rilevazione del 3.6.

Se nella tua memoria entrano più varianti, inizia dalla Q4_K_M: è l'impostazione consigliata su QuelLLM. Passa a una variante superiore solo se i tuoi prompt mostrano un difetto spiegabile con la quantizzazione. La nostra guida alla scelta della quantizzazione approfondisce questo compromesso in generale.

#Il margine da tenere per il contesto

Il peso del file è solo il punto di partenza. Il motore riserva memoria anche per la finestra di contesto, cioè la conversazione, i documenti e il ragionamento del modello. Il contesto di 256 k token dichiarato è un massimo, non quello che verrà effettivamente allocato.

Meno di 24 GiB di VRAM

Ollama parte da 4 k token. Bastano per uno scambio breve, non per un documento lungo.

Da 24 a 48 GiB

32 k token predefiniti: la fascia di una RTX 4090.

48 GiB e oltre

256 k token predefiniti. Questa allocazione occupa molto spazio: riducila se non ti serve.

Agenti, codice, ricerca web

Ollama consiglia almeno 64 000 token per questi usi. Con 24 GB questo valore non è garantito: provalo con ollama ps.

Il rischio è duplice. Una finestra troppo corta costringe il motore a tralasciare una parte dell'input, e il modello risponde quindi su un testo incompleto. Una finestra troppo lunga può far traboccare il modello sul processore. In assenza di misurazioni su questo modello, questa guida non fornisce un valore in GB per fascia di token: il metodo giusto è aumentare per gradi.

1. 01
   Parti dal valore predefinito

   Avvia il modello con una richiesta abituale, poi leggi ollama ps. Annota la memoria occupata, il contesto e la ripartizione GPU/CPU.
2. 02
   Sali per gradi

   Passa ad esempio da 8 k a 16 k, poi a 32 k e 64 k token. Ricarica il modello a ogni modifica: il contesto viene fissato al caricamento.
3. 03
   Fermati prima di sforare la memoria

   Non appena PROCESSOR mostra una ripartizione tra CPU e GPU, torna al livello precedente. Tieni un po' di margine se invii anche immagini, perché anche la loro elaborazione usa memoria.

OLLAMA_CONTEXT_LENGTH=32768 ollama serve

curl http://localhost:11434/api/generate -d '{
  "model": "qwen3.6:27b",
  "prompt": "Résume ce texte en trois points : ...",
  "stream": false,
  "options": { "num_ctx": 32768 }
}'

Se Ollama è già in esecuzione come servizio, la variabile va definita nella configurazione del servizio, perché un comando lanciato in un terminale non lo modifica. Anche l'applicazione Ollama offre un cursore per il contesto nelle sue impostazioni.

#Il tuo computer basta?

La tabella della memoria si traduce abbastanza facilmente in hardware. I riferimenti qui sotto riguardano il tag predefinito da 18 GB. Derivano da questo calcolo delle dimensioni e non descrivono prove: non viene indicata alcuna velocità.

RTX 3060 12 GB, RTX 4070 12 GB

Il file supera la VRAM: il modello finirà in parte sul processore. Meglio un modello più piccolo, di dimensione 14B circa in Q4 (≈ 9 GB).

RTX 4080 16 GB

Il file da 18 GB supera ancora la VRAM, così come i 16,10 GB di LM Studio una volta aggiunto il contesto. L'uso resta possibile con una ripartizione GPU/CPU, ma senza essere comodo.

RTX 4090 24 GB

Il primo livello coerente: lascia circa 6 GB oltre al file per il contesto e il sovraccarico del motore.

Mac M4 Pro 24 GB

Possibile per una prova: il sistema e le applicazioni usano la stessa memoria del modello. Mantieni un contesto breve e chiudi le applicazioni pesanti.

Mac da 32 a 48 GB

La scelta sensata per un uso quotidiano, con un vero margine per il contesto.

Senza scheda grafica

Il catalogo QuelLLM stima in 28 GB la RAM necessaria. Il modello può funzionare, ma devi aspettarti una generazione molto più lenta che su GPU.

Prevedi anche spazio su disco: almeno la dimensione del file, con un margine se conservi più varianti. Per la tua configurazione specifica, il configuratore di QuelLLM fornisce una prima stima, da confermare con ollama ps.

#Installare Qwen 3.6 27B con Ollama

Ollama è adatto se vuoi un servizio locale accessibile tramite API, su http://localhost:11434, eventualmente con Open WebUI come interfaccia.

1. 01
   Installa o aggiorna Ollama

   Su Linux, usa lo script ufficiale qui sotto. Su macOS e Windows, scarica l'applicazione da ollama.com. Una versione vecchia può non riconoscere il modello: in caso di errore, la prima cosa da fare è aggiornare.
2. 02
   Scarica il modello

   ollama pull qwen3.6:27b récupère le fichier. Si la connexion coupe, relancez la commande.
3. 03
   Controlla che cosa hai ricevuto

   ollama show qwen3.6:27b affiche notamment la quantification, le contexte maximal et les capacités du paquet. C'est le moyen le plus sûr de savoir à quelle variante correspond le tag par défaut.
4. 04
   Avvia un primo scambio

   La prima risposta arriva dopo il caricamento dei pesi in memoria. Mentre il modello è caricato, controlla ollama ps in un secondo terminale.

# Linux : installer ou mettre à jour Ollama
curl -fsSL https://ollama.com/install.sh | sh

# Télécharger le modèle
ollama pull qwen3.6:27b

# Vérifier la quantification, le contexte et les capacités
ollama show qwen3.6:27b

# Discuter avec le modèle
ollama run qwen3.6:27b

# Dans un second terminal : mémoire et répartition GPU/CPU
ollama ps

Su Mac Apple Silicon, la libreria offre anche qwen3.6:27b-mlx (rilevazione del 5 settembre 2026), destinato al motore MLX. La sua dimensione può essere diversa: consulta la pagina dei tag prima di scegliere.

#Installare con LM Studio

LM Studio fa al caso tuo se preferisci un'interfaccia grafica, con un'impostazione visibile del contesto e del numero di layer inviati alla GPU. La sua scheda ufficiale riporta l'identificativo qwen/qwen3.6-27b, indica 16,10 GB e conferma l'uso di strumenti, la visione e il ragionamento (rilevazione del 5 settembre 2026).

1. 01
   Cerca il modello

   Nella ricerca dei modelli, digita qwen/qwen3.6-27b. LM Studio elenca le varianti disponibili e mette in evidenza quella che ritiene adatta al tuo hardware.
2. 02
   Scegli il formato

   GGUF su PC, MLX o GGUF su Mac. Confronta la dimensione mostrata con la tua memoria, mantenendo il margine della tabella precedente.
3. 03
   Regola il caricamento

   Prima di caricare il modello, regola la lunghezza del contesto e l'offload sulla GPU. Parti da un valore modesto, poi aumenta per gradi come con Ollama.
4. 04
   Tieni d'occhio la memoria

   Fai una prova con una richiesta reale e guarda la memoria utilizzata. Se il sistema rallenta, riduci il contesto prima di cambiare quantizzazione.

# Variante GGUF (--mlx sur Mac pour le format MLX)
lms get qwen/qwen3.6-27b --gguf

In seguito potrai esporre il modello ad altre applicazioni grazie al server locale di LM Studio: la nostra guida dedicata alla sua API descrive questo passaggio nel dettaglio. Per scegliere tra i due strumenti, consulta il nostro confronto Ollama e LM Studio.

#Qwen 3.6 27B o 35B-A3B: la scelta di principio

I due modelli appartengono alla stessa famiglia, ma non sono costruiti allo stesso modo. Il 27B è denso. Il 35B-A3B è un Mixture-of-Experts (MoE): ha 35 miliardi di parametri, di cui circa 3 miliardi attivi per ogni token. Il confronto che segue si basa su questa architettura e sulle dimensioni pubblicate, senza benchmark.

Memoria

Vantaggio per il 27B: 16,10 GB contro 20,40 GB sulle schede di LM Studio (rilevazione del 5 settembre 2026). Un MoE deve tenere tutti i suoi esperti in memoria, anche se pochi di loro lavorano per ogni token.

Calcolo per token

Vantaggio di principio per il 35B-A3B: meno parametri attivi significano meno calcolo per token, a condizione che tutto il modello entri in memoria. La differenza reale dipende dal tuo computer.

Se sei al limite dei 24 GB

Il 27B lascia più spazio al contesto. Il 35B-A3B ne lascia meno, e questo può contare con documenti lunghi.

Se hai 32 GB o più

Entrano entrambi. Fai una prova sulle tue attività: il 35B-A3B se conta soprattutto la reattività, il 27B se conta la visione (le sue capacità sono confermate dalle nostre rilevazioni).

Licenza

Apache 2.0 per entrambi: questo criterio non fa la differenza.

#Risoluzione dei problemi

«model not found» durante il download

Controlla come è scritto: qwen3.6:27b, con un punto. Se un suffisso di quantizzazione viene rifiutato, forse non esiste: consulta la pagina dei tag, poi aggiorna Ollama se il tag è presente.

Generazione molto lenta

Controlla ollama ps. Una ripartizione CPU/GPU segnala che la memoria è stata superata: riduci il contesto, chiudi le applicazioni che usano la GPU o passa a un modello più piccolo.

L'inizio del documento sembra ignorato

Probabilmente il contesto è troppo corto, soprattutto con i 4 k token predefiniti sotto i 24 GiB. Aumenta num_ctx o dividi il documento.

L'impostazione OLLAMA_CONTEXT_LENGTH non ha effetto

La variabile deve applicarsi al server, non al client. Riavvia il servizio dopo averla modificata, poi ricarica il modello.

Errore di memoria durante il caricamento

Per prima cosa riduci il contesto. Se l'errore persiste, controlla la memoria libera e il numero di modelli caricati: ollama stop qwen3.6:27b libera questo modello.

Dimensioni diverse da quelle di questa guida

I pacchetti possono cambiare. Affidati alla pagina ufficiale del momento e a ciò che mostra il tuo strumento, poi applica lo stesso margine.

#Per approfondire

Queste pagine completano la guida senza ripeterne i dati: la scheda del modello per le specifiche e le guide correlate per gli altri modelli e i concetti generali.