Ollama su WSL2 o Windows nativo: quale scegliere ?

#La questione: due istanze di Ollama sulla stessa macchina

Da quando Ollama offre un installer nativo per Windows, la domanda «Ollama WSL2 o nativo?» torna continuamente. I due approcci fanno girare esattamente lo stesso daemon, sono in ascolto per impostazione predefinita su http://localhost:11434 e servono gli stessi modelli GGUF. La differenza sta altrove: nel modo in cui viene esposta la GPU, nella posizione dei tuoi file e nell'ecosistema di strumenti che utilizzi insieme a Ollama.

In sintesi, l'esecuzione nativa su Windows offre vantaggi in termini di semplicità di installazione e integrazione desktop, mentre WSL2 offre maggiore coerenza con un workflow Linux/di sviluppo e maggiore compatibilità con gli strumenti disponibili solo in ambiente Unix. Nessuno dei due è «migliore» in assoluto — la scelta giusta dipende da cosa fai con i tuoi LLM.

Ollama nativo per Windows

Un .exe, un'icona nell'area di notifica, il daemon si avvia insieme a Windows. Nessun livello Linux da gestire.

Ollama in WSL2

Una distribuzione Linux (il più delle volte Ubuntu) in cui installi Ollama come su un server. Ideale se il tuo stack è già Linux.

Punto in comune

Stessa API sulla porta 11434, stessi modelli, stessi comandi. Si può infatti far dialogare un client Windows con un server WSL2 e viceversa.

#Prerequisiti

Per confrontare onestamente i due, è necessario che la GPU sia correttamente supportata in ogni ambiente. È qui che nasce la maggior parte delle delusioni.

Windows 11 (o una versione recente di Windows 10)

WSL2 con accelerazione GPU (WSLg) richiede Windows 11 o una build Windows 10 recente e aggiornata.

Driver GPU aggiornato su Windows

In WSL2 è il driver Windows che rende la GPU accessibile a Linux tramite /dev/dxg. Installa il driver NVIDIA (Game Ready o Studio) o AMD Adrenalin più recente, NON un driver Linux nella distribuzione.

WSL2 attivato

Il comando « wsl --install », eseguito da una sessione PowerShell con privilegi di amministratore, installa WSL2 e Ubuntu come distribuzione predefinita.

VRAM sufficiente

I valori di riferimento Q4_K_M restano identici nei due mondi: 7B ≈ 5 GB, 14B ≈ 9 GB, 32B ≈ 19 GB, 70B ≈ 40 GB. WSL2 non cambia questi requisiti di memoria.

#Installare correttamente Ollama in WSL2

L'installazione in WSL2 è identica a quella su un server Linux: lo script ufficiale rileva la GPU esposta da WSLg e configura automaticamente l'accelerazione.

1. 01
   Attivare WSL2

   In una finestra di PowerShell aperta come amministratore: «wsl --install». Riavvia se richiesto. Verifica poi con «wsl -l -v» che la tua distribuzione riporti effettivamente 2 nella colonna VERSION.
2. 02
   Aggiornare la distribuzione

   Apri Ubuntu, poi esegui « sudo apt update && sudo apt upgrade -y ». Una distribuzione aggiornata evita sorprese con i runtime GPU.
3. 03
   Installare Ollama

   Avvia lo script ufficiale: « curl -fsSL https://ollama.com/install.sh | sh ». Rileva NVIDIA (tramite CUDA esposto da WSLg) o AMD (ROCm) e lo segnala nei log.
4. 04
   Verificare la GPU

   Carica un piccolo modello e guarda « ollama ps »: la colonna PROCESSOR deve indicare GPU, non CPU. Se è CPU, l'accelerazione non è attiva.
5. 05
   Testare un modello

   «ollama run qwen3.5:9b», poi fai una domanda. Questo modello del 2026 (6,6 GB in Q4, 256k di contesto, visione) è la scelta predefinita su una scheda da 8 GB. Aggiungi --verbose per vedere i token/s reali.

# Dans le terminal Ubuntu de WSL2
sudo apt update && sudo apt upgrade -y

# Installation officielle d'Ollama
curl -fsSL https://ollama.com/install.sh | sh

# Vérifier la prise en charge du GPU
ollama pull qwen3.5:9b
ollama run qwen3.5:9b --verbose

# Le processeur utilisé (GPU attendu)
ollama ps

#Prestazioni GPU: esecuzione nativa vs WSL2, con dati alla mano

È LA domanda che motiva questa guida. Buona notizia: per l'inferenza LLM su GPU NVIDIA, la differenza tra Ollama nativo e WSL2 è ridotta. Una volta caricato il modello nella VRAM, il calcolo avviene sulla GPU in entrambi i casi e WSL2 non introduce quasi alcun sovraccarico nella generazione dei token in sé.

In pratica, sulla stessa scheda (ad esempio una RTX 4070 da 12 GB con un modello da 8B in Q4_K_M), si osservano velocità di generazione molto simili — lo scarto rientra tipicamente in un margine di pochi punti percentuali, spesso confondendosi con la variabilità delle misurazioni. WSL2 può comportare un piccolo rallentamento nel caricamento iniziale del modello dal disco: il file system di WSL2 è veloce sul suo disco virtuale ext4, ma l'accesso ai file memorizzati sul lato Windows (tramite /mnt/c) è nettamente più lento.

Generazione di token (GPU)

Quasi identica tra l'esecuzione nativa e WSL2 su NVIDIA. La GPU svolge il lavoro in entrambi i casi; il livello WSL2 è trasparente per il calcolo.

Caricamento del modello

Rapido se i modelli sono memorizzati nel file system Linux nativo di WSL2. Lento se Ollama legge i suoi blob da /mnt/c/... (passando attraverso il ponte con Windows).

Latenza del primo token

Comparabile, a condizione che il modello sia già in cache VRAM. Il primo caricamento a freddo è l'operazione critica.

Overhead CPU

Trascurabile per l'inferenza. WSL2 è una vera VM leggera, non un'emulazione; il costo della virtualizzazione non si nota nei carichi di lavoro su GPU.

Conclusione sulle prestazioni pure: se hai una scheda NVIDIA, la scelta tra esecuzione nativa e WSL2 NON dipende dalla velocità di generazione. Scegli in base al tuo workflow. Le prestazioni tornano a essere un criterio solo in due casi: l'archiviazione dei modelli (da mantenere sul lato Linux con WSL2) e il supporto AMD, che affrontiamo ora.

#Il caso AMD: ROCm su WSL2

Con le GPU AMD, la situazione è diversa e più sfumata. Ollama utilizza ROCm per l'accelerazione sulle Radeon compatibili. Tuttavia, ROCm è stato a lungo un campo minato su Windows, e WSL2 ha cambiato le carte in tavola — non sempre in senso favorevole, a seconda della tua scheda.

AMD in modalità nativa su Windows

Ollama include una libreria ROCm per Windows. Sulle schede ufficialmente supportate (RX 7000 recenti, alcune RX 6000), l'accelerazione funziona senza WSL2. Spesso è il percorso più semplice per un desktop AMD.

AMD con WSL2

ROCm è disponibile per WSL2, ma l'elenco delle GPU supportate è più ristretto e la configurazione più delicata. Può essere necessario se vuoi usare strumenti Linux, ma non è di per sé più veloce.

Schede non supportate

Molte schede Radeon meno recenti o APU non sono presenti nell'elenco ufficiale ROCm. Su queste schede, Ollama può ripiegare sulla CPU in entrambi gli ambienti.

Bypass HSA

La variabile HSA_OVERRIDE_GFX_VERSION permette talvolta di forzare il riconoscimento di una GPU simile a un modello supportato. Da riservare agli utenti esperti, senza garanzie.

# La carte AMD est-elle vue par ROCm dans WSL2 ?
rocminfo | grep -i 'Name\|gfx'

# Forcer une version gfx proche (avancé, sans garantie)
# Exemple pour cibler gfx1030 sur une carte non listée :
HSA_OVERRIDE_GFX_VERSION=10.3.0 ollama serve

#Accesso ai file e integrazione con VS Code

Al di là delle prestazioni, spesso è l'accesso ai file a determinare la scelta. Ciascuno dei due file system (NTFS di Windows ed ext4 di Linux in WSL2) è accessibile dall'altro, ma il passaggio dall'uno all'altro comporta un costo in termini di prestazioni, e le convenzioni per i percorsi sono diverse.

Da WSL2 a Windows

I tuoi dischi Windows sono montati in /mnt/c, /mnt/d, ecc. È comodo per leggere una cartella di documenti, ma lento per accessi intensivi (caricamento di modelli di grandi dimensioni, indicizzazione RAG).

Da Windows a WSL2

Il file system Linux è accessibile tramite il percorso di rete \\wsl$\Ubuntu\ in Esplora file. È utile per copiarvi un file, ma evita di farvi lavorare intensivamente gli strumenti Windows.

Regola d'oro

Mantieni ogni carico di lavoro nel suo file system nativo. Progetto di sviluppo Linux → in WSL2. Documenti da ufficio → sul lato Windows. Così eviti il lento passaggio tra i due sistemi.

In VS Code, l'integrazione con WSL è eccellente e depone nettamente a favore di WSL2 per lo sviluppo. L'estensione ufficiale « WSL » apre un progetto direttamente nella distribuzione: il server di VS Code gira sul lato Linux, il terminale integrato è una shell Linux e il tuo codice che chiama l'API Ollama viene eseguito nello stesso ambiente del daemon.

import requests

# Même endpoint quel que soit l'environnement
resp = requests.post(
    "http://localhost:11434/api/generate",
    json={
        "model": "qwen3.5:9b",
        "prompt": "Explique WSL2 en une phrase.",
        "stream": False,
    },
    timeout=120,
)
print(resp.json()["response"])

#Quale configurazione è consigliata in base al tuo uso

Ecco una sintesi pratica. Scegli in base al tuo profilo d'uso prevalente, anziché a minime differenze di token al secondo.

Uso desktop / per il grande pubblico (NVIDIA)

Ollama nativo per Windows. Installazione con un clic, avvio all'accesso alla sessione, nessun livello Linux da mantenere. Perfetto con LM Studio o Open WebUI come interfaccia.

Sviluppatore Linux / stack Unix

Ollama sotto WSL2. Trovi i tuoi strumenti (script bash, Docker, Python venv) nello stesso ambiente del daemon, con un'integrazione VS Code eccellente.

GPU AMD consumer

Prova prima l'esecuzione nativa su Windows: spesso è la soluzione più semplice da far funzionare grazie a ROCm integrata. Passa a WSL2 solo se il tuo workflow lo richiede e la tua scheda è supportata.

Server / condivisione in rete

WSL2 si avvicina a un deployment tradizionale su server Linux e facilita la riproducibilità (stessi comandi usati in produzione). Ricordati di OLLAMA_HOST per esporlo in rete.

#Risoluzione dei problemi

« ollama ps » mostra CPU invece di GPU

Sotto WSL2, verifica che «nvidia-smi» risponda. Se no, aggiorna il driver dal lato Windows e non installare alcun driver Linux nella distribuzione.

Caricamento del modello molto lento

I tuoi modelli sono probabilmente archiviati in /mnt/c. Spostali nel file system Linux (~/.ollama) per recuperare la velocità.

« address already in use » su 11434

Un'istanza nativa di Ollama E un'istanza di Ollama in WSL2 sono in esecuzione contemporaneamente. Arrestane una oppure cambia la porta dell'altra con OLLAMA_HOST=127.0.0.1:11435.

GPU AMD ignorata

Scheda non inclusa nell'elenco ROCm. Verifica la compatibilità, prova eventualmente HSA_OVERRIDE_GFX_VERSION oppure ripiega sull'esecuzione nativa in Windows.

Il client Windows non riesce a connettersi al daemon WSL2

Usa http://localhost:11434 (il reindirizzamento di WSL2 gestisce il collegamento) e assicurati che un solo daemon sia in ascolto su questa porta.

# Faire écouter l'Ollama WSL2 sur un autre port
OLLAMA_HOST=127.0.0.1:11435 ollama serve

# Puis interroger ce daemon précisément
curl http://localhost:11435/api/tags

#Per approfondire

Una volta scelto il tuo ambiente, queste guide ti aiuteranno a sfruttarlo al meglio:

Installa Ollama su Windows 11

Guida passo passo dell'installatore nativo, complementare a questo confronto se opti per la strada Windows.

Risoluzione dei problemi di Ollama: GPU non rilevata, rallentamenti, errori di memoria

Per approfondire i problemi della GPU, sia nell'esecuzione nativa sia sotto WSL2.

Scegliere la quantizzazione (Q4, Q5, Q8, FP16)

Per adeguare l'occupazione della VRAM alla tua scheda, indipendentemente dall'ambiente.