Percorso 02 · Per programmare

Lo sviluppatore — « Copilota locale, 100% offline, 0 latenza cloud. »

Qwen 3.8 27B per la chat e l'agente, un piccolo Qwen2.5-Coder « base » per l'autocompletamento, collegati a VS Code tramite Continue.dev. Autocompletamento, chat, refactoring su un intero file — senza che una sola riga del tuo codice finisca da Microsoft, OpenAI o Anthropic. La tua PR contiene una chiave API? Resta lì.

Durata totale
~30 min
Livello richiesto
A proprio agio con un terminale
Costo
0 €
Tipo di macchina
GPU da 24 GB (16 GB con Gemma 4 12B) o Mac da 32 GB+
↑
La nostra promessa

Alla fine di questo percorso, avrai un server llama.cpp in esecuzione in background con Qwen 3.8 27B in quantizzazione Q4 per la chat, e un piccolo Qwen2.5-Coder base (1.5B) per l'autocompletamento (FIM). Continue.dev sarà collegato a VS Code con autocompletamento e chat nella sidebar.

Per chi è pensato questo percorso

Preferiamo dirtelo subito piuttosto che lasciarti perdere 30 minuti inutilmente.

✓ Fa per voi se
  • ✓Programmi tutti i giorni e sei stufo di copiare i tuoi snippet in un'interfaccia web.
  • ✓Il tuo datore di lavoro vieta GitHub Copilot, ChatGPT, Cursor — per buone ragioni.
  • ✓Lavori su codice proprietario, soggetto a un NDA, o con segreti API in chiaro.
  • ✓Hai una RTX 4070 Ti+, RTX 4090, RTX 5090 o un MacBook Pro M2/M3/M4 con 32 GB+.
  • ✓Il ping di 200 ms verso le API cloud ti spezza il ritmo.
✕ Cerca altrove se
  • ·Hai 8 GB di VRAM: con Qwen 3.5 9B si può fare, ma nettamente al di sotto degli assistenti cloud.
  • ·Programmi 1 ora a settimana: un account gratuito presso un provider cloud ti darà meno grattacapi.
  • ·Vuoi una chat con un assistente generalista: consulta il percorso per curiosi, più semplice.

Il percorso in 4 passaggi

Ogni passaggio rimanda a una guida dettagliata che puoi leggere in parallelo. L’ordine è ottimizzato: non saltare nessun passaggio la prima volta.

Totale cumulato · ~30 min
  1. 1
    Passo 01·12 min·Avanzato

    Compilare llama.cpp con accelerazione GPU

    Compilare dai sorgenti per ottenere il massimo numero di token al secondo. Su NVIDIA: CUDA. Su Apple Silicon: Metal. Su AMD: ROCm. È più veloce di Ollama dal 15 al 30%.

    Binario llama-server pronto, in grado di fornire un'API compatibile con OpenAI.
    Leggi la guida →
  2. 2
    Passo 02·6 min·Intermedio

    Scaricare Qwen 3.8 27B (Q4) e un modello di completamento automatico

    Qwen 3.8 27B è in testa all'indice Artificial Analysis per i modelli da 4 a 40 miliardi di parametri (ottobre 2026): 18 GB in Q4_K_M, per una scheda da 24 GB. Con 16 GB, scegli Gemma 4 12B. Il completamento automatico a metà riga (FIM) richiede un modello «base» dedicato: Qwen2.5-Coder 1.5B base (1 GB) accanto a Qwen 3.8 27B, oppure il 7B base (4,7 GB) se resta memoria. Download da Hugging Face.

    Il modello è servito su localhost:8080 nel formato chat completions.
    Leggi la guida →
  3. 3
    Passo 03·8 min·Intermedio

    Collegare Continue.dev a VSCode

    Installare l'estensione Continue dal marketplace, modificare ~/.continue/config.json per puntare al tuo endpoint locale, configurare il modello FIM per l'autocompletamento.

    Tab per accettare un suggerimento, Cmd+L per aprire la chat sulla selezione.
    Leggi la guida →
  4. +
    Passo bonus·4 min·Avanzato

    Bonus — Aider da riga di comando

    Per i compiti più ampi (refactoring di un modulo, generazione di test), Aider permette di modificare file in linguaggio naturale dal terminale, con commit automatici in git.

    Una CLI agentica collegata allo stesso backend, complementare a Continue.
    Leggi la guida →

Modelli consigliati

Tre scelte per questo percorso — dalla più leggera alla più capace. Clicca per la scheda dettagliata (VRAM, contesto, benchmark).

Domande frequenti

Le domande reali che ci vengono poste via e-mail e su Mastodon. Se manca la tua, apri un ticket.

Per il completamento automatico della riga, un piccolo modello base locale svolge bene il lavoro quotidiano. Per chat e agente, i migliori modelli cloud mantengono il vantaggio sulle attività lunghe; Qwen 3.8 27B riduce il divario. E mantieni il controllo sui tuoi dati.
Una volta completato questo percorso
Percorso successivo

Il professionista attento alla riservatezza — « Le mie cartelle non lasciano la mia postazione. »

Giurista, medico, responsabile delle risorse umane, consulente, commercialista, notaio — i tuoi documenti sono coperti dal segreto professionale o da un NDA. Un LLM locale abbinato a un RAG ti permette di interrogarli, riassumerli,…

→
Il kit Copilota Locale

Sostituisci GitHub Copilot e Cursor con un copilota per la programmazione 100 % locale — la guida di riferimento, configurazioni incluse.

  • Spazio online a vita
  • PDF + file
  • Rimborso in 30 g

Una domanda, un refuso, un bug?

Questo percorso evolve a ogni uscita di un modello. I tuoi feedback sono la materia prima.