Sostituire ChatGPT con un'IA locale: guida alla migrazione (2026)

#Ciò che guadagni, ciò che perdi

In locale, le tue conversazioni e i tuoi file rimangono sulla tua macchina: nulla transita attraverso un servizio di terzi e l'assistente funziona senza connessione una volta scaricato il modello. Non ci sono abbonamenti né limiti al numero di messaggi: il costo è quello dell'hardware e dell'elettricità. Puoi anche scegliere il modello, le sue impostazioni e le sue istruzioni. In cambio, perdi l'accesso automatico ai modelli all'avanguardia di maggiori dimensioni, che non trovano spazio su un computer personale, e una parte dell'integrazione pronta all'uso: applicazioni mobili, voce fluida, agenti collegati ai tuoi account. Il confronto numerico delle prestazioni e dei costi si trova nella nostra guida «IA locale vs ChatGPT».

#Scegliere il modello in base alla memoria disponibile

La regola è scegliere il modello più grande che rientra comodamente in Q4 nella tua VRAM o nella tua memoria unificata, contesto compreso. Il catalogo QuelLLM indica, per ogni modello, la memoria occupata in Q4 dai soli pesi: le cifre qui sotto sono tratte da quel catalogo. Aggiungi la cache KV e un margine del 20%; la guida sulla finestra di contesto spiega il calcolo.

#Ritrovare un'interfaccia di chat

Open WebUI

L'interfaccia web più vicina a ChatGPT: cronologia, prompt di sistema, file allegati, ricerca web, memoria e modelli personalizzati. Si collega a Ollama o a qualsiasi API compatibile con OpenAI.

LM Studio

Applicazione desktop che scarica i modelli e offre una chat: il modo più veloce per iniziare senza terminale.

Jan

Applicazione desktop semplice, orientata alla privacy, con chat e gestione dei modelli.

Msty

Interfaccia curata per Mac, Windows e Linux, con diversi modelli affiancati.

Per una prima installazione, LM Studio o Jan bastano. Scegli Open WebUI se più persone devono usarlo, se vuoi memoria, modelli personalizzati o l'importazione del tuo storico.

#Importare la tua cronologia di ChatGPT

Open WebUI sa leggere l'export di ChatGPT senza conversione preliminare: la documentazione specifica che il formato ChatGPT è riconosciuto e convertito automaticamente. Le vostre conversazioni vengono aggiunte a quelle esistenti, e ogni importazione riceve un nuovo identificativo: importare nuovamente lo stesso file crea duplicati. Quindi fate l'importazione una sola volta, dopo aver verificato il file.

1. 01
   Chiedere l'esportazione a ChatGPT

   In ChatGPT, apri Impostazioni, Controllo dei dati (Data controls), poi Esporta i dati (Export data) e Richiedi l'esportazione. Riceverai via email un link per il download; la dicitura esatta dipende dalla lingua dell'interfaccia.
2. 02
   Estrarre l'archivio

   Decomprimi il file ricevuto e individua conversations.json, che contiene la cronologia.
3. 03
   Eseguire il backup di Open WebUI

   Prima di importare, esporta le tue conversazioni Open WebUI esistenti dalle Impostazioni, Controllo dei dati, Esporta le discussioni, per poter tornare indietro.
4. 04
   Importare

   In Open WebUI: nome utente in basso a sinistra, Impostazioni, Controllo dei dati, Importa discussioni, poi scegli conversations.json. L'etichetta varia in base alla lingua.
5. 05
   Controllare

   Apri alcune conversazioni vecchie: i messaggi devono apparire in ordine. Il modello visualizzato in una conversazione importata non riflette necessariamente il modello di origine.

#Installare lo stack: Ollama, Open WebUI, un modello

La procedura seguente presuppone che Docker sia installato per Open WebUI. Senza Docker, LM Studio o Jan sostituiscono l’intera configurazione con un’unica applicazione.

1. 01
   Installare Ollama

   Segui la guida di installazione del tuo sistema. Ollama ascolta per impostazione predefinita su http://localhost:11434.
2. 02
   Scaricare un modello

   Scegli in base alla tabella qui sopra, ad esempio usando ollama pull seguito dal nome del modello. Verifica le dimensioni del modello prima di scaricarlo.
3. 03
   Avviare Open WebUI

   La documentazione ufficiale propone un comando Docker che monta un volume per conservare i tuoi dati e consente a Open WebUI di raggiungere Ollama sulla macchina host.
4. 04
   Regolare il contesto

   Con meno di 24 GiB di VRAM, Ollama usa un contesto di circa 4.000 token, troncando i documenti lunghi. Aumentalo in base alla memoria disponibile.

docker run -d -p 3000:8080 --add-host=host.docker.internal:host-gateway -v open-webui:/app/backend/data -e WEBUI_SECRET_KEY=your-secret-key --name open-webui --restart always ghcr.io/open-webui/open-webui:main

L'opzione relativa al volume conserva le tue conversazioni durante gli aggiornamenti, e la chiave segreta deve essere impostata una volta per tutte: senza una chiave stabile, ogni ricreazione del container disconnette gli utenti, come precisa la documentazione. Sostituisci your-secret-key con un valore generato, ad esempio con openssl rand -hex 32. L'interfaccia risponde quindi sulla porta 3000 della tua macchina.

#Ritrovare i tuoi casi d'uso uno per uno

Parlare, scrivere, tradurre

Disponibile appena viene caricato un modello. La qualità dipende dalle dimensioni del modello: un 9B basta per un'email, un 27B o più per un testo lungo e ricco di sfumature.

Analizzare i tuoi documenti

Le basi di conoscenza di Open WebUI, AnythingLLM o PrivateGPT recuperano i passaggi utili invece di inviare tutto al modello. È il metodo giusto quando i tuoi documenti superano la finestra di contesto.

Coder

Estensioni come Cline o Continue si collegano a Ollama. Ollama consiglia almeno 64.000 token di contesto per gli strumenti di programmazione.

Ritrovare i tuoi GPT

Ricrea ogni GPT come un modello personalizzato: istruzioni di sistema, strumenti e conoscenze raccolte. Copia le tue istruzioni da ChatGPT.

Cercare sul web

Attiva la ricerca web di Open WebUI o collega SearXNG perché il modello citi fonti.

#Quando tenere ChatGPT o un'API cloud in riserva

Tre situazioni giustificano il mantenimento di un legame con il cloud: un ragionamento molto lungo su un problema difficile, un'attività che richiede un contesto di diverse centinaia di migliaia di token o un utilizzo da dispositivo mobile con interazione vocale continua. Un approccio ibrido funziona bene: l'IA locale per tutto ciò che è riservato o ripetitivo, il cloud per le eccezioni, senza mai incollarvi dati sensibili. Open WebUI permette di collegare un fornitore esterno accanto a Ollama e di confrontare due modelli fianco a fianco, il che aiuta a valutare se l'IA locale basta per il tuo caso.

#Migrare senza rischi: prima una prova in parallelo

Non disdire nulla il primo giorno. La soluzione più sicura è usare i due strumenti fianco a fianco per una o due settimane, ponendo la stessa domanda a entrambi ogni volta che il risultato conta. Annota i casi in cui l'assistente locale delude: indicano se serve un modello più grande, una finestra più ampia, un prompt migliore o, sinceramente, un uso da mantenere nel cloud.

1. 01
   Giorni 1 e 2: installare e testare

   Installa lo stack, carica il modello adatto alla memoria disponibile e ripeti cinque conversazioni tipiche della tua cronologia ChatGPT.
2. 02
   Giorni da 3 a 7: affiancare un'IA locale a ChatGPT

   Usa l'IA locale per tutte le attività abituali; ricorri a ChatGPT solo quando la risposta locale non basta e annota il motivo.
3. 03
   Settimana 2: importare e ricreare

   Importa la tua cronologia una sola volta, ricrea i GPT che usi di più come modelli personalizzati, attiva la ricerca web se ne hai bisogno.
4. 04
   Fine del periodo: decidere

   Conta i casi in cui hai dovuto tornare al cloud. Se succede raramente, puoi interrompere l'abbonamento; altrimenti, mantienilo o passa a un'API fatturata in base all'utilizzo.

#Le delusioni più comuni dopo la migrazione

Il contesto taglia i tuoi documenti

Ollama parte con una finestra di contesto di circa 4.000 token su una scheda con meno di 24 GiB: un lungo PDF incollato nella chat viene troncato senza un avviso evidente. Aumenta la finestra, nei limiti della memoria disponibile.

Un modello troppo piccolo o troppo compresso

Un 3B o un 7B a 2 bit darà l'impressione che l'IA locale sia mediocre. Passa a un modello più grande prima di trarre conclusioni ed evita le quantizzazioni sotto i 4 bit.

Un modello di ragionamento lento

Alcuni modelli riflettono a lungo prima di rispondere: la risposta arriva dopo diverse decine di secondi. Scegli un modello senza ragionamento per le conversazioni quotidiane.

Prompt scritti per ChatGPT

Un modello locale segue meno bene le istruzioni vaghe. Specifica il ruolo, il formato e la lingua di risposta nel prompt di sistema.

#Ciò che esce ancora dalla tua macchina

Locale non vuol dire ermetico. La ricerca web di Open WebUI invia le tue richieste al motore di ricerca configurato; un modello con etichetta Ollama che termina con cloud viene eseguito sui server del fornitore, come kimi-k3:cloud nella biblioteca di Ollama; e collegare un fornitore esterno accanto a Ollama, cosa che Open WebUI permette, invia i tuoi messaggi a quel fornitore. Per una vera privacy, disattiva queste opzioni o riservale a un profilo separato e verifica l'elenco dei modelli installati prima di elaborare documenti sensibili.

#Per approfondire

• Installare Ollama in 5 minuti
• Open WebUI con Ollama: guida completa
• IA locale vs ChatGPT: confronto
• Comprendere la finestra di contesto
• RAG locale con Ollama senza scrivere codice
• SearXNG: la ricerca web per un modello locale

• Fonte: Open WebUI, importazione e esportazione delle conversazioni
• Fonte: Open WebUI, funzionalità
• Fonte: Open WebUI, avvio rapido
• Fonte: Ollama, lunghezza del contesto