Percorso 01 · Per iniziare

Il curioso — « Voglio solo provare, senza problemi. »

Hai sentito parlare dei LLM locali e vuoi vedere come funzionano sul tuo computer. Nessun codice, nessuna riga di comando complicata — in 15 minuti chatti con il tuo primo modello, offline e gratuitamente.

Durata totale

~15 min

Livello richiesto

Nessuno

Costo

0 €

Macchina tipica

PC o Mac recente

↑

La nostra promessa

Alla fine di questo percorso, Ollama sarà in esecuzione silenziosamente in background, avrai Mistral 7B scaricato in locale e un'interfaccia web pulita per conversare con il modello, accessibile dal tuo browser. Il tutto in meno di un quarto d'ora, senza una sola riga di codice da capire.

Per chi è pensato questo percorso

Preferiamo dirtelo subito piuttosto che lasciarti perdere 30 minuti inutilmente.

✓ È per te se

✓Sai appena che cos'è un LLM, ma l'argomento ti incuriosisce.
✓Vuoi provare senza affidare le tue domande a un servizio americano.
✓Cerchi il percorso più breve tra «ne ho sentito parlare» e «funziona sul mio computer».
✓Hai un PC o un Mac di meno di 5 anni con almeno 8 GB di RAM.

✕ Cerca altrove se

·Vuoi fare il fine-tuning di un modello sui tuoi dati: consulta il percorso per sviluppatori.
·Vuoi una configurazione professionale con RAG sui tuoi documenti: consulta il percorso professionale riservato.
·La tua macchina risale al 2015 e ha 4 GB di RAM: funzionerà, ma sarà lento.

Il percorso in 3 passaggi

Ogni passaggio rimanda a una guida dettagliata che puoi leggere in parallelo. L’ordine è ottimizzato: non saltare nessun passaggio la prima volta.

Totale cumulato · ~15 min

Modelli consigliati

Tre opzioni testate per questo percorso — dalla più leggera a quella con le maggiori capacità. Clicca per aprire la scheda dettagliata (VRAM, contesto, benchmark).

L'avvio

Mistral 7B Instruct

Mistral AI · 7B · 5 GB in Q4

Il punto di partenza predefinito. Francese nativo, dimensioni ragionevoli.

Vedi la scheda →

Modello citato

qwen2.5-7b

Ottimo rapporto qualità/dimensioni, molto valido nella programmazione e nel ragionamento.

Modello citato

llama-3.1-8b

Meta, multilingue, risposte più lunghe e strutturate.

Domande frequenti

Le domande reali che ci vengono poste via e-mail e su Mastodon. Se manca la tua, apri un ticket.

Durante una conversazione: sì, la tua GPU funziona a pieno regime (da 200 a 400 W a seconda del modello). Quando è inattiva tra due domande: quasi nulla. Per un uso occasionale, il consumo è trascurabile rispetto a quello di un videogioco.

Una volta completato questo percorso

Percorso successivo

Il professionista attento alla riservatezza — « I miei dossier non lasciano il mio pc. »

Giurista, medico, responsabile delle risorse umane, consulente, commercialista, notaio — i tuoi documenti sono coperti dal segreto professionale o da un NDA. Un LLM locale abbinato a un RAG ti permette di interrogarli, riassumerli,…

→

Il kit IA Locale

Il tuo ChatGPT privato e gratuito sulla tua macchina in 1 ora — LM Studio, Ollama, Open WebUI, i tuoi documenti, senza cloud.