LibreChat: l'interfaccia web multiutente per i modelli LLM locaux

#Cos'è LibreChat

È la metà «interfaccia» di un'installazione locale. Il modello gira altrove — Ollama, vLLM, llama.cpp — e LibreChat fornisce tutto ciò che accompagna la conversazione: la cronologia, gli account e l'autenticazione, le preimpostazioni, i file allegati, gli agenti, la ricerca negli scambi passati. Il progetto è distribuito con licenza MIT, il che lascia pochi dubbi su ciò che si ha il diritto di farne: utilizzarlo, modificarlo, redistribuirlo, anche commercialmente, senza obbligo di contribuire a propria volta con il codice.

Il progetto stesso si presenta come una piattaforma di chat IA self-hosted che riunisce tutti i principali fornitori di IA in un'unica interfaccia orientata alla privacy. Oltre alla chat classica, aggiunge agenti, supporto per il protocollo MCP, artefatti per visualizzare in modo ordinato codice e diagrammi, un interprete di codice, azioni personalizzate e un'autenticazione multiutente pensata per l'azienda piuttosto che per una singola postazione.

La sua scelta più evidente è il supporto di più fornitori: nella stessa conversazione si può passare da un modello locale a uno remoto. È utile ed è anche l'impostazione da controllare con attenzione se l'obiettivo è che nessun dato esca: questa possibilità tecnica esiste, si può disattivare nella configurazione e va verificata dopo ogni aggiornamento, anziché impostata una volta per tutte.

#A chi si rivolge

Il criterio discriminante è il numero di utenti. Quando più persone devono autenticarsi e ritrovare le proprie conversazioni, un'applicazione desktop non basta più, e LibreChat è progettato proprio per questo caso: autenticazione tramite OAuth2, LDAP o un semplice account e-mail, moderazione integrata e monitoraggio del consumo di token per utente.

L'altro criterio di distinzione, meno evidente, è la necessità di un pannello di amministrazione web anziché di un file di configurazione da modificare a mano. Un piccolo team tecnico può lavorare benissimo con Open WebUI e qualche impostazione; un team che comprende persone con profili non tecnici, o che deve poter modificare un ruolo o revocare l'accesso a una persona in pochi clic, trae maggior vantaggio dal pannello di amministrazione fornito con LibreChat.

#Installarlo con Docker

1. 01
   Recuperare il repository e il file di ambiente

   Il progetto fornisce una configurazione Docker Compose e un file di esempio da copiare. È questo file che modificherai, non la configurazione Docker Compose stessa.
2. 02
   Generare i segreti

   Le chiavi di cifratura e i segreti di sessione non devono mai mantenere i valori di esempio forniti nel file modello. Il progetto spiega come generarli correttamente: bastano cinque minuti per evitare un'installazione esposta a chiunque fin dal primo giorno.
3. 03
   Avviare lo stack

   L'applicazione web, il database e il pannello di amministrazione vengono avviati insieme tramite le configurazioni Docker Compose ufficiali fornite dal progetto. L'interfaccia risponde quindi su una porta locale, pronta per la creazione del primo account amministratore.
4. 04
   Creare il primo account, poi chiudere le iscrizioni

   Lasciare aperte le iscrizioni su un'istanza accessibile da internet equivale a offrire la tua GPU e la tua bolletta elettrica al primo che passa.

Gli aggiornamenti seguono lo stesso principio di qualsiasi applicazione con un database: si leggono le note di versione prima di scaricare una nuova immagine, si esegue un backup, poi si aggiorna. Il progetto pubblica regolarmente nuove funzionalità — agenti, MCP, pannello di amministrazione — il che è un motivo per seguire attentamente le versioni piuttosto che un pretesto per saltare passaggi.

#Collegarlo a Ollama

LibreChat definisce i propri provider in un file di configurazione dedicato e tratta Ollama come un endpoint compatibile con OpenAI. Due insidie si ripresentano sistematicamente, ed entrambe si risolvono in pochi minuti una volta identificate.

localhost indica il container

Dall'interno di Docker è necessario l'indirizzo dell'host così come lo vede il container, e Ollama deve essere in ascolto sull'interfaccia di rete e non soltanto sull'interfaccia di loopback.

La lista dei modelli

A seconda della configurazione, i modelli vengono recuperati automaticamente dal server o dichiarati manualmente. Una lista vuota nell'interfaccia significa quasi sempre che l'indirizzo di base è errato, non che il modello manchi.

Quando più persone conversano contemporaneamente, la questione non è più l'interfaccia ma il server di inferenza: un server progettato per un singolo utente elabora le richieste una dopo l'altra, e la terza persona deve aspettare. È una scelta architetturale da fare fin dall'inizio, prima che il team si abitui a tempi di risposta che peggiorano nelle ore di punta.

LibreChat sa anche combinare più fornitori in un'unica istanza: un modello locale per il lavoro quotidiano, un fornitore remoto per le attività occasionali che superano ciò che l'hardware locale può gestire. Il passaggio da un fornitore all'altro avviene per ciascuna conversazione, il che è comodo, ed è proprio per questo che bisogna decidere in anticipo quali fornitori restano autorizzati, anziché scoprirlo a posteriori nei log di utilizzo.

• Open WebUI : l'altra interfaccia web di riferimento
• Servire più utenti con vLLM
• IA locale in azienda: il quadro RGPD

#Conversare con i propri documenti

LibreChat permette di allegare file a una conversazione e di rispondere in base al loro contenuto. Tecnicamente, è un servizio distinto dall'interfaccia — un servizio RAG API dedicato, pubblicato separatamente dal progetto — a suddividere i documenti, codificarli in vettori e memorizzarli; viene distribuito insieme all'interfaccia e richiede un modello di embedding, che non è il modello di conversazione.

Due osservazioni valide per tutti gli strumenti di questa famiglia: un PDF costituito soltanto da una scansione non contiene alcun testo finché non viene sottoposto al riconoscimento ottico dei caratteri, quindi viene indicizzato senza contenuto; e la pertinenza dipende soprattutto dal modello di embedding scelto, un aspetto particolarmente importante per i documenti redatti in francese anziché in inglese.

#Agenti e protocollo MCP

Oltre alla semplice chat, LibreChat propone agenti IA con supporto per il Model Context Protocol (MCP), che permette a un agente di connettersi a server di strumenti esterni invece di limitarsi a rispondere sulla base di ciò che già sa. Un agente può anche cercare file, eseguire codice ed essere condiviso con utenti o gruppi specifici anziché con l’intera istanza. Un catalogo di agenti della community permette di scoprire e distribuire agenti già configurati da altri, invece di ripartire da zero per ogni nuovo caso d’uso.

Un pannello di amministrazione accessibile dal browser permette di gestire utenti, gruppi, ruoli e autorizzazioni e di modificare le impostazioni in tempo reale senza ridistribuire lo stack. È incluso nelle configurazioni Docker ufficiali, il che evita di dover installare separatamente un servizio aggiuntivo, ed è il punto in cui revocare l'accesso a una persona o bloccare l'accesso a un fornitore con pochi clic, anziché modificare un file di configurazione.

• MCP: cosa è e come funziona
• Agente IA: definizione ed esempi

#Più utenti: cosa bisogna configurare

Iscrizione chiusa

Account creati da un amministratore, o restrizione a un dominio di posta elettronica.

Fornitori autorizzati

Se l'impegno è che nulla venga inviato all'esterno, i fornitori remoti vanno disattivati nella configurazione anziché limitarsi alle istruzioni d'uso. Un'istruzione verbale non impedisce a nessuno di trasferire una conversazione a un fornitore remoto con un clic.

Quote

Un modello locale condiviso non comporta una fattura, ma ha una coda di attesa. I limiti per utente, associati al monitoraggio dei consumi integrato nel pannello di amministrazione, garantiscono un'esperienza confortevole a tutti, evitando che la prima persona connessa monopolizzi la GPU.

Conservazione

Le conversazioni restano nel database a tempo indeterminato per impostazione predefinita. Decidi una durata adatta al tuo contesto normativo, mettila per iscritto in una politica interna, poi applicala davvero invece di lasciarla sulla carta.

Agenti e strumenti MCP

Decidi chi può creare un agente, collegare un server MCP o pubblicare un agente nel catalogo condiviso della squadra. Un agente mal configurato agisce per la persona che lo ha creato, non solo per lei.

#Le limitazioni

LibreChat è un'applicazione da amministrare: aggiornamenti, backup, segreti, database. Non è un eseguibile che si avvia con un doppio clic e l'impegno ha senso solo con più utenti — per una sola persona, un'applicazione desktop tutto in uno raggiunge lo stesso risultato con molto meno lavoro di amministrazione.

Alcune funzioni avanzate richiedono servizi aggiuntivi — il servizio di discussione con i documenti, l'esecuzione del codice, alcuni agenti — quindi necessitano di più memoria e container da monitorare su una macchina che ospita già un modello. Su un server modesto, è meglio attivare queste funzioni una alla volta e verificare l'uso della memoria in ogni passaggio piuttosto che avviare tutto insieme.

Infine, l'interfaccia non cambia la qualità delle risposte: un modello di 8 miliardi di parametri risponde come un modello di 8 miliardi di parametri, per quanto curata sia la finestra che lo circonda e per quanto numerosi siano gli agenti e gli strumenti collegati intorno a esso.

#FAQ

• Fonte: repository GitHub di LibreChat
• Fonte: documentazione ufficiale LibreChat
• Fonte: testo della licenza MIT di LibreChat