Msty: l'elegante interfaccia per LLM locali (Mac, Windows, Linux)

#Perché Msty

Msty (msty.app) si rivolge a un profilo preciso: chi vuole un'app con un'interfaccia grafica curata, senza Docker, senza CLI, ma con vere funzionalità che vadano oltre la semplice chat. Tre elementi distintivi riassumono lo strumento.

Tutto in un'unica app

Motore di inferenza integrato (basato su llama.cpp), client per Ollama se lo hai già installato e connettori cloud — nessuno stack da assemblare.

Knowledge Stacks

Il RAG è nativo e non richiede codice. Basta trascinare e rilasciare PDF, file Markdown, cartelle intere o persino URL: Msty si occupa del chunking, degli embedding e del retrieval.

Workspaces e Split Chat

Diversi spazi di lavoro isolati (personale, lavoro, R&D) e la possibilità di porre la stessa domanda a 2-4 modelli in parallelo nella stessa vista.

#Prerequisiti

OS

macOS 11+ (Apple Silicon o Intel), Windows 10/11 (x64), Linux x64 (AppImage e pacchetti .deb/.rpm).

RAM minima

8 GB per un modello 3B Q4_K_M, 16 GB per un 7B, 32 GB per usare comodamente un 14B, 64 GB per puntare a un 32B.

GPU

Opzionale ma consigliato. NVIDIA con CUDA, AMD con ROCm/Vulkan, Apple Silicon con Metal — Msty rileva e utilizza automaticamente.

Archiviazione

Prevedere 10-50 GB in base al numero di modelli. I file GGUF Q4 vanno da 2 GB (3B) a 40 GB (70B).

#1. Installazione

Msty si scarica esclusivamente dal sito ufficiale. Per ora non è disponibile tramite gestori di pacchetti (né Homebrew né winget), il che semplifica la verifica della fonte.

https://msty.app

1. 01
   Scaricare il programma di installazione

   Vai su msty.app e scegli il tuo sistema operativo. Sono disponibili tre varianti: Online (ridotta, solo per il cloud), Local (consigliata, include il motore di inferenza) e Local + GPU (con driver CUDA inclusi per Windows).
2. 02
   Installare (Mac)

   Apri il .dmg, trascina Msty nella cartella Applicazioni, poi, al primo avvio, fai clic destro → Apri (Gatekeeper). macOS chiede conferma perché l'app non è stata notarizzata dall'App Store.
3. 03
   Installare (Windows)

   Avvia il file .exe. Scegli la variante GPU se hai una NVIDIA recente — include i runtime CUDA ed evita di dover intervenire manualmente sui driver. Altrimenti la versione Local CPU/Vulkan è sufficiente.
4. 04
   Installa (Linux)

   AppImage: chmod +x Msty-*.AppImage poi ./Msty-*.AppImage. .deb: sudo dpkg -i msty_*.deb. .rpm: sudo rpm -i msty-*.rpm. Per AppImage, libfuse2 può essere necessario a seconda della distribuzione.
5. 05
   Primo avvio

   Msty crea la sua cartella dei dati (~/Library/Application Support/Msty su Mac, %APPDATA%\Msty su Windows, ~/.config/Msty su Linux). Modelli, conversazioni e Knowledge Stacks sono conservati lì.

#2. Primo modello locale

Msty propone un onboarding che scarica un piccolo modello di avvio con un clic. Puoi anche scegliere direttamente dal suo catalogo. Tre opzioni solide in francese per iniziare in base al tuo hardware:

Configurazione modesta (8 GB di RAM, senza GPU)

Qwen 3.5 2B Q4_K_M (≈1,9 GB) o Granite 4.2 3B (≈2,2 GB). Utilizzabili con la sola CPU, ideali per conversare, fare brainstorming e riassumere un testo breve.

Configurazione standard (16 GB RAM, GPU 6-8 GB)

Qwen 3.5 9B Q4_K_M (≈6,6 GB), con 256k di contesto e capacità di visione. Il miglior compromesso versatile per FR/EN nell'uso quotidiano.

Configurazione per un uso confortevole (32 GB di RAM, GPU da 12 a 24 GB)

Mistral Small 24B (≈14 GB) o Qwen 3.8 27B in Q4_K_M (≈18 GB). Ragionamento nettamente superiore: ci si avvicina all'esperienza cloud.

Per scaricare: apri la scheda Local AI Models nella barra laterale sinistra, poi clicca su Browse and Download Online Model. Msty rimanda a Hugging Face con un filtro sulle versioni GGUF compatibili. Viene visualizzato l'avanzamento del download e il modello è selezionabile non appena il download termina.

#3. Cloud + locale affiancati

È uno dei punti di forza di Msty: aggiungere le proprie chiavi API cloud (OpenAI, Anthropic, Google, OpenRouter, Groq, Mistral cloud, ecc.) e usare questi modelli nella stessa interfaccia dei tuoi modelli locali. Per selezionare il modello per una nuova conversazione basta un semplice menu a discesa che riunisce i due mondi.

1. 01
   Aggiungere un fornitore cloud

   Settings → Remote Model Providers → Add. Incolla la tua chiave API. Msty salva la chiave in locale (cifrata tramite il portachiavi del sistema operativo, quando disponibile).
2. 02
   Scegliere il modello per la conversazione

   Nella barra della chat, il selettore mostra tutti i tuoi modelli: Local (con l'icona di una casa), Cloud (con l'icona del fornitore). Puoi cambiare modello nel corso di una conversazione: Msty mantiene il contesto.
3. 03
   Stabilire le regole

   Settings → Default Model permette di impostare il modello predefinito. Suggerimento: impostare un modello locale come predefinito obbliga a scegliere esplicitamente quando si vuole inviare al cloud, ed è utile per la privacy.

#4. Spazi di lavoro personalizzati

Un workspace in Msty è uno spazio isolato con le proprie conversazioni, i propri Knowledge Stacks, il proprio modello predefinito e i propri fornitori attivati. In pratica, si crea un workspace per ogni contesto d'uso.

Perso

Modello locale 7B, senza cloud, Knowledge Stacks sulle tue note Markdown personali, prompt dal tono informale.

Lavoro

Modello locale 14B + Claude nel cloud per le attività più impegnative, Knowledge Stack sulla documentazione interna (procedure, runbook).

R&D / sandbox

Diversi modelli attivati per sperimentare, uso frequente di split chat, nessun Knowledge Stack.

Riservato

Nessun provider cloud, solo un modello locale, Knowledge Stack crittografato a livello di sistema operativo, per elaborare dati dei clienti o delle risorse umane.

Creazione: barra laterale sinistra → icona Workspaces → New Workspace. Ogni workspace ha la propria icona e il proprio colore, il che aiuta a evitare di sbagliare contesto (e quindi modello/destinazione).

#5. Knowledge Stacks (RAG nativo)

I Knowledge Stacks sono la funzionalità principale di Msty. È un RAG completo senza alcuna configurazione: Msty effettua il chunking, genera gli embedding con un modello locale (mxbai-embed-large per impostazione predefinita), li memorizza in un database vettoriale integrato e inserisce automaticamente i passaggi pertinenti nel contesto del LLM quando viene posta una domanda.

1. 01
   Creare un Knowledge Stack

   Sidebar → Knowledge Stacks → New Stack. Dagli un nome (es.: « Documenti giuridici »).
2. 02
   Aggiungere fonti

   Trascina e rilascia file (PDF, DOCX, MD, TXT, CSV, JSON) o intere cartelle. Puoi anche aggiungere URL (Msty esegue il crawling della pagina), trascrizioni di YouTube o persino un repository GitHub tramite URL.
3. 03
   Attendere l'indicizzazione

   Msty mostra l'avanzamento: estrazione del testo, chunking (≈500 token per chunk per impostazione predefinita), generazione degli embedding. Per 100 PDF, considera 5-15 minuti a seconda della GPU.
4. 04
   Attivare in una conversazione

   Nella chat, icona Knowledge Stack in basso → seleziona lo stack da utilizzare. Puoi attivare più stack contemporaneamente. Msty mostra le fonti utilizzate sotto ogni risposta, con un link diretto al passaggio originale.

#6. Split Chat e confronti

Split Chat ti permette di porre una domanda a 2 modelli (gratuitamente) o fino a 4 modelli (Aurum) nella stessa finestra, visualizzati in colonne affiancate. Ideale per calibrare un nuovo modello o scegliere tra due candidati senza riscrivere il prompt.

1. 01
   Attivare Split Chat

   Nel corso di una conversazione, clicca sul pulsante Split (icona colonne) nella barra superiore. Appare una seconda colonna con il proprio selettore di modello.
2. 02
   Configurare ogni colonna

   Ogni colonna ha il suo modello, la sua temperatura, il suo system prompt. Puoi confrontare un Qwen 3.5 9B locale con Claude Haiku cloud sulle stesse domande.
3. 03
   Conversazione sincronizzata o indipendente

   Per impostazione predefinita, ogni messaggio che digiti viene inviato a entrambe le colonne. Puoi deselezionare Sync per far divergere le conversazioni (ad esempio se una risposta ti ha fatto riprendere un'idea che vuoi approfondire in un solo ramo).

Prompt :
"Rédige un email professionnel poli pour refuser une réunion non urgente."

Colonne 1 : Qwen 3.5 9B local, température 0.7
Colonne 2 : Mistral Small 24B local, température 0.7

→ Comparaison directe du niveau de français, du ton, de la longueur,
de la pertinence des formules. Décide quel modèle
devient le défaut pour l'usage "rédaction".

#Msty vs Open WebUI vs LM Studio

Tutti e tre sono interfacce grafiche per LLM, ma si concentrano su aspetti diversi.

Msty

Applicazione desktop tutto in uno, proprietaria e freemium. Installazione in 1 clic. Ideale per: RAG senza codice (Knowledge Stacks), uso combinato di cloud e modelli locali, spazi di lavoro e chat affiancate. Meno flessibile per l'uso multiutente o la distribuzione su server.

Open WebUI

App web ospitata in proprio, open source (BSD), con Docker consigliato. Supporto multiutente nativo (autenticazione, ruoli), RAG configurabile, accessibile da qualsiasi browser sulla rete. Ideale per: deployment per un team o una famiglia, controllo totale, hosting su server.

LM Studio

App desktop a codice sorgente chiuso ma gratuita. Il catalogo Hugging Face più ricco, MLX nativo per Mac, supporto MCP, predizione multi-token. Ideale per: testare molti modelli, prestazioni pure, impostazioni avanzate. RAG semplice (Chat with Documents), ma meno integrato rispetto ai Knowledge Stacks.

#Risoluzione dei problemi

Il modello non si carica (OOM)

VRAM/RAM insufficiente. Settings → Local AI → [modello] → Advanced: riduci n_gpu_layers (sposta meno strati sulla GPU) o n_ctx (finestra di contesto). Altrimenti, passa a una quantizzazione più piccola (Q4_K_S, IQ3_M).

Tokens/sec bassi

Verifica l'utilizzo della GPU: nvidia-smi (NVIDIA), rocm-smi (AMD) o Activity Monitor GPU (Mac). Se la GPU è allo 0%, Msty sta usando la CPU: verifica i driver e assicurati di utilizzare la variante Local + GPU su Windows.

Knowledge Stack rimane allo 0%

L'indicizzazione richiede che il modello di embedding sia scaricato. Settings → Knowledge Stacks → Embedding Model: verifica che mxbai-embed-large (o il modello che hai scelto) risulti effettivamente Downloaded, altrimenti fai clic su Download.

Il provider cloud restituisce un errore 401

Chiave API non valida o scaduta. Controlla nella dashboard del fornitore. Per OpenAI, assicurati di avere crediti attivi (le chiavi senza crediti restituiscono 401 o 429).

Linux: AppImage non si avvia

Installa libfuse2 (sudo apt install libfuse2 su Ubuntu 22.04+). Avvia l'AppImage dal terminale per vedere l'errore preciso.

Conversazioni perse dopo l'aggiornamento

I dati si trovano nella cartella Msty (Application Support su Mac, AppData su Win, .config su Linux). Verifica che nessun programma di pulizia del sistema abbia svuotato questa cartella. Eseguire regolarmente un backup di questa cartella è una buona pratica.

#Per approfondire

A seconda della direzione che vuoi seguire:

Confrontare Msty con le sue alternative

« Ollama vs LM Studio vs Jan vs GPT4All » e « LM Studio vs Ollama : quale scegliere nel 2026 » forniscono il panorama completo delle interfacce locali.

Spingere il RAG oltre i Knowledge Stacks

« RAG locale con Ollama senza programmare (Open WebUI, AnythingLLM) » copre le alternative quando si superano le capacità del RAG integrato di Msty.

Scegliere il modello giusto per Msty

«Scegliere la quantizzazione (Q4, Q5, Q8, FP16)» aiuta a valutare il compromesso tra qualità e VRAM nel catalogo di Msty.