EuroLLM 22B vs Mistral Small 24B: modelli sovrani europei

Confrontare EuroLLM vs Mistral Small, significa esaminare due visioni molto diverse della sovranità digitale europea: un modello proviene da un consorzio accademico-industriale concepito per coprire le 24 lingue ufficiali dell'UE, l'altro è prodotto da una startup parigina i cui modelli sono diventati punti di riferimento mondiali nell'ambito open-weights. Questi due modelli, da 22 a 24 miliardi di parametri, si rivolgono allo stesso ambito d'uso — deployment locale su un PC o un server di inferenza compatto — ma con priorità di addestramento radicalmente diverse. Questo articolo confronta le loro specifiche di VRAM per quantizzazione, i loro punteggi nei benchmark pubblici, le loro licenze e i loro casi d'uso concreti per aiutarti a fare la scelta giusta.

Origini e ambizioni: due percorsi europei

EuroLLM 22B è il risultato del progetto EuroLLM, condotto da un consorzio in cui Unbabel e l'Instituto de Telecomunicações costituiscono il nucleo, con supporto istituzionale europeo. L'obiettivo esplicito del progetto è documentato in la pubblicazione su arXiv del consorzio EuroLLM : addestrare modelli multilingui in grado di trattare equamente lingue europee poco rappresentate come il polacco, l’ungherese o il rumeno, senza sacrificare il francese, il tedesco o lo spagnolo. La versione 22B rappresenta un aumento di potenza rispetto alle versioni iniziali di 1,7 e 9 miliardi di parametri.

Mistral Small 24B (anche citato come Mistral Small 3.1) è il frutto di Mistral AI, startup fondata a Parigi nel 2023. L'approccio è diverso: massimizzare l'efficienza per parametro con un'architettura densa accuratamente ottimizzata, una finestra di contesto estesa e una versatilità generalista piuttosto che un posizionamento multilingue istituzionale. La documentazione ufficiale Mistral AI conferma un contesto di 128.000 token e una licenza Apache 2.0 completa.

Queste due traiettorie coesistono nell'ecosistema francofono indicizzato su quelllm.fr, accanto a modelli come Mistral Large 3 675B o Mixtral 8x22B Instruct per esigenze su scala più ampia.

Specifiche tecniche: VRAM, contesto e quantizzazioni

La questione hardware è spesso la prima da risolvere. Ecco le stime per livello di quantizzazione per ciascuno dei due modelli.

EuroLLM 22B — stime VRAM

• Parametri : 22 miliardi (architettura densa)
• Q4_K_M : ~13 GB stimati — compatibile con RTX 4080 16 GB, RX 7900 XTX
• Q5_K_M : ~16 GB stimati — RTX 4090 consigliata
• Q8_0 : ~23 GB stimati — supera la capacità della maggior parte delle GPU consumer; doppia GPU o server
• FP16 : ~44 GB — solo infrastruttura server
• Finestra di contesto : da confermare in base alla versione pubblicata; le versioni precedenti variavano tra 4.096 e 32.768 token
• Lingue supportate : 24 lingue ufficiali dell'UE + inglese, con un'attenzione specifica alle lingue con poche risorse

Mistral Small 24B — stime VRAM

• Parametri : 24 miliardi (architettura densa, Grouped Query Attention)
• Q4_K_M : ~14 GB stimati — RTX 4080 da 16 GB con un buon margine, RTX 4080 da 12 GB al limite
• Q5_K_M : ~17 GB stimati — RTX 4090 consigliata
• Q8_0 : ~25 GB stimati — oltre la capacità di una singola GPU di fascia consumer
• FP16 : ~48 GB — server multi-GPU
• Finestra di contesto : 128.000 token (confermato su HuggingFace mistralai)
• Tokenizer : SentencePiece esteso, buon supporto multilingue

La differenza di 2 miliardi di parametri è marginale in pratica. La vera differenza deriva dal tokenizer, dai dati di addestramento e dagli obiettivi di ottimizzazione di ogni progetto.

Per capire l'impatto concreto di ogni livello di quantizzazione sulla qualità dell'inferenza, il guida alla quantizzazione di quelllm.fr spiega i compromessi misurabili.

Benchmark: prestazioni a confronto

I benchmark pubblici disponibili permettono un confronto parziale. Diversi punteggi di EuroLLM 22B erano ancora in fase di consolidamento da parte della comunità al momento della redazione — le cifre riportate di seguito sono stime da confermare nei repository ufficiali.

MMLU (Massive Multitask Language Understanding)

• Mistral Small 24B : ~79–82% stimato, coerente con i modelli Mistral 24B pubblicati precedentemente
• EuroLLM 22B : da confermare — le versioni 9B del progetto raggiungevano punteggi MMLU competitivi nelle lingue di destinazione, ma inferiori in inglese rispetto ai modelli incentrati esclusivamente sull'inglese

HumanEval (generazione di codice)

• Mistral Small 24B : ~70–74% pass@1 stimato, essendo la programmazione uno dei punti di forza di Mistral AI
• EuroLLM 22B : non prioritario nel progetto; prestazioni stimate inferiori (~45–55%), da confermare sui benchmark comunitari

Benchmark multilingui (vantaggio strutturale di EuroLLM)

È nelle valutazioni multilingui che emerge più chiaramente la ragion d'essere di EuroLLM 22B. Su FLORES+ (traduzione automatica), sulle varianti linguistiche di MMLU o sui benchmark specifici per le lingue dell'UE con poche risorse (polacco, rumeno, ungherese, greco), EuroLLM è addestrato per superare modelli generalisti di dimensioni equivalenti — compreso Mistral Small 24B.

AIME e ragionamento matematico

Né l'uno né l'altro punta al segmento del ragionamento avanzato. Su AIME, le prestazioni dei modelli da 22–24B senza specializzazione matematica rimangono modeste rispetto ad architetture MoE come Qwen 3 235B-A22B che attiva 22B di parametri con un pool di 235B.

Licenze: cosa cambia per un uso professionale

La licenza è spesso un criterio decisivo prima ancora delle prestazioni.

EuroLLM 22B : le versioni precedenti del progetto utilizzavano Apache 2.0 o CC-BY 4.0. Per la versione 22B occorre una conferma nel repository ufficiale. Era generalmente previsto un uso commerciale senza royalty, a condizione di attribuire la paternità.

Mistral Small 24B : distribuito con licenza Apache 2.0, la licenza più permissiva tra le grandi licenze open-weights. Modifica, redistribuzione, integrazione commerciale: tutto è autorizzato senza restrizioni né royalty. È lo stesso regime di Mistral Medium 3.5 128B, il che semplifica le scelte di adozione in azienda.

Per i team soggetti a vincoli legali europei (GDPR, sovranità dei dati), entrambi i modelli consentono un deployment rigorosamente on-premise senza trasmissione di dati a servizi terzi.

Casi d'uso concreti

Quando scegliere EuroLLM 22B?

1. Applicazioni istituzionali multilingui : assistenza clienti in oltre 10 lingue dell'UE, traduzione di documenti ufficiali, assistenti parlamentari o amministrativi
2. Priorità alle lingue con poche risorse : polacco, ceco, rumeno, ungherese — EuroLLM è addestrato specificamente per queste lingue, nelle quali i modelli generalisti faticano
3. Progetti di ricerca o finanziamenti UE : l'allineamento con le iniziative europee di sovranità digitale facilita la giustificazione delle scelte tecnologiche nelle domande di finanziamento
4. Limitazioni relative a dati sensibili : deployment on-premise senza dipendere da fornitori esterni all'UE

Quando scegliere Mistral Small 24B?

1. Compiti generalisti in francese : scrittura, riassunto, estrazione, classificazione — Mistral eccelle in francese senza configurazioni specifiche
2. Codice e compiti tecnici : netto vantaggio su HumanEval e nelle attività di programmazione
3. Contesto lungo fino a 128k token : analisi di documenti, basi di conoscenza, pipeline RAG
4. Deployment self-hosted su una singola GPU : l'efficienza per parametro e la finestra di contesto estesa ne fanno un modello adatto ai server di inferenza locali con una RTX 4090
5. Ecosistema e integrazioni : la compatibilità con llama.cpp, il function calling nativo e la documentazione Mistral rendono più diretta l'integrazione nelle pipeline esistenti

Le configuratore quelllm.fr ti permette di filtrare i modelli in base alla tua GPU e alle tue lingue di destinazione per affinare questa scelta.

Posizionamento nell'ecosistema open-weights

Con 22–24 miliardi di parametri, EuroLLM 22B e Mistral Small 24B occupano una nicchia precisa: al di sopra dei modelli 7–13B che stanno in 8 GB di VRAM, ma ben al di sotto delle architetture MoE o dei modelli densi molto grandi che richiedono più GPU di fascia alta.

Modelli come DeepSeek R1 671B o Llama 4 Maverick 400B superano entrambi nei compiti complessi, ma richiedono un'infrastruttura con 200–400 GB di VRAM in Q4. Su una RTX 4090 da 24 GB, EuroLLM 22B e Mistral Small 24B sono candidati realistici in Q4_K_M con un'inferenza fluida.

Per i team che dispongono già di un'infrastruttura multi-GPU e cercano un modello Mistral più potente, Mistral Small 4 (119B) con 72 GB di VRAM in Q4 rappresenta il livello successivo nella gamma.

FAQ

Q: EuroLLM 22B è migliore di Mistral Small 24B in francese?

Non necessariamente. Il francese è una lingua molto ben coperta da Mistral Small 24B grazie ai suoi dati di addestramento generalisti. EuroLLM 22B offre un valore aggiunto per le lingue europee meno rappresentate — polacco, ungherese, rumeno — piuttosto che per il francese o lo spagnolo, dove Mistral è già competitivo senza particolari sforzi.

Q: Quanta VRAM minima serve per eseguire questi due modelli?

Con la quantizzazione Q4_K_M, considera un fabbisogno stimato di 13–14 GB per EuroLLM 22B e di 14–15 GB per Mistral Small 24B. Una RTX 4080 da 16 GB permette di eseguire entrambi comodamente. Una RTX 4090 da 24 GB offre un margine per la Q5_K_M. Sotto i 12 GB, la quantizzazione Q3 è un'opzione possibile, ma peggiora la qualità in modo percepibile.

Q: La licenza di EuroLLM 22B permette un uso commerciale?

Le versioni precedenti del progetto EuroLLM utilizzavano Apache 2.0 o CC-BY 4.0, licenze permissive che consentono l'uso commerciale. La licenza della versione 22B va verificata nel repository ufficiale prima di qualsiasi distribuzione commerciale. Mistral Small 24B, invece, è chiaramente distribuito con licenza Apache 2.0, senza alcuna restrizione commerciale.

Q: Mistral Small 24B supporta il function calling?

Sì. Mistral Small 24B (3.1) supporta nativamente il function calling nel formato Mistral, ben documentato negli SDK ufficiali. EuroLLM 22B, centrato sul multilinguismo accademico, non considera il function calling una priorità — le capacità di tool use devono essere confermate sulla versione 22B.

Q: Dove trovare i file GGUF per il self-hosting?

I file GGUF di Mistral Small 24B sono disponibili su HuggingFace tramite repository della comunità ben mantenuti. Per EuroLLM 22B, più recente, verifica i repository ufficiali del consorzio e i contributi della comunità — potrebbe essere necessaria una conversione manuale a seconda della versione disponibile.

Q: Come si confronta EuroLLM 22B con Mistral Small 4?

Mistral Small 4 (119B) appartiene a una categoria diversa: 119 miliardi di parametri contro 22–24B, con 72 GB di VRAM necessari in Q4. Supera i due modelli confrontati in quasi tutte le attività, ma richiede un'infrastruttura GPU significativamente più impegnativa. EuroLLM 22B e Mistral Small 24B restano le opzioni realistiche per il self-hosting su una singola GPU consumer.

Conclusione

La comparazione EuroLLM vs Mistral Small rivela due strumenti più complementari che concorrenti: Mistral Small 24B si impone per le attività generaliste, il codice e i contesti lunghi in self-hosting su una singola GPU, mentre EuroLLM 22B risponde a un'esigenza istituzionale concreta di copertura multilingue europea per le lingue con poche risorse. La scelta dipende soprattutto dalle tue lingue di destinazione e dai tuoi vincoli hardware. Esplora i 249 modelli indicizzati sul catalogo quelllm.fr o utilizza il configuratore per trovare il modello adatto alla tua GPU e ai tuoi casi d'uso.