Quale LLM su Radeon RX 7900 GRE (16 GB) ?

#Cosa fa una RX 7900 GRE nel 2026

La RX 7900 GRE carica in Q4 tutto ciò che pesa meno di 15 GB: Gemma 4 12B fino a Q8, gpt-oss 20B e Devstral Small 2 24B con un contesto breve. La sua velocità di generazione, limitata dalla larghezza di banda di 576 GB/s, si aggira intorno a 116 token al secondo sul modello 7B di riferimento delle classifiche con Vulkan. Questo è il punto da ricordare: il suo numero di processori di flusso, 5.120 contro i 3.840 della 7800 XT, accelera la lettura dei prompt ma non la generazione, perché non ha né più memoria né una maggiore larghezza di banda rispetto alla scheda vicina nella gamma. AMD la elenca ufficialmente in ROCm e Ollama la supporta su Linux e su Windows.

Architettura

RDNA 3, Navi 31 (il chip della RX 7900 XTX, qui in versione ridotta), 80 unità di calcolo e 5 120 processori di flusso.

Memoria

16 GB GDDR6 con bus da 256 bit, pari a 576 GB/s.

Consumo

260 W di potenza della scheda.

Disponibilità

Riservata inizialmente alla Cina (27 luglio 2023), commercializzata a livello internazionale il 27 febbraio 2024, con un prezzo di lancio di 549 dollari.

Prezzo attuale

Consulta /prix-gpu-ia: il prezzo cambia ogni settimana.

#7900 GRE contro 7800 XT: la memoria decide

Le due schede offrono 16 GB. La 7800 XT ha 624 GB/s di larghezza di banda, la 7900 GRE 576 GB/s, cioè l'8% in meno. Durante la generazione, ogni token comporta la rilettura di tutti i pesi, quindi è la larghezza di banda a determinare le prestazioni: nella discussione su Vulkan di llama.cpp, la 7800 XT supera leggermente la GRE, e il vantaggio è più netto con Flash Attention attivata. La GRE torna in vantaggio nell'elaborazione del prompt con Vulkan (il 16% in più), dove conta la capacità di calcolo. Con ROCm, entrambe le serie pubbliche di misurazioni vedono la 7800 XT in vantaggio su entrambe le metriche.

Queste serie provengono da contributori diversi, con commit diversi di llama.cpp: lo scarto è indicativo dell'ordine di grandezza, non il risultato di un confronto di laboratorio. Eppure concordano sul fatto che la GRE non genera più velocemente di una 7800 XT. Se le trovi entrambe allo stesso prezzo, scegli la 7800 XT per la conversazione e la GRE per l'uso con prompt lunghi.

• Radeon RX 7800 XT: la stessa VRAM, maggiore banda passante

#Ciò che entra in 16 GB di VRAM

Calcola circa 15 GB per il modello e la sua cache KV quando la scheda non gestisce lo schermo. I pesi in Q4 provengono dal catalogo QuelLLM; a questi si aggiunge il contesto.

Il limite dei 16 GB si trova quindi tra il 24B, che ci sta, e il 31B, che non ci sta. Per superare questo limite senza passare a una scheda da 24 GB, la RX 7900 XT da 20 GB offre un margine intermedio; la guida dedicata spiega in dettaglio cosa offre. Per tutte le schede da 16 GB, indipendentemente dalla marca, la pagina per VRAM confronta i modelli.

• Radeon RX 7900 XT : 20 GB per superare i 24B
• Quale LLM per 16 GB di VRAM, indipendentemente dalla scheda grafica

#Velocità misurate e limite della larghezza di banda

Nessun dato numerico di questa pagina è una misurazione effettuata dal sito. I valori provengono dalle discussioni pubbliche del repository llama.cpp, che utilizzano tutte Llama 2 7B in Q4_0 (3,56 GiB) e llama-bench. La lettura del prompt (pp512) misura la velocità di ingestione di 512 token; la generazione (tg128) misura la velocità di scrittura. Per la RX 7900 GRE con Vulkan, la discussione riporta 116,11 token al secondo in generazione senza Flash Attention e 110,50 con Flash Attention. Con ROCm, riporta 96,07.

Il limite teorico della velocità di generazione, dato dalla larghezza di banda divisa per la dimensione dei pesi, è qui di 576 GB/s divisi per 3,82 GB, cioè circa 151 token al secondo. La scheda raggiunge il 77% di questo limite con Vulkan senza Flash Attention. Applicare questo rendimento a modelli più grandi dà un ordine di grandezza: non è una misura, e un altro driver o un'altra versione di llama.cpp lo farà variare.

#Che cosa cambia in pratica con la lettura del prompt

La lettura del prompt sembra astratta finché non la si converte in secondi di attesa. Il calcolo è semplice: numero di token del prompt diviso per la velocità pp512. Suppone che la velocità misurata su 512 token si mantenga su un prompt più lungo, cosa che è solo approssimativamente vera, poiché la lettura rallenta quando il contesto aumenta. I tempi riportati di seguito sono quindi delle stime per un documento di circa 4.000 token, cioè una decina di pagine.

La differenza tra queste schede si misura quindi in frazioni di secondo su un documento breve. Diventa percepibile quando il prompt raggiunge decine di migliaia di token, come nel caso di un intero repository di codice o di un insieme di PDF, oppure quando ogni richiesta di un agente rilegge contesti di grandi dimensioni. Per un utilizzo a basso volume, scegli la scheda in base al costo per GB di VRAM, non in base a questo criterio.

#Rispetto alla RX 9070: stessa VRAM, RDNA 4

La RX 9070 è l'altra scheda da 16 GB della gamma attuale. Ha 640 GB/s di banda contro 576 GB/s, un TDP di 220 W contro 260 W e 3.584 processori di flusso. Con Vulkan, genera a 119,71 token al secondo e legge a 3.164: è più veloce del 35% nella lettura del prompt e quasi alla pari nella generazione. La differenza pratica è altrove: ROCm, Ollama e Windows si comportano diversamente per queste due generazioni, come spiegato nella pagina della RX 9070. Un esempio concreto: la documentazione di Ollama elenca la RX 9070 tra le schede ROCm su Linux ma non su Windows, dove utilizza Vulkan, mentre la RX 7900 GRE compare negli elenchi di entrambi i sistemi. Se lavori su Windows e vuoi usare ROCm, questo favorisce la GRE; se accetti Vulkan, la differenza scompare.

• Radeon RX 9070: RDNA 4 e 16 GB

#Avvio

1. 01
   Scegliere il sistema

   AMD supporta le Radeon RX 7000 solo su Ubuntu 24.04.4, Ubuntu 22.04.5, RHEL 10.1 e RHEL 9.7. Su Windows, Ollama utilizza uno stack ROCm v7 o HIP7.
2. 02
   Installare Ollama

   Su Linux è richiesto il driver ROCm v7. Vulkan, attivato per impostazione predefinita, funge da fallback e dà buoni risultati su questa scheda.
3. 03
   Caricare un modello che rientri nella memoria disponibile

   Prova prima un 12B o un 20B, poi un 24B, con un contesto breve. Verifica con ollama ps che il modello sia interamente sulla GPU.
4. 04
   Confrontare i due backend

   Avvia llama-bench con Vulkan e poi con ROCm, con e senza Flash Attention. Su questa scheda, Flash Attention ha rallentato la generazione con Vulkan nelle misurazioni pubblicate.

ollama ps
./llama-bench -m llama-2-7b.Q4_0.gguf -ngl 100 -fa 0,1

• Ollama e GPU AMD: ROCm, Vulkan e variabili utili

#Per quale uso scegliere la 7900 GRE

Il criterio che la distingue è il rapporto tra calcolo e memoria: molta potenza di calcolo per 16 GB e 576 GB/s. È adatta quando il tempo prima della prima parola conta quanto la velocità di scrittura, ad esempio per un assistente che elabora documenti lunghi o un flusso RAG il cui prompt contiene migliaia di token. Per una chat breve, il vantaggio scompare e la 7800 XT, con maggiore banda passante, fa altrettanto bene o meglio.

In sintesi per le tre schede da 16 GB: la 7800 XT è la scelta semplice per la conversazione, la 9070 la scelta più veloce in lettura e con i consumi più contenuti, a 220 W, e la 7900 GRE la scelta opportunistica quando il prezzo scende sotto quello delle altre due. Nessuna delle tre sblocca i modelli da 30 miliardi di parametri, che richiedono più memoria.

#Verdetto 2026

Un'opzione pertinente

Se trovi la GRE allo stesso prezzo di una 7800 XT o a meno e i tuoi prompt sono lunghi.

Una scelta meno pertinente

Se costa più di una 7800 XT e fai soprattutto conversazione: paghi una potenza di calcolo che la generazione non utilizza.

Da verificare prima dell'acquisto

Che il sistema rilevi correttamente 16 GB di VRAM e il modello corretto della scheda, usando rocminfo su Linux o Gestione attività su Windows.

• Prezzi delle schede grafiche per l'IA locale, rilevati due volte a settimana
• Documentazione Ollama: schede AMD supportate
• Compatibilità delle GPU con ROCm, documentazione AMD
• Classifica Vulkan del repository llama.cpp

#Domande frequenti