Prezzi delle schede grafiche per l'IA locale

Quale scheda grafica comprare per eseguire un LLM in locale?

Guarda prima la memoria video (VRAM): il modello deve entrarci interamente, altrimenti parte dei dati viene trasferita nella memoria del PC e la velocità crolla. In Q4, 12 GB sono sufficienti per modelli fino a circa 14 miliardi di parametri, 16 GB fino a circa 24 miliardi, da 24 a 32 GB per modelli da 30 a 35 miliardi, 48 GB fino a circa 70 miliardi. A parità di memoria, la banda passante fa la differenza: determina la velocità di generazione.

NVIDIA, AMD o Intel per l'IA locale ?

NVIDIA resta la scelta più semplice: CUDA è supportato da tutti gli strumenti (Ollama, LM Studio, llama.cpp, vLLM). Le Radeon RX 9000 e AI PRO R9700 sono supportate da Ollama (ROCm 7), LM Studio e llama.cpp, a volte con qualche configurazione in più. Le Intel Arc utilizzano soprattutto Vulkan o SYCL (llama.cpp, LM Studio) e OpenVINO: spesso offrono la VRAM più economica, ma hanno l'ecosistema meno maturo.

La RTX 5090 vale il suo prezzo per l'IA?

È la scheda consumer più veloce (1 792 GB/s) con 32 GB, ma costa 6 999,95 € all'ultima rilevazione, contro 2 349 € al lancio. Per 32 GB, una Radeon AI PRO R9700 (2 199,95 €) o una Intel Arc Pro B70 (1 899,95 €) costa molto meno, con una velocità circa 2,8 volte inferiore. Per i modelli molto grandi, un mini-PC con 128 GB di memoria unificata rimane l'alternativa.

Da dove provengono questi prezzi e quando vengono aggiornati?

Dal feed dei prodotti di Materiel.net, nostro partner, rilevato automaticamente ogni lunedì e ogni giovedì. Per ogni chip, selezioniamo la scheda più economica disponibile in magazzino o spedita entro 7 giorni, indipendentemente dalla marca. I prezzi di Amazon non vengono archiviati: Amazon consente di mostrare solo prezzi recenti, che quindi compaiono in tempo reale sui pulsanti. I link sono affiliati: un acquisto ci frutta una commissione, senza costi aggiuntivi per te, e non influenza la classifica, calcolata automaticamente.

Come si stima la velocità?

Per generare ogni token, la scheda rilegge tutto il modello in memoria: la velocità massima equivale approssimativamente alla banda passante divisa per la dimensione del modello. Ne teniamo il 70%, per un modello di 14 miliardi di parametri in Q4 (circa 9 GB). I valori reali variano in base al software e ai driver: è un ordine di grandezza per confrontare le schede, non una promessa.