DeepSeek V4 Flash 284B: il 1° frontier che gira su Mac Studio

#DeepSeek V4 Flash in sintesi

Data di uscita

24 aprile 2026, in contemporanea con V4 Pro. Disponibile su HuggingFace: deepseek-ai/DeepSeek-V4-Flash.

Architettura

MoE 284B totali, 13B attivi per token. 128 esperti per layer, routing top-8. Varianti Base + Instruct disponibili.

Innovazioni ereditate dal Pro

Meccanismo di attenzione CSA+HCA, mHC, ottimizzatore Muon, addestramento misto FP4+FP8.

Contesto

1 milione di token nativi (identico al Pro).

Modalità thinking

3 livelli Non / High / Max — selezionabili tramite il prompt.

Licenza

MIT, identica a quella del Pro. Nessuna restrizione all'uso commerciale né di carattere geografico.

#1. Perché è un evento

Prima del 24 aprile 2026, eseguire in locale un modello di frontiera significava usare un cluster GPU da almeno 80.000 € oppure accettare la qualità inferiore di un modello da 70B. DeepSeek V4 Flash cambia la situazione: i suoi 170 GB in Q4 rientrano nella memoria di configurazioni usate da 4.000-8.000 €.

Mac Studio M3 Ultra 256 GB

7 299 € a catalogo fino a settembre 2026, ora disponibile di seconda mano (il M5 Ultra 256 GB lo sostituisce nell'offerta Apple). 170 GB per il modello + 30 GB per il contesto = entra in memoria con ampio margine. ~10-12 tok/s in Q4.

2× RTX 5090 32 GB (64 GB VRAM)

≈ 11.400 €. Insufficiente — mancano ~110 GB. Possibile con offload sulla CPU, ma lento (3-5 tok/s).

4× RTX A6000 48 GB (192 GB VRAM)

~12.000 € sul mercato dell'usato. Il modello ci sta comodamente, ~18–25 tok/s.

Workstation 2× Mac Studio Max 64 GB

Insufficiente in singolo. Con llama.cpp RPC swarm e 4× Mac Studio: possibile, circa 5 tok/s.

#2. Architettura (variante efficiente di V4)

V4 Flash è una riduzione proporzionale del V4 Pro: circa 5,7 volte meno esperti, circa 3,8 volte meno parametri attivi, ma lo stesso scheletro CSA+HCA + Muon + FP4/FP8. Questa omogeneità permette a V4 Flash di ereditare la qualità del Pro a costo molto inferiore.

Esperti per layer

128 (vs 256 per Pro). Routing top-8 identico.

Parametri attivi

13B (rispetto ai 49B di Pro). Velocità di inferenza circa 3,8× superiore a parità di numero totale di parametri.

Strati

61 (Pro: 76). Riduzione moderata per preservare la profondità del ragionamento.

Head di attenzione

Identico al Pro (CSA+HCA configurati allo stesso modo). Nessun risparmio sull'attenzione, per preservare la qualità con contesti lunghi.

Pre-training

Obiettivo « efficient reasoning »: 18T token (vs 32T per Pro), con un mix di dati ottimizzato per matematica + codice.

#3. Hardware in base alla quantizzazione

#4. Configurazione del Mac Studio Ultra da 256/512 GB

# 1. Relever la mémoire GPU allouable
sudo sysctl iogpu.wired_limit_mb=240640    # 256 Go : 235 Go GPU
# Ou pour Mac Studio 512 Go :
# sudo sysctl iogpu.wired_limit_mb=491520

# Persistant
echo "iogpu.wired_limit_mb=240640" | sudo tee -a /etc/sysctl.conf

# 2. llama.cpp avec Metal + Flash Attention
git clone https://github.com/ggerganov/llama.cpp && cd llama.cpp
make GGML_METAL=1 LLAMA_METAL_EMBED_LIBRARY=1

# 3. Téléchargement Q4_K_M (~170 Go split en chunks)
huggingface-cli download deepseek-ai/DeepSeek-V4-Flash-GGUF \
  --include "*Q4_K_M*.gguf" \
  --local-dir ./models

# 4. Lancement avec optimisations max
./build/bin/llama-server \
  -m ./models/DeepSeek-V4-Flash-Q4_K_M-00001-of-00004.gguf \
  -ngl 99 -fa \
  -ctk q8_0 -ctv q8_0 \
  -c 65536 \
  --host 0.0.0.0 --port 8080

#5. Setup multi-GPU NVIDIA

#Opzione A — vLLM 4× RTX A6000 (48 GB × 4 = 192 GB)

pip install vllm>=0.7

vllm serve deepseek-ai/DeepSeek-V4-Flash \
  --tensor-parallel-size 4 \
  --quantization fp8 \
  --max-model-len 1000000 \
  --enable-prefix-caching \
  --port 8000

#Opzione B — llama.cpp con offload parziale

./build/bin/llama-server \
  -m ./models/DeepSeek-V4-Flash-Q4_K_M-00001-of-00004.gguf \
  -ngl 50 \
  --tensor-split 0.5,0.5 \
  -ctk q8_0 -ctv q8_0 \
  -c 32768

#6. Benchmark e token/sec misurati

#7. Modalità thinking e contesto lungo

V4 Flash eredita i tre modi di ragionamento di V4 Pro con qualità leggermente inferiore, ma con un costo di inferenza molto più basso. È la scelta giusta per agenti che devono ragionare senza monopolizzare un'infrastruttura.

Modalità Non

Risposta diretta. Latenza molto bassa (~1s per avviare lo streaming). Per chat conversazionale, traduzione.

Modalità High

200-2000 token di chain-of-thought prima della risposta. +25% di qualità in matematica e programmazione. Latenza di 5-15 secondi prima del primo token della risposta finale.

Modalità Max

Fino a 16k token di riflessione. Latenza di 1–5 minuti in locale. Da riservare ai problemi difficili (dimostrazioni matematiche, debug complesso).

Contesto lungo 1M

Stesse capacità di V4 Pro grazie all'HCA — Needle-in-Haystack 1M ~95 % (contro il 98 % di Pro). Eccellente per il RAG su grandi raccolte di dati.

#V4 Flash vs V4 Pro: scegliere

#Reso ufficiale il 31 luglio 2026 (build 0731)

DeepSeek ha fatto uscire V4-Flash dalla fase di preview a fine luglio 2026 con la build «0731»: API in beta pubblica e, nello stesso tempo, il prezzo dei token di output di V4-Pro scende del 75% (0,87 $ per milione di token di output). Artificial Analysis colloca nuovamente la famiglia V4 «tra i leader open weights». Quanto ai pesi, nulla cambia: 284B in totale e 13B attivi — ancora l'unica variante V4 parzialmente utilizzabile in locale su hardware di fascia alta (Mac 256 GB, Strix Halo, multi-GPU) con una quantizzazione aggressiva.

Dal 2 agosto, anche LM Studio lo propone: in locale se la tua macchina ha risorse sufficienti, oppure tramite l'app Bionic su server statunitensi con «Zero Data Retention» per impostazione predefinita — un compromesso da conoscere, anche se la filosofia di questo sito rimane quella del 100% locale.

#FAQ

I prezzi cambiano rapidamente: il nostro monitoraggio rileva ogni lunedì e ogni giovedì il prezzo più basso delle schede grafiche per l'IA locale, con il prezzo per GB di VRAM.

• Prezzi delle schede grafiche per l'IA locale (aggiornati due volte a settimana)