DeepSeek DSpark: il framework di decodifica speculativa che rende i modelli AI più veloci fino all'85%

Come funziona DSpark

DSpark non è un nuovo modello base. È un modulo aggiuntivo che si applica a checkpoint di modelli esistenti, creando una pipeline di decodifica speculativa . Il meccanismo chiave: un modello di bozza semi-autoregressivo leggero genera rapidamente token candidati, e poi il modello principale li verifica in lotti — invece di generare un token alla volta. Questa tecnica è nota come decodifica speculativa, introdotta da Google Research nel 2023 e perfezionata da framework come SpecInfer, Medusa ed EAGLE .

DSpark introduce un elemento innovativo chiamato decodifica speculativa a pianificazione della confidenza. Il sistema decide dinamicamente quanti token speculare in base ai livelli di confidenza, riducendo così i calcoli di verifica sprecati . Ha sostituito il precedente schema MTP-1 (Multi-Token Prediction) di DeepSeek-V4 in produzione .

Vantaggi prestazionali in produzione

DSpark è già implementato nei sistemi di produzione di DeepSeek-V4 che gestiscono traffico utente reale sui servizi DeepSeek-V4-Flash preview e DeepSeek-V4-Pro preview . A parità di throughput totale del sistema, DSpark offre i seguenti miglioramenti della velocità di generazione per singolo utente rispetto al precedente benchmark MTP-1:

Questi risultati provengono da traffico utente reale, non da benchmark sintetici . Sotto rigidi vincoli di latenza, DSpark evita il "crollo di throughput" che affliggeva gli approcci precedenti, spingendo oltre la frontiera di Pareto del sistema . In un test mirato a 120 token/secondo/utente per V4-Flash, MTP-1 era vicino al suo limite di capacità, mentre DSpark ha mostrato un vantaggio di throughput nominale del 661% .

Compatibilità universale

DSpark è progettato per essere agnostico rispetto al modello. L'articolo ne dimostra l'efficacia su architetture non DeepSeek: su Qwen3-4B, Qwen3-8B e Qwen3-14B, DSpark ha migliorato la lunghezza media accettata (macro-averaged accepted length) rispettivamente del 30,9%, 26,7% e 30,0% rispetto al benchmark Eagle3 . Rispetto al modello di bozza parallelo DFlash, i guadagni sono stati del 16,3%, 18,4% e 18,3% sulle stesse dimensioni Qwen3 . DSpark ha mantenuto il suo vantaggio anche su Gemma4-12B . Degno di nota: una configurazione DSpark a 2 layer ha superato una configurazione DFlash a 5 layer .

Aumentare la lunghezza della bozza da 4 a 16 token ha aggiunto solo lo 0,2–1,3% di latenza per round, mentre la lunghezza accettata è migliorata fino al 30% .

Il codice DeepSpec

Insieme a DSpark, DeepSeek ha rilasciato come open-source DeepSpec, un framework completo per l'addestramento e la valutazione della decodifica speculativa. Include implementazioni di Eagle3, DFlash e DSpark, e consente a sviluppatori e ricercatori di:

• Riprodurre i risultati riportati nell'articolo su DSpark
• Addestrare modelli di bozza personalizzati
• Valutare pipeline di decodifica speculativa
• Estendere l'approccio ai propri modelli

L'articolo, il codice e i pesi dei modelli sono ospitati nel repository deepseek-ai/DeepSpec su GitHub e su Hugging Face .

Contesto generale: lancio ufficiale del V4 e prezzi 'peak/off-peak'

Il 29 giugno 2026, DeepSeek ha annunciato che la versione ufficiale di DeepSeek V4 è prevista per metà luglio 2026 . Contemporaneamente, DeepSeek introdurrà una struttura di prezzi API basata su fasce orarie (peak e off-peak) :

• Orari di punta: 9:00–12:00 e 14:00–18:00 ora di Pechino, tutti i giorni .
• Prezzi: I costi API raddoppiano durante le ore di punta rispetto alle tariffe normali .
• Esempio (V4-Pro, per milione di token):
  • Input (cache hit): 0,025 RMB normale → 0,05 RMB in punta
  • Input (cache miss): 3,00 RMB normale → 6,00 RMB in punta
  • Output: 6,00 RMB normale → 12,00 RMB in punta

Per V4-Flash, i prezzi in punta raddoppiano analogamente: da 0,02 RMB a 0,04 RMB (cache hit), da 1 RMB a 2 RMB (cache miss) e da 2 RMB a 4 RMB (output) per milione di token . DeepSeek ha dichiarato che il cambiamento mira a "allocare le risorse in modo più razionale e migliorare la stabilità del servizio" . Gli utenti riceveranno notifiche via email 24 ore prima che le modifiche alla fatturazione abbiano effetto . Questa variazione dei prezzi, combinata con gli aumenti di velocità di DSpark, segnala la spinta di DeepSeek a bilanciare la monetizzazione commerciale (dopo il suo round di finanziamento di circa 50 miliardi di RMB) con il continuo rilascio aggressivo di codice open-source .