DeepSeek DSpark: Open-source framework gør AI-svar op til 85 % hurtigere – sådan virker det

Sådan fungerer DSpark

DSpark er ikke en ny basismodel. Det er et ekstramodul, der kan tilføjes til eksisterende modelvægte og optimere inferensprocessen . Kerneidéen er spekulativ afkodning: En letvægts semi-autoregressiv model (en såkaldt 'draft model') genererer hurtigt en række mulige næste ord (tokens). Herefter verificerer hovedmodellen disse kandidater i én samlet omgang – i stedet for at skulle generere ét token ad gangen. Denne teknik blev introduceret af Google Research i 2023 og er siden blevet forfinet i frameworks som SpecInfer, Medusa og EAGLE .

DSpark introducerer en ny innovation kaldet confidence-scheduled speculative decoding. Systemet bestemmer dynamisk, hvor mange tokens der skal spekuleres i, baseret på hvor sikker modellen er. Dette reducerer spild af regnekraft på unødvendig verifikation . I produktion har DSpark erstattet DeepSeek-V4's tidligere MTP-1 (Multi-Token Prediction) metode .

Præstationsforbedringer i produktion

DSpark er allerede i brug i DeepSeeks produktionssystemer, der håndterer rigtige brugeres trafik på DeepSeek-V4-Flash preview og DeepSeek-V4-Pro preview . Ved samme samlede systemgennemstrømning giver DSpark følgende forbedringer i den hastighed, den enkelte bruger oplever, sammenlignet med den tidligere MTP-1-metode:

Resultaterne stammer fra levende brugertrafik, ikke syntetiske benchmarks . Under stramme krav til latenstid undgår DSpark det såkaldte 'throughput cliff', som tidligere metoder led under, og skubber systemets Pareto-front frem . I en test med målet om 120 tokens/sekund/bruger for V4-Flash var MTP-1 tæt på sin kapacitetsgrænse, mens DSpark havde en nominel gennemstrømningsfordel på 661 % .

Model-uafhængig kompatibilitet

DSpark er designet til at være model-uafhængig. Artiklen viser effektiviteten på ikke-DeepSeek arkitekturer: På Qwen3-4B, Qwen3-8B og Qwen3-14B forbedrede DSpark den gennemsnitligt accepterede længde (macro-average accepted length) med 30,9 %, 26,7 % og 30,0 % i forhold til Eagle3-baseline . Sammenlignet med den parallelle draft model DFlash var forbedringerne 16,3 %, 18,4 % og 18,3 % på de samme Qwen3-størrelser . DSpark fastholdt også føringen på Gemma4-12B . Bemærkelsesværdigt nok overgik en DSpark-konfiguration med 2 lag en DFlash-konfiguration med 5 lag .

At skalere draft-længden fra 4 til 16 tokens tilføjede kun 0,2–1,3 % latenstid pr. runde, mens den accepterede længde forbedredes med op til 30 % .

DeepSpec-kodebasen

Sammen med DSpark open-sourcede DeepSeek DeepSpec, en fuld-stak framework til træning og evaluering af spekulativ afkodning. Den indeholder implementeringer af Eagle3, DFlash og DSpark og giver udviklere og forskere mulighed for at:

• Genskabe resultaterne fra DSpark-artiklen
• Træne tilpassede draft-modeller
• Evaluere spekulative afkodningspipeliner
• Udvide metoden til deres egne modeller

Artiklen, koden og modelvægtene er hostet under deepseek-ai/DeepSpec-repositoryet på GitHub og på Hugging Face .

Bredere kontekst: V4 officiel lancering og spids-/lavtidspriser

Den 29. juni 2026 annoncerede DeepSeek, at den officielle DeepSeek V4-udgivelse er planlagt til midten af juli 2026 . Samtidig indfører DeepSeek en tidsdifferentieret API-prisstruktur (peak-and-off-peak) :

• Spidsbelastningstider: 9:00–12:00 og 14:00–18:00 Beijing-tid dagligt .
• Priser: API-omkostningerne fordobles i spidsbelastningsperioderne i forhold til normalpriserne .
• Eksempel (V4-Pro, pr. million tokens):
  • Input (cache hit): 0,025 RMB normal → 0,05 RMB spids
  • Input (cache miss): 3,00 RMB normal → 6,00 RMB spids
  • Output: 6,00 RMB normal → 12,00 RMB spids

For V4-Flash fordobles de tilsvarende priser fra 0,02 RMB til 0,04 RMB (cache hit), 1 RMB til 2 RMB (cache miss) og 2 RMB til 4 RMB (output) pr. million tokens . DeepSeek oplyser, at ændringen skal "allokere ressourcer mere rationelt og forbedre service-stabiliteten" . Brugere vil modtage en e-mail-notifikation 24 timer før prisændringerne træder i kraft . Denne prisjustering, kombineret med hastighedsforbedringerne fra DSpark, signalerer DeepSeeks strategi om at balancere kommerciel indtjening (efter en finansieringsrunde på cirka 50 milliarder RMB) med fortsatte, ambitiøse open-source udgivelser .