DeepSeek DSpark: Wie das Open-Source-Framework die Textgenerierung von KI-Modellen drastisch beschleunigt

DSpark führt ein neues Element namens Confidence-Scheduled Speculative Decoding ein. Das System entscheidet dynamisch, wie viele Token basierend auf Konfidenzniveaus spekuliert werden sollen, was die Rechenleistung für unnötige Verifikationen reduziert . Es ersetzt das bisherige MTP-1-Verfahren (Multi-Token Prediction) in der Produktion .

Produktionsrelevante Leistungssteigerungen

DSpark ist bereits in den Produktionssystemen von DeepSeek-V4 im Einsatz und verarbeitet echten Benutzerverkehr der DeepSeek-V4-Flash-Preview- und DeepSeek-V4-Pro-Preview-Dienste . Bei gleichem Gesamtsystemdurchsatz erzielt DSpark im Vergleich zur vorherigen MTP-1-Baseline die folgenden Verbesserungen der Generierungsgeschwindigkeit pro Benutzer:

Diese Ergebnisse stammen aus echtem Benutzerverkehr, nicht aus synthetischen Benchmarks . Unter strengen Latenzanforderungen vermeidet DSpark den Durchsatzabfall, unter dem frühere Verfahren litten, und verschiebt die Pareto-Grenze des Systems nach außen . In einem Test, der 120 Token/Sekunde/Benutzer für V4-Flash anstrebte, war MTP-1 nahe seiner Kapazitätsgrenze, während DSpark einen nominellen Durchsatzvorteil von 661 % bot .

Modellagnostische Kompatibilität

DSpark ist so konzipiert, dass es modellagnostisch ist. Die Arbeit zeigt seine Wirksamkeit auch bei Nicht-DeepSeek-Architekturen: Bei Qwen3-4B, Qwen3-8B und Qwen3-14B verbesserte DSpark die makro-durchschnittliche akzeptierte Länge um 30,9 %, 26,7 % bzw. 30,0 % im Vergleich zur Eagle3-Baseline . Gegenüber dem parallelen Draft-Modell DFlash betrugen die Zugewinne bei denselben Qwen3-Größen 16,3 %, 18,4 % und 18,3 % . DSpark behielt seine Führung auch bei Gemma4-12B . Bemerkenswert ist, dass eine 2-Layer-DSpark-Konfiguration eine 5-Layer-DFlash-Konfiguration übertraf .

Die Skalierung der Entwurfslänge von 4 auf 16 Token erhöhte die Latenz pro Runde nur um 0,2–1,3 %, während die akzeptierte Länge um bis zu 30 % verbessert wurde .

Der DeepSpec-Code

Zusammen mit DSpark hat DeepSeek DeepSpec als Open-Source-Framework für das Training und die Evaluierung von spekulativem Decoding veröffentlicht. Es enthält Implementierungen von Eagle3, DFlash und DSpark und ermöglicht Entwicklern und Forschern, die in der DSpark-Arbeit berichteten Ergebnisse zu reproduzieren, benutzerdefinierte Draft-Modelle zu trainieren, spekulative Decoding-Pipelines zu evaluieren und den Ansatz auf ihre eigenen Modelle zu erweitern. Die Arbeit, der Code und die Modellgewichte werden im Repository deepseek-ai/DeepSpec auf GitHub und auf Hugging Face gehostet .

Breiterer Kontext: Offizieller V4-Start & Peak/Off-Peak-Preise

Am 29. Juni 2026 gab DeepSeek bekannt, dass der offizielle Start von DeepSeek V4 für Mitte Juli 2026 geplant ist . Gleichzeitig wird DeepSeek ein Peak- und Off-Peak (tageszeitabhängiges) API-Preismodell einführen :

• Spitzenzeiten: Täglich von 9:00–12:00 und 14:00–18:00 Uhr (Peking-Zeit) .
• Preise: Die API-Kosten verdoppeln sich während der Spitzenzeiten im Vergleich zu den Nebenzeiten (Standardtarifen) .
• Beispiel (V4-Pro, pro Million Token):
  • Eingabe (Cache-Treffer): 0,025 RMB Nebenzeiten → 0,05 RMB Spitzenzeiten
  • Eingabe (Cache-Fehltreffer): 3,00 RMB Nebenzeiten → 6,00 RMB Spitzenzeiten
  • Ausgabe: 6,00 RMB Nebenzeiten → 12,00 RMB Spitzenzeiten

Für V4-Flash verdoppeln sich die entsprechenden Spitzenpreise von 0,02 RMB auf 0,04 RMB (Cache-Treffer), von 1 RMB auf 2 RMB (Cache-Fehltreffer) und von 2 RMB auf 4 RMB (Ausgabe) pro Million Token . DeepSeek erklärte, die Änderung diene dazu, Ressourcen „rationaler zuzuteilen und die Servicestabilität zu verbessern" . Die Nutzer erhalten 24 Stunden vor Inkrafttreten der Preisänderungen eine E-Mail-Benachrichtigung . Diese Preisverschiebung, kombiniert mit den DSpark-Beschleunigungen, signalisiert DeepSeeks Bestreben, die kommerzielle Monetarisierung (nach der etwa 50 Milliarden RMB schweren Finanzierungsrunde) mit fortgesetzten aggressiven Open-Source-Veröffentlichungen in Einklang zu bringen .