DeepSeek DSpark: Wie das Open-Source-Framework die Textgenerierung von KI-Modellen drastisch beschleunigt

Wie DSpark funktioniert

DSpark ist kein neues Basismodell. Es ist ein nachrüstbares Modul, das in bestehende Modell-Checkpoints integriert wird und eine spekulative Decoding-Pipeline bereitstellt . Der Kernmechanismus: Ein leichtes, semi-autoregressives Draft-Modell („Entwurfsmodell") generiert schnell Kandidaten-Token, die dann vom Hauptmodell in Batches verifiziert werden – anstatt dass jedes Token einzeln generiert wird. Dieses Verfahren wird als spekulatives Decoding bezeichnet, eine Technik, die 2023 von Google Research eingeführt und durch Frameworks wie SpecInfer, Medusa und EAGLE verfeinert wurde .

DSpark führt ein neues Element namens Confidence-Scheduled Speculative Decoding ein. Das System entscheidet dynamisch, wie viele Token basierend auf Konfidenzniveaus spekuliert werden sollen, was die Rechenleistung für unnötige Verifikationen reduziert . Es ersetzt das bisherige MTP-1-Verfahren (Multi-Token Prediction) in der Produktion .

Produktionsrelevante Leistungssteigerungen

DSpark ist bereits in den Produktionssystemen von DeepSeek-V4 im Einsatz und verarbeitet echten Benutzerverkehr der DeepSeek-V4-Flash-Preview- und DeepSeek-V4-Pro-Preview-Dienste . Bei gleichem Gesamtsystemdurchsatz erzielt DSpark im Vergleich zur vorherigen MTP-1-Baseline die folgenden Verbesserungen der Generierungsgeschwindigkeit pro Benutzer:

Diese Ergebnisse stammen aus echtem Benutzerverkehr, nicht aus synthetischen Benchmarks . Unter strengen Latenzanforderungen vermeidet DSpark den Durchsatzabfall, unter dem frühere Verfahren litten, und verschiebt die Pareto-Grenze des Systems nach außen . In einem Test, der 120 Token/Sekunde/Benutzer für V4-Flash anstrebte, war MTP-1 nahe seiner Kapazitätsgrenze, während DSpark einen nominellen Durchsatzvorteil von 661 % bot .

Modellagnostische Kompatibilität

DSpark ist so konzipiert, dass es modellagnostisch ist. Die Arbeit zeigt seine Wirksamkeit auch bei Nicht-DeepSeek-Architekturen: Bei Qwen3-4B, Qwen3-8B und Qwen3-14B verbesserte DSpark die makro-durchschnittliche akzeptierte Länge um 30,9 %, 26,7 % bzw. 30,0 % im Vergleich zur Eagle3-Baseline . Gegenüber dem parallelen Draft-Modell DFlash betrugen die Zugewinne bei denselben Qwen3-Größen 16,3 %, 18,4 % und 18,3 % . DSpark behielt seine Führung auch bei Gemma4-12B . Bemerkenswert ist, dass eine 2-Layer-DSpark-Konfiguration eine 5-Layer-DFlash-Konfiguration übertraf .

Die Skalierung der Entwurfslänge von 4 auf 16 Token erhöhte die Latenz pro Runde nur um 0,2–1,3 %, während die akzeptierte Länge um bis zu 30 % verbessert wurde .

Der DeepSpec-Code

Zusammen mit DSpark hat DeepSeek DeepSpec als Open-Source-Framework für das Training und die Evaluierung von spekulativem Decoding veröffentlicht. Es enthält Implementierungen von Eagle3, DFlash und DSpark und ermöglicht Entwicklern und Forschern, die in der DSpark-Arbeit berichteten Ergebnisse zu reproduzieren, benutzerdefinierte Draft-Modelle zu trainieren, spekulative Decoding-Pipelines zu evaluieren und den Ansatz auf ihre eigenen Modelle zu erweitern. Die Arbeit, der Code und die Modellgewichte werden im Repository deepseek-ai/DeepSpec auf GitHub und auf Hugging Face gehostet .

Breiterer Kontext: Offizieller V4-Start & Peak/Off-Peak-Preise

Am 29. Juni 2026 gab DeepSeek bekannt, dass der offizielle Start von DeepSeek V4 für Mitte Juli 2026 geplant ist . Gleichzeitig wird DeepSeek ein Peak- und Off-Peak (tageszeitabhängiges) API-Preismodell einführen :

• Spitzenzeiten: Täglich von 9:00–12:00 und 14:00–18:00 Uhr (Peking-Zeit) .
• Preise: Die API-Kosten verdoppeln sich während der Spitzenzeiten im Vergleich zu den Nebenzeiten (Standardtarifen) .
• Beispiel (V4-Pro, pro Million Token):
  • Eingabe (Cache-Treffer): 0,025 RMB Nebenzeiten → 0,05 RMB Spitzenzeiten
  • Eingabe (Cache-Fehltreffer): 3,00 RMB Nebenzeiten → 6,00 RMB Spitzenzeiten
  • Ausgabe: 6,00 RMB Nebenzeiten → 12,00 RMB Spitzenzeiten

Für V4-Flash verdoppeln sich die entsprechenden Spitzenpreise von 0,02 RMB auf 0,04 RMB (Cache-Treffer), von 1 RMB auf 2 RMB (Cache-Fehltreffer) und von 2 RMB auf 4 RMB (Ausgabe) pro Million Token . DeepSeek erklärte, die Änderung diene dazu, Ressourcen „rationaler zuzuteilen und die Servicestabilität zu verbessern" . Die Nutzer erhalten 24 Stunden vor Inkrafttreten der Preisänderungen eine E-Mail-Benachrichtigung . Diese Preisverschiebung, kombiniert mit den DSpark-Beschleunigungen, signalisiert DeepSeeks Bestreben, die kommerzielle Monetarisierung (nach der etwa 50 Milliarden RMB schweren Finanzierungsrunde) mit fortgesetzten aggressiven Open-Source-Veröffentlichungen in Einklang zu bringen .