DSpark 嘅創新之處係加入咗 置信度調度推測解碼(confidence-scheduled speculative decoding):系統會根據置信度動態決定要推測幾多個 token,減少無謂嘅驗證運算 。佢已經取代咗 DeepSeek-V4 之前用嘅 MTP-1(Multi-Token Prediction)方案
。
DSpark 已經部署喺 DeepSeek-V4-Flash preview 同 V4-Pro preview 嘅生產系統,處理緊真實用戶嘅流量 。喺相同總系統吞吐量下,相比舊有嘅 MTP-1 基線,DSpark 嘅單用戶生成速度提升如下:
呢啲數字係嚟自 真實用戶流量,唔係實驗室 benchmark 。喺嚴格嘅延遲限制下,DSpark 仲可以避免之前方案嘅吞吐量大幅下跌,推高成個系統嘅 Pareto 最優邊界
。喺一個測試中,V4-Flash 要達到 120 tokens/second/user 嘅目標時,MTP-1 已經接近極限,而 DSpark 嘅名義吞吐優勢高達 661%
。
DSpark 係設計成 模型無關 嘅。論文顯示,喺非 DeepSeek 架構上都有效果:
除咗 DSpark,DeepSeek 仲開源咗 DeepSpec,一個完整嘅推測解碼訓練同評估框架。佢包含 Eagle3、DFlash 同 DSpark 嘅實作,開發者同研究人員可以:
至於 V4-Flash,peak 定價都係 double:cache hit 由 0.02 RMB 變 0.04 RMB,cache miss 由 1 RMB 變 2 RMB,輸出由 2 RMB 變 4 RMB 。DeepSeek 話呢個改動係為咗「更合理地配置資源,提升服務穩定性」
。用戶會喺收費變更前 24 小時收到電郵通知
。