DeepSeek & Peking University buka sumber DSpark pada 27 Juni 2026, sebuah framework speculative decoding yang mempercepat inferensi LLM. DSpark menggunakan model draf semi autoregressive ringan untuk menghasilkan token kandidat, lalu diverifikasi secara batch oleh model utama, menggantikan skema MTP 1 sebelumnya.
Jawaban penelitian

Create a landscape editorial hero image for this Studio Global article: Search & fact-check with cited sources for What are the key details of DeepSeek's open-source DSpark speculative decoding framework released. Article summary: Here are the key details, fully sourced:. Topic tags: general, academic, general web, user generated. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, charts with fake numbers, clickbait thumbnails, icons, and tiny thumbnail layouts. Make it useful as an illustrative visual, not as factual evidence.
Pada 27 Juni 2026, DeepSeek — bekerja sama dengan Peking University — merilis DSpark secara open source, sebuah framework speculative decoding yang dirancang untuk mempercepat inferensi LLM. Bersamaan dengan itu, DeepSeek juga merilis kode sumber pelatihan dan evaluasi bernama DeepSpec, serta model checkpoint untuk DeepSeek-V4-Flash dan V4-Pro yang sudah terintegrasi dengan DSpark . Makalah berjudul "DSpark: Confidence-Scheduled Speculative Decoding with Semi-Autoregressive Generation" ditandatangani oleh CEO Liang Wenfeng .
Penting untuk dicatat: DSpark bukanlah model dasar baru. Ini adalah modul tambahan yang dipasang pada checkpoint model yang sudah ada dengan pipeline speculative decoding . Mekanisme intinya: model draf semi-autoregressive yang ringan dengan cepat menghasilkan token kandidat, lalu model utama memverifikasinya secara batch — bukan menghasilkan satu token dalam satu waktu. Pendekatan ini dikenal sebagai speculative decoding, sebuah teknik yang diperkenalkan oleh Google Research pada tahun 2023 dan disempurnakan oleh framework seperti SpecInfer, Medusa, dan EAGLE .
DSpark memperkenalkan elemen baru bernama confidence-scheduled speculative decoding. Sistem secara dinamis memutuskan berapa banyak token yang akan dispekulasikan berdasarkan tingkat kepercayaan, sehingga mengurangi komputasi verifikasi yang sia-sia . Ini menggantikan skema MTP-1 (Multi-Token Prediction) sebelumnya yang digunakan DeepSeek-V4 di produksi .
DSpark sudah diterapkan di sistem produksi DeepSeek-V4 yang menangani lalu lintas pengguna nyata pada layanan pratinjau DeepSeek-V4-Flash dan DeepSeek-V4-Pro . Pada throughput sistem total yang sama, DSpark memberikan peningkatan kecepatan generasi per pengguna berikut dibandingkan baseline MTP-1 sebelumnya:
| Model | Peningkatan kecepatan generasi per pengguna |
|---|---|
| DeepSeek-V4-Flash | 60% hingga 85% lebih cepat |
| DeepSeek-V4-Pro | 57% hingga 78% lebih cepat |
Hasil ini berasal dari lalu lintas pengguna nyata, bukan tolok ukur sintetis . Di bawah batasan latensi yang ketat, DSpark menghindari penurunan throughput drastis yang dialami skema sebelumnya, mendorong batas Pareto sistem . Dalam satu pengujian yang menargetkan 120 token/detik/pengguna untuk V4-Flash, MTP-1 hampir mencapai batas kapasitasnya sementara DSpark memberikan keunggulan throughput nominal sebesar 661% .
DSpark dirancang agar agnostik terhadap model. Makalah ini mendemonstrasikan efektivitasnya di berbagai arsitektur non-DeepSeek: pada Qwen3-4B, Qwen3-8B, dan Qwen3-14B, DSpark meningkatkan macro-average accepted length (panjang token yang diterima secara rata-rata) sebesar 30,9%, 26,7%, dan 30,0% masing-masing dibandingkan baseline Eagle3 . Dibandingkan dengan model draf paralel DFlash, peningkatannya adalah 16,3%, 18,4%, dan 18,3% pada ukuran Qwen3 yang sama . DSpark juga mempertahankan keunggulannya pada Gemma4-12B . Menariknya, konfigurasi DSpark 2 lapis mengungguli konfigurasi DFlash 5 lapis .
Memperpanjang draf dari 4 menjadi 16 token hanya menambah latensi 0,2–1,3% per putaran, sementara panjang token yang diterima meningkat hingga 30% .
Bersamaan dengan DSpark, DeepSeek merilis DeepSpec secara open source, sebuah framework pelatihan dan evaluasi speculative decoding yang lengkap. Ini mencakup implementasi Eagle3, DFlash, dan DSpark, serta memungkinkan pengembang dan peneliti untuk:
Makalah, kode, dan bobot model di-hosting di repositori deepseek-ai/DeepSpec di GitHub dan Hugging Face .
Pada 29 Juni 2026, DeepSeek mengumumkan bahwa rilis resmi DeepSeek V4 dijadwalkan pada pertengahan Juli 2026 . Bersamaan dengan itu, DeepSeek akan memperkenalkan struktur harga API berbasis waktu (puncak dan off-peak) :
Untuk V4-Flash, harga puncak yang sesuai berlipat ganda dari 0,02 RMB menjadi 0,04 RMB (cache hit), 1 RMB menjadi 2 RMB (cache miss), dan 2 RMB menjadi 4 RMB (output) per juta token . DeepSeek menyatakan perubahan ini dimaksudkan untuk "mengalokasikan sumber daya secara lebih rasional dan meningkatkan stabilitas layanan" . Pengguna akan menerima pemberitahuan email 24 jam sebelum perubahan penagihan berlaku . Pergeseran harga ini, dikombinasikan dengan akselerasi DSpark, menandakan dorongan DeepSeek untuk menyeimbangkan monetisasi komersial (setelah putaran pendanaan sekitar 50 miliar RMB) dengan rilis open source yang agresif .
Studio Global AI
Halaman ini berisi jawaban yang didukung sumber yang dapat Anda lanjutkan di dalam Studio Global.
DeepSeek & Peking University buka sumber DSpark pada 27 Juni 2026, sebuah framework speculative decoding yang mempercepat inferensi LLM.
DeepSeek & Peking University buka sumber DSpark pada 27 Juni 2026, sebuah framework speculative decoding yang mempercepat inferensi LLM. DSpark menggunakan model draf semi autoregressive ringan untuk menghasilkan token kandidat, lalu diverifikasi secara batch oleh model utama, menggantikan skema MTP 1 sebelumnya.
Di lalu lintas nyata, kecepatan per pengguna naik 60 85% (V4 Flash) dan 57 78% (V4 Pro) pada throughput sistem yang sama.