AnswersPublished22 sources
DeepSeek buka enjin inferens DeepInfer — tetapi bukan sistem AI lengkap untuk terus digunakan
Pada 20 Oktober 2026, DeepSeek mengeluarkan DeepInfer untuk inferens luar talian bagi DeepSeek V4.1 Flash, bersama deepseek recipe untuk memproses permintaan dan token. Senarai perkakasan awal menyatakan GPU NVIDIA SM100 dan NPU Huawei Ascend 950; sokongan untuk model pemecut lain tidak boleh dianggap tersedia.
Diterbitkan olehDisunting dengan GPT-6 LunaImej dijana dengan GPT Image 2
Research answer
Key takeaways
- Pada 20 Oktober 2026, DeepSeek mengeluarkan DeepInfer untuk inferens luar talian bagi DeepSeek V4.1 Flash, bersama deepseek recipe untuk memproses permintaan dan token.
- Senarai perkakasan awal menyatakan GPU NVIDIA SM100 dan NPU Huawei Ascend 950; sokongan untuk model pemecut lain tidak boleh dianggap tersedia.
- Angka keluaran yang dilaporkan DeepSeek, iaitu 155 trilion token sehari bagi setiap kluster, belum disahkan secara bebas dalam laporan yang tersedia.
AI Prompt
openai.comCreate a landscape editorial hero image for this Studio Global article: What did Chinese AI developer DeepSeek open-source on October 20, 2026, with its DeepInfer inference framework and companion deepseek-recipe. Article summary: On October 20, 2026, DeepSeek released DeepInfer, the inference software it says powers its production services, alongside deepseek-recipe, a companion component for converting API requests into model tokens and back int. Topic tags: general, general web, user generated, news. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, charts w
DeepSeek mengumumkan pada 20 Oktober 2026 bahawa lebih banyak perisian inferensnya kini tersedia kepada pihak luar. DeepInfer ialah enjin yang menurut syarikat itu digunakan untuk menjalankan perkhidmatan produksinya, manakala komponen pendamping deepseek-recipe mengendalikan pemprosesan permintaan dan token. Namun, ada batas penting: keluaran awam ini menyediakan inferens luar talian, bukannya pengganti API hos DeepSeek yang lengkap dan sedia dilancarkan.3
4
33
Apa fungsi DeepInfer dan deepseek-recipe?
DeepInfer ialah rangka kerja inferens—perisian yang menjalankan model terlatih untuk menghasilkan jawapan. Pada peringkat awal, ia menyokong DeepSeek-V4.1-Flash dan dikeluarkan di bawah lesen Apache 2.0, menurut laporan mengenai pelancaran itu.4
5
Antara ciri yang disenaraikan ialah inferens teragih, kernel dioptimumkan, speculative decoding, penjadualan tak segerak, inferens yang tidak berubah mengikut kelompok dan output berstruktur.33
34 Output berstruktur membolehkan format jawapan model dihadkan, contohnya supaya mematuhi skema JSON, ungkapan nalar atau tatabahasa EBNF.
29
30
deepseek-recipe pula ialah komponen pendamping yang menukar permintaan kepada input model dan memproses output menjadi respons. Laporan menyebut sokongan untuk format permintaan API yang biasa digunakan. Namun, hal itu sahaja tidak membuktikan keserasian penuh dengan setiap ciri atau tingkah laku API hos DeepSeek.3
9
Model dan perkakasan yang disokong
Ketika dilancarkan, DeepInfer menyenaraikan DeepSeek-V4.1-Flash sebagai model yang disokong, serta dua keluarga pemecut: GPU NVIDIA SM100 dan NPU Huawei Ascend 950.3
5 Senarai ini tidak bermakna semua GPU NVIDIA atau pemecut Huawei serasi; sumber yang tersedia juga tidak mengesahkan sokongan bagi setiap varian papan tertentu.
Bagaimana pula dengan dakwaan prestasi?
DeepSeek memperkenalkan DeepInfer sebagai rangka kerja berprestasi tinggi. Bloomberg pula melaporkan bahawa perisian ini berpotensi menjadikan modelnya lebih murah dan mudah dijalankan oleh perniagaan, dengan membantu penggunaan sumber pengkomputeran yang lebih cekap.33
45 Itu ialah manfaat yang diharapkan, bukannya jaminan kos operasi, penggunaan tenaga atau kependaman akan berkurang—atau kadar pemprosesan tertentu akan dicapai dalam setiap penggunaan.
Angka yang dilaporkan DeepSeek, iaitu 155 trilion token sehari bagi setiap kluster, turut disebut dalam liputan media. Namun, laporan yang tersedia tidak mengesahkannya secara bebas dan tidak memberikan maklumat mencukupi untuk membandingkannya secara langsung dengan sistem lain.1
5 The Next Web juga melaporkan bahawa angka kelajuan DeepSeek belum diuji secara bebas.
49
Mengapa ia belum menjadi khidmat dalam talian siap guna?
Keluaran awam ini menyediakan inferens luar talian. Liputan dokumentasi penggunaan turut menyatakan beberapa komponen peringkat perkhidmatan tidak disertakan: pengurusan cache KV, pemisahan proses prapengisian (prefill) daripada penjanaan token (decode), serta pengimbangan beban antara replika.4
7
Jadi, pasukan yang mahu menyediakan perkhidmatan langsung untuk ramai pengguna perlu mengurus sendiri infrastruktur tambahan itu. DeepInfer lebih sesuai sebagai bahan binaan untuk organisasi yang mempunyai kepakaran dalam kejuruteraan inferens, bukannya pasukan yang mencari khidmat pengehosan siap guna. Sama ada pengehosan sendiri menjimatkan wang bergantung pada perkakasan dan kerja operasi yang diperlukan; keluaran ini sahaja tidak menetapkan kos tersebut.
Kesimpulannya
DeepInfer membuka enjin inferens berorientasikan produksi untuk DeepSeek-V4.1-Flash, sementara deepseek-recipe menyediakan lapisan tambahan untuk memproses permintaan dan respons. Gabungan ini memberi pasukan infrastruktur lebih banyak pilihan untuk mengehos model sendiri. Namun, ciri pengoptimuman yang diumumkan perlu dibezakan daripada keputusan ujian bebas, dan kerja tambahan untuk mengubah inferens luar talian menjadi perkhidmatan dalam talian yang boleh diharap tetap perlu diambil kira.3
4
33
49
Studio Global AI
Continue your research
This page includes a source-backed answer you can continue inside Studio Global.
People also ask
What is the short answer to "DeepSeek buka enjin inferens DeepInfer — tetapi bukan sistem AI lengkap untuk terus digunakan"?
Pada 20 Oktober 2026, DeepSeek mengeluarkan DeepInfer untuk inferens luar talian bagi DeepSeek V4.1 Flash, bersama deepseek recipe untuk memproses permintaan dan token.
What are the key points to validate first?
Pada 20 Oktober 2026, DeepSeek mengeluarkan DeepInfer untuk inferens luar talian bagi DeepSeek V4.1 Flash, bersama deepseek recipe untuk memproses permintaan dan token. Senarai perkakasan awal menyatakan GPU NVIDIA SM100 dan NPU Huawei Ascend 950; sokongan untuk model pemecut lain tidak boleh dianggap tersedia.
What should I do next in practice?
Angka keluaran yang dilaporkan DeepSeek, iaitu 155 trilion token sehari bagi setiap kluster, belum disahkan secara bebas dalam laporan yang tersedia.
Sources
deepseekv4pro.comDeepSeek open-sources DeepInfer inference framework and ...
letsdatascience.comDeepSeek Open-Sources DeepInfer, Its Production Inference Engine for V4.1-Flash
github.comGitHub - deepseek-ai/DeepInfer: DeepInfer: High-performance, large-scale inference framework for DeepSeek models
siliconangle.comDeepSeek open-sources DeepInfer, the inference framework behind its production services - SiliconANGLE