उत्तरप्रकाशित22 स्रोत
DeepSeek का DeepInfer: AI इंफरेंस का इंजन खुला, पूरी सेवा नहीं
DeepSeek ने 20 अक्टूबर 2026 को DeepInfer जारी किया। यह DeepSeek V4.1 Flash के लिए ऑफलाइन इंफरेंस देता है; साथ में deepseek recipe अनुरोधों और टोकन की प्रोसेसिंग में मदद करता है। शुरुआती हार्डवेयर सूची में NVIDIA SM100 GPU और Huawei Ascend 950 NPU शामिल हैं। इससे दूसरे एक्सेलरेटर मॉडल की अनुकूलता साबित नहीं होती। एक...
प्रकाशितकर्ताGPT-6 Luna से संपादितGPT Image 2 से चित्र बनाए गए
शोध उत्तर
मुख्य निष्कर्ष
- DeepSeek ने 20 अक्टूबर 2026 को DeepInfer जारी किया। यह DeepSeek V4.1 Flash के लिए ऑफलाइन इंफरेंस देता है; साथ में deepseek recipe अनुरोधों और टोकन की प्रोसेसिंग में मदद करता है।
- शुरुआती हार्डवेयर सूची में NVIDIA SM100 GPU और Huawei Ascend 950 NPU शामिल हैं। इससे दूसरे एक्सेलरेटर मॉडल की अनुकूलता साबित नहीं होती।
- एक क्लस्टर पर रोज़ 155 ट्रिलियन टोकन प्रोसेस करने का आंकड़ा रिपोर्ट हुआ है, लेकिन उपलब्ध कवरेज में इसकी स्वतंत्र पुष्टि नहीं है।
AI संकेत
openai.comCreate a landscape editorial hero image for this Studio Global article: What did Chinese AI developer DeepSeek open-source on October 20, 2026, with its DeepInfer inference framework and companion deepseek-recipe. Article summary: On October 20, 2026, DeepSeek released DeepInfer, the inference software it says powers its production services, alongside deepseek-recipe, a companion component for converting API requests into model tokens and back int. Topic tags: general, general web, user generated, news. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, charts w
DeepSeek ने 20 अक्टूबर 2026 को DeepInfer सार्वजनिक किया—यह वही इंफरेंस सॉफ्टवेयर है जिसे कंपनी अपनी प्रोडक्शन सेवाओं का आधार बताती है। इसके साथ आया deepseek-recipe अनुरोधों और टोकन को प्रोसेस करने वाली सहयोगी परत है। अहम बात यह है कि रिलीज़ में ऑफलाइन इंफरेंस मिलता है, न कि DeepSeek की होस्टेड API का पूरा, तुरंत तैनात किया जा सकने वाला विकल्प।3
4
33
DeepInfer और deepseek-recipe क्या करते हैं?
इंफरेंस वह प्रक्रिया है जिसमें प्रशिक्षित मॉडल इनपुट के आधार पर जवाब बनाता है। DeepInfer इसी काम के लिए बना फ्रेमवर्क है। शुरुआती रिलीज़ में यह DeepSeek-V4.1-Flash को सपोर्ट करता है और Apache 2.0 लाइसेंस के तहत उपलब्ध है।4
5
इसकी बताई गई सुविधाओं में वितरित इंफरेंस, ऑप्टिमाइज़ किए गए कर्नेल, speculative decoding, असिंक्रोनस शेड्यूलिंग, batch-invariant इंफरेंस और structured output शामिल हैं।33
34 Structured output से मॉडल के जवाब को JSON schema, regex या EBNF grammar जैसे तय प्रारूपों में सीमित किया जा सकता है।
29
30
deepseek-recipe अनुरोधों को मॉडल के इनपुट में बदलने और मॉडल के आउटपुट को जवाब के रूप में लौटाने में मदद करता है। उपलब्ध रिपोर्टिंग में परिचित API request formats के लिए समर्थन का ज़िक्र है। लेकिन केवल फ़ॉर्मैट का समर्थन यह साबित नहीं करता कि DeepSeek की होस्टेड API का हर व्यवहार यहां भी वैसा ही मिलेगा।3
9
कौन-सा मॉडल और हार्डवेयर समर्थित है?
रिलीज़ के समय DeepInfer की सूची में एक मॉडल—DeepSeek-V4.1-Flash—और दो एक्सेलरेटर परिवार हैं: NVIDIA SM100 GPU और Huawei Ascend 950 NPU।3
5 इस सूची के आधार पर हर NVIDIA GPU या Huawei एक्सेलरेटर को समर्थित नहीं माना जा सकता; उपलब्ध स्रोत अलग-अलग बोर्ड मॉडल की पुष्टि भी नहीं करते।
प्रदर्शन के दावों को कैसे समझें?
DeepSeek इसे उच्च-प्रदर्शन वाला फ्रेमवर्क बताता है। Bloomberg की रिपोर्ट के मुताबिक, संसाधनों का अधिक कुशल इस्तेमाल कंपनियों के लिए DeepSeek मॉडल चलाना सस्ता और आसान बना सकता है।33
45 यह संभावित फायदा है—हर तरह के इस्तेमाल में कम लागत, कम ऊर्जा खपत, कम latency या किसी तय throughput की गारंटी नहीं।
एक क्लस्टर पर रोज़ 155 ट्रिलियन टोकन प्रोसेस करने का आंकड़ा खबरों में आया है, लेकिन उपलब्ध रिपोर्टिंग इसकी स्वतंत्र पुष्टि नहीं करती। तुलना के लिए क्लस्टर और माप के बारे में पर्याप्त विवरण भी उपलब्ध नहीं हैं।1
5 The Next Web ने भी लिखा है कि DeepSeek के गति-संबंधी आंकड़ों का कंपनी से बाहर स्वतंत्र परीक्षण नहीं हुआ है।
49
यह तैयार ऑनलाइन सेवा क्यों नहीं है?
सार्वजनिक रिलीज़ में ऑफलाइन इंफरेंस है। तैनाती संबंधी दस्तावेज़ों की कवरेज के अनुसार, पूरी ऑनलाइन सेवा के लिए ज़रूरी कुछ हिस्से इसमें शामिल नहीं हैं: KV-cache प्रबंधन, prompt processing (prefill) और token generation (decode) को अलग-अलग चलाने की व्यवस्था, और कई replicas के बीच load balancing।4
7
इसलिए लाइव, कई उपयोगकर्ताओं वाली सेवा बनाने वाली टीमों को अतिरिक्त सर्विंग इन्फ्रास्ट्रक्चर खुद तैयार करना होगा। यह रिलीज़ उन संगठनों के लिए ज़्यादा उपयुक्त दिखती है जिनके पास इंफरेंस इंजीनियरिंग का अनुभव है—उन टीमों के लिए कम, जिन्हें बस तैयार होस्टिंग सेवा चाहिए। अपने सिस्टम पर चलाने से खर्च घटेगा या नहीं, यह हार्डवेयर और संचालन की ज़रूरतों पर निर्भर करेगा; केवल इस रिलीज़ से लागत का हिसाब तय नहीं होता।
कंपनियों के लिए सीधी बात
DeepInfer, DeepSeek-V4.1-Flash के लिए प्रोडक्शन में इस्तेमाल होने वाला इंफरेंस इंजन उपलब्ध कराता है; deepseek-recipe अनुरोध और जवाब संभालने की अतिरिक्त परत देता है। इससे इंफ्रास्ट्रक्चर टीमें अपने सिस्टम पर मॉडल चलाने के लिए और औज़ार पा सकती हैं। लेकिन प्रचारित ऑप्टिमाइज़ेशन सुविधाओं को स्वतंत्र रूप से मापे गए नतीजों से अलग समझना चाहिए—और ऑफलाइन इंफरेंस को भरोसेमंद ऑनलाइन सेवा में बदलने का अतिरिक्त काम भी बजट में रखना चाहिए।3
4
33
49
Studio Global AI
अपना शोध जारी रखें
इस पृष्ठ में एक स्रोत-समर्थित उत्तर शामिल है जिसे आप Studio Global के अंदर जारी रख सकते हैं।
लोग पूछते भी हैं
"DeepSeek का DeepInfer: AI इंफरेंस का इंजन खुला, पूरी सेवा नहीं" का संक्षिप्त उत्तर क्या है?
DeepSeek ने 20 अक्टूबर 2026 को DeepInfer जारी किया। यह DeepSeek V4.1 Flash के लिए ऑफलाइन इंफरेंस देता है; साथ में deepseek recipe अनुरोधों और टोकन की प्रोसेसिंग में मदद करता है।
सबसे पहले सत्यापित करने योग्य मुख्य बिंदु क्या हैं?
DeepSeek ने 20 अक्टूबर 2026 को DeepInfer जारी किया। यह DeepSeek V4.1 Flash के लिए ऑफलाइन इंफरेंस देता है; साथ में deepseek recipe अनुरोधों और टोकन की प्रोसेसिंग में मदद करता है। शुरुआती हार्डवेयर सूची में NVIDIA SM100 GPU और Huawei Ascend 950 NPU शामिल हैं। इससे दूसरे एक्सेलरेटर मॉडल की अनुकूलता साबित नहीं होती।
मुझे अभ्यास में आगे क्या करना चाहिए?
एक क्लस्टर पर रोज़ 155 ट्रिलियन टोकन प्रोसेस करने का आंकड़ा रिपोर्ट हुआ है, लेकिन उपलब्ध कवरेज में इसकी स्वतंत्र पुष्टि नहीं है।
सूत्र
deepseekv4pro.comDeepSeek open-sources DeepInfer inference framework and ...
letsdatascience.comDeepSeek Open-Sources DeepInfer, Its Production Inference Engine for V4.1-Flash
github.comGitHub - deepseek-ai/DeepInfer: DeepInfer: High-performance, large-scale inference framework for DeepSeek models
siliconangle.comDeepSeek open-sources DeepInfer, the inference framework behind its production services - SiliconANGLE