उत्तरप्रकाशित18 स्रोत
M890 सुपरपॉड पर Kimi K3.1 Pro: vLLM और SGLang के साथ डे-ज़ीरो वैलिडेशन
अलीबाबा क्लाउड ने M890 सुपरपॉड पर Kimi K3.1 Pro के वज़न का डे ज़ीरो अनुकूलन और vLLM व SGLang के साथ एंड टू एंड वैलिडेशन पूरा करने की घोषणा की। SGLang और vLLM के दस्तावेज़ M890 तथा 810E हार्डवेयर के लिए समर्थन और उदाहरण कॉन्फ़िगरेशन देते हैं। ये दस्तावेज़ तैनाती की तैयारी दिखाते हैं, लेकिन स्वतंत्र प्रदर्शन माप, उत्प...
प्रकाशितकर्ताGPT-6 Luna से संपादितGPT Image 2 से चित्र बनाए गए
शोध उत्तर
मुख्य निष्कर्ष
- अलीबाबा क्लाउड ने M890 सुपरपॉड पर Kimi K3.1 Pro के वज़न का डे ज़ीरो अनुकूलन और vLLM व SGLang के साथ एंड टू एंड वैलिडेशन पूरा करने की घोषणा की।
- SGLang और vLLM के दस्तावेज़ M890 तथा 810E हार्डवेयर के लिए समर्थन और उदाहरण कॉन्फ़िगरेशन देते हैं।
- ये दस्तावेज़ तैनाती की तैयारी दिखाते हैं, लेकिन स्वतंत्र प्रदर्शन माप, उत्पादन स्तर की विश्वसनीयता या लागत बचत साबित नहीं करते।
AI संकेत
openai.comCreate a landscape editorial hero image for this Studio Global article: What did Alibaba Cloud’s November 5, 2026 announcement, reported by IT Home, reveal about Lingjun Zhenwu M890 SuperPoD’s day-zero adaptation. Article summary: Alibaba Cloud’s November 5 announcement said Lingjun Zhenwu M890 SuperPoD had completed day-zero adaptation of Kimi K3.1 Pro’s weights and end-to-end validation with both vLLM and SGLang, while opening invitation testing. Topic tags: general, general web, documentation. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, charts with fak
अलीबाबा क्लाउड ने 5 नवंबर को कहा कि उसके Lingjun Zhenwu M890 सुपरपॉड ने Moonshot AI के Kimi K3.1 Pro मॉडल के वज़न को मॉडल जारी होने के पहले दिन ही चलाने के लिए अनुकूलित किया और vLLM तथा SGLang—दो खुले-स्रोत इन्फ़रेंस फ़्रेमवर्क—पर एंड-टू-एंड वैलिडेशन पूरा किया। कंपनी ने Zhongwei में सुपरपॉड इंस्टेंस के लिए आमंत्रण-आधारित परीक्षण भी शुरू किया। 3
यहाँ “डे-ज़ीरो” का अर्थ है कि नए मॉडल के वज़न उपलब्ध होते ही हार्डवेयर और सॉफ़्टवेयर स्टैक को उसे चलाने के लिए तैयार किया गया। घोषणा के अलावा, SGLang और vLLM की रेसिपी तथा अलीबाबा क्लाउड की तैनाती गाइड इस सपोर्ट के लिए तकनीकी निर्देश देती हैं। फिर भी, कॉन्फ़िगरेशन प्रकाशित होना अपने-आप में स्वतंत्र प्रदर्शन परीक्षण या बड़े पैमाने पर उत्पादन की विश्वसनीयता का प्रमाण नहीं है। 17
26
27
Kimi K3.1 Pro को चलाना इतना बड़ा काम क्यों है?
SGLang के दस्तावेज़ Kimi K3.1 Pro को 2.8 ट्रिलियन कुल पैरामीटर वाला मॉडल बताते हैं, जिसमें 104 अरब पैरामीटर सक्रिय होते हैं। इसका कॉन्टेक्स्ट विंडो 10 लाख टोकन तक है। 17 अलीबाबा क्लाउड के मुताबिक, यह बड़ा sparse mixture-of-experts (MoE) मॉडल KDA linear attention और DSA sparse attention को मिलाकर इस्तेमाल करता है और multi-token prediction का समर्थन करता है। इसके लिए पर्याप्त मेमोरी और चिपों के बीच तेज़ scale-up कनेक्शन की ज़रूरत पड़ती है।
3
इसलिए यहाँ चुनौती केवल मॉडल फ़ाइल चलाने की नहीं, बल्कि हार्डवेयर, इन्फ़रेंस फ़्रेमवर्क और ज़रूरी सॉफ़्टवेयर घटकों को साथ काम कराने की है। अलीबाबा क्लाउड का कहना है कि उसकी टीम ने इसी लक्ष्य से M890 को तैयार किया। 3
दस्तावेज़ों में M890 और 810E के कॉन्फ़िगरेशन
SGLang की कुकबुक में Kimi K3.1 Pro के लिए M890 और 810E PPU—अलीबाबा के प्रोसेसर—का समर्थन दर्ज है। इसमें kimi-k3.1-day-0 नाम की ब्रांच का भी ज़िक्र है, जो main पर आधारित है। 17
vLLM की प्रकाशित रेसिपी Zhenwu PPU के दो उदाहरण देती है: 16 PPU वाले दो 810E नोड, TP32/EP32 कॉन्फ़िगरेशन के साथ; या आठ PPU वाले चार M890 नोड, TP8/DP4/EP32 के साथ। रेसिपी के अनुसार, डिफ़ॉल्ट MXFP4 चेकपॉइंट इन व्यवस्थाओं पर speculative decoding के बिना चलता है। 25
27
अलीबाबा क्लाउड की M890P तैनाती गाइड में SGLang, SGLang Kernel, FlashMLA, Sailify और PLA जैसे घटकों के संस्करण और SAIL से जुड़ी कॉन्फ़िगरेशन सेटिंग्स दी गई हैं। इससे यह समझने में मदद मिलती है कि सुझाए गए सॉफ़्टवेयर स्टैक को कैसे व्यवस्थित किया गया है। 26
संयुक्त अनुकूलन और Zhongwei में परीक्षण
अलीबाबा क्लाउड की घोषणा के अनुसार, अनुकूलन का काम Alibaba Cloud, T-Head और Moonshot AI ने T-Head SAIL सॉफ़्टवेयर स्टैक के साथ मिलकर किया। संबंधित रिपोर्टों में FlashMLA, DeepGEMM MoE, MegaMoE और MoonEP पर अनुकूलन का ज़िक्र है। 3
37
38 उपलब्ध सामग्री इस इंजीनियरिंग कार्य का विवरण देती है, लेकिन इसकी वजह से गति, लागत या विश्वसनीयता में कितना बदलाव आया—इसके स्वतंत्र माप प्रकाशित नहीं करती।
5 नवंबर की घोषणा में Zhongwei में आमंत्रण-आधारित परीक्षण शुरू होने की बात है। इससे पहले M890 सुपरपॉड इंस्टेंस Ulanqab में लॉन्च हुआ था। IT Home की रिपोर्ट के मुताबिक, वहाँ 64-कार्ड scale-up यूनिट और कार्डों के बीच 800GB/s इंटरकनेक्ट बैंडविड्थ दी गई थी। ये प्लेटफ़ॉर्म के बताए गए विनिर्देश हैं; इन्हें Kimi K3.1 Pro के प्रदर्शन का माप नहीं समझना चाहिए। 3
4
घोषणा से क्या पता चलता है—और क्या नहीं
उपलब्ध प्रमाण से इतना स्पष्ट है कि अलीबाबा क्लाउड ने M890 पर Kimi K3.1 Pro के डे-ज़ीरो अनुकूलन और vLLM तथा SGLang के साथ वैलिडेशन की घोषणा की है। साथ ही, प्रकाशित दस्तावेज़ M890 और 810E के लिए हार्डवेयर समर्थन तथा इस्तेमाल के उदाहरण देते हैं। 3
17
26
27
लेकिन इन स्रोतों से वास्तविक दुनिया का थ्रूपुट, लेटेंसी या उत्पादन-स्तर की विश्वसनीयता स्वतंत्र रूप से सत्यापित नहीं होती। Panmai 920 नेटवर्किंग के विस्तृत विनिर्देशों या सिस्टम लागत में बचत, ग्राहकों की संख्या और भविष्य के Zhenwu V900 के अनुमानित प्रदर्शन की भी यहाँ पुष्टि नहीं मिलती। ऐसे दावों के लिए अलग प्रमाण चाहिए।
Studio Global AI
अपना शोध जारी रखें
इस पृष्ठ में एक स्रोत-समर्थित उत्तर शामिल है जिसे आप Studio Global के अंदर जारी रख सकते हैं।
लोग पूछते भी हैं
"M890 सुपरपॉड पर Kimi K3.1 Pro: vLLM और SGLang के साथ डे-ज़ीरो वैलिडेशन" का संक्षिप्त उत्तर क्या है?
अलीबाबा क्लाउड ने M890 सुपरपॉड पर Kimi K3.1 Pro के वज़न का डे ज़ीरो अनुकूलन और vLLM व SGLang के साथ एंड टू एंड वैलिडेशन पूरा करने की घोषणा की।
सबसे पहले सत्यापित करने योग्य मुख्य बिंदु क्या हैं?
अलीबाबा क्लाउड ने M890 सुपरपॉड पर Kimi K3.1 Pro के वज़न का डे ज़ीरो अनुकूलन और vLLM व SGLang के साथ एंड टू एंड वैलिडेशन पूरा करने की घोषणा की। SGLang और vLLM के दस्तावेज़ M890 तथा 810E हार्डवेयर के लिए समर्थन और उदाहरण कॉन्फ़िगरेशन देते हैं।
मुझे अभ्यास में आगे क्या करना चाहिए?
ये दस्तावेज़ तैनाती की तैयारी दिखाते हैं, लेकिन स्वतंत्र प्रदर्शन माप, उत्पादन स्तर की विश्वसनीयता या लागत बचत साबित नहीं करते।