Vultr, HPE और NVIDIA: अगली पीढ़ी के AI डेटा सेंटर की अंदरूनी कहानी

• AI परफॉरमेंस: 1,440 PFLOPS तक FP4 AI परफॉरमेंस
• मेमोरी: प्रति GPU 279 GB HBM3e मेमोरी (पूरे रैक में कुल 37 TB), प्रति GPU 8 TB/s मेमोरी बैंडविड्थ
• आर्किटेक्चर: 1 ट्रिलियन पैरामीटर से बड़े AI मॉडल्स के ट्रेनिंग, फाइन-ट्यूनिंग और रीयल-टाइम इंफरेंस के लिए ऑप्टिमाइज़्ड
• कूलिंग: पूरी तरह से लिक्विड-कूल्ड डिज़ाइन जो HPE की AI फैक्ट्री आर्किटेक्चर में एकीकृत है

GB300 NVL72 को 'नया इंफरेंस/ट्रेनिंग वर्कहॉर्स' बताया गया है, जिसमें कॉस्ट-पर-टोकन पर जोर है। यह उद्योग के उस बदलाव को दर्शाता है जहां AI मॉडल को बड़े पैमाने पर रीयल-टाइम एप्लिकेशन के लिए तैनात किया जा रहा है । NVIDIA के अनुसार, यह NVIDIA Blackwell GPUs की तुलना में 1.5 गुना अधिक डेंस FP4 Tensor Core FLOPS और 2 गुना अधिक अटेंशन परफॉरमेंस देता है ।

हाई-बैंडविड्थ नेटवर्किंग: AI इंफरेंस की रीढ़

इस तैनाती में हाई-बैंडविड्थ नेटवर्किंग अहम भूमिका निभाती है। NVIDIA GB300 NVL72 सिस्टम NVIDIA Spectrum-X ईथरनेट नेटवर्किंग के ज़रिए आपस में जुड़ेंगे। यह एक लॉसलेस, हाई-थ्रूपुट ईथरनेट फैब्रिक है जो मल्टी-नोड AI वर्कलोड में बॉटलनेक को खत्म करता है ।

तैनाती में 400GbE और 800GbE इंटरकनेक्ट, ऑप्टिकल ट्रांसीवर, NVIDIA Spectrum-X ईथरनेट स्विच और SuperNICs शामिल हैं । इस फैब्रिक के बिना, एंटरप्राइज-ग्रेड इंफरेंस को स्केल करना मुश्किल होता क्योंकि लेटेंसी और बैंडविड्थ में गंभीर बाधाएं आतीं। NVIDIA के एंटरप्राइज रेफरेंस आर्किटेक्चर के अनुसार, यह दोहरी-प्लेन नेटवर्किंग आर्किटेक्चर एंटरप्राइज डेटा सेंटर को भारी पैमाने पर AI ट्रेनिंग और इंफरेंस के लिए तैयार करता है, जिससे ट्रिलियन-पैरामीटर मॉडल और रीयल-टाइम एप्लिकेशन संभव होते हैं ।

सामरिक बदलाव: ट्रेनिंग से इंफरेंस की ओर

हालांकि यह इंफ्रास्ट्रक्चर ट्रेनिंग और इंफरेंस दोनों का समर्थन करता है , घोषणा में एंटरप्राइजेज़ के बढ़ते फोकस को AI इंफरेंस (प्रोडक्शन डिप्लॉयमेंट) पर दिखाया गया है। कई संकेत इस बदलाव की ओर इशारा करते हैं:

• GB300 NVL72 को खासतौर पर 'टेस्ट-टाइम स्केलिंग इंफरेंस और AI रीज़निंग टास्क' के लिए डिज़ाइन किया गया है
• इसे कॉस्ट-पर-टोकन कथा के साथ पेश किया गया है, जिसमें मूल्य कच्ची ट्रेनिंग थ्रूपुट के बजाय इंफरेंस आउटपुट पर मापा जाता है
• HPE का संदेश सुरक्षा, गवर्नेंस, स्केल और संप्रभुता के साथ AI को प्रोडक्शन में लाने पर केंद्रित था

इसका स्पष्ट अर्थ है: एंटरप्राइजेज़ प्रयोग के चरण से आगे बढ़ चुके हैं और अब प्रोडक्शन वातावरण में बड़े पैमाने पर AI मॉडल तैनात करने के लिए ऑप्टिमाइज़्ड इंफ्रास्ट्रक्चर चाहते हैं।

HPE Discover Las Vegas 2026 में अन्य घोषणाएं

Vultr साझेदारी के अलावा, HPE ने कई अन्य पहलों पर प्रकाश डाला:

• एजेंटिक AI को बढ़ावा: HPE ने NVIDIA के साथ मिलकर एजेंटिक AI को प्रोडक्शन में लाने की एक व्यापक पहल की घोषणा की, जिसमें सुरक्षा, गवर्नेंस, स्केल और संप्रभुता पर जोर दिया गया
• ग्राहक तैनाती: S k y Co., Ltd. ने NVIDIA AI Computing by HPE पोर्टफोलियो के हिस्से के रूप में HPE प्राइवेट क्लाउड AI तैनात किया
• अर्जेंटीना में Nubax: कंपनी ने AI-एज़-अ-सर्विस का एक खपत-आधारित मॉडल लॉन्च किया, जो NVIDIA AI Computing by HPE द्वारा संचालित है। इससे सप्लाई चेन फोरकास्टिंग में 62.5% सुधार, 35% कम प्रतीक्षा समय और 40% लागत बचत हुई

एंटरप्राइज AI के लिए इसका मतलब

Vultr द्वारा HPE और NVIDIA को चुनना एक बड़ा संकेत है। सबसे बड़े निजी हाइपरस्केलर के रूप में, Vultr दांव लगा रहा है कि एंटरप्राइज ग्राहकों को ऐसे इंफ्रास्ट्रक्चर की ज़रूरत है जो क्लाउड स्केल पर ट्रेनिंग और रीयल-टाइम इंफरेंस दोनों को संभाल सके। NVIDIA के रैक-स्केल GPU कंप्यूटिंग को HPE की फैक्ट्री आर्किटेक्चर, लिक्विड कूलिंग और सेवाओं के साथ जोड़कर, Vultr एंटरप्राइज AI वर्कलोड की अगली लहर—मॉडल ट्रेनिंग से लेकर ट्रिलियन-पैरामीटर मॉडल पर प्रोडक्शन इंफरेंस—की सेवा के लिए खुद को तैयार कर रहा है।