Rubin पीढ़ी, Blackwell की HBM3e मेमोरी से आगे बढ़कर HBM4 पर आ गई है। यह प्रति GPU लगभग 22 TB/s बैंडविड्थ प्रदान करती है, जो पिछली पीढ़ी के Blackwell B200 GPU (जो HBM3e पर लगभग 4 TB/s देता था) से 5 से 6 गुना अधिक है ।
रैक स्तर पर, NVIDIA का दावा है कि Vera Rubin, Blackwell की तुलना में 5 गुना इन्फ़रेंस प्रदर्शन और प्रति टोकन 10 गुना कम लागत हासिल करता है । सुपरमाइक्रो का लक्ष्य Blackwell समाधानों की तुलना में प्रति वॉट 10 गुना अधिक थ्रूपुट और दसवें हिस्से की टोकन लागत प्राप्त करना है
।
NVIDIA Vera Rubin NVL72 (रैक-स्केल सिस्टम):
यह एक प्रभावशाली रैक है जिसमें 72 Rubin GPU और 36 Vera CPU को एक साथ रखा गया है। यह NVLink 6, ConnectX-9 SuperNIC, BlueField-4 DPU और Spectrum-X ईथरनेट के ज़रिए एकीकृत होता है और पूरा रैक एक सिंगल एक्सीलरेटर की तरह काम करता है ।
NVIDIA HGX Rubin NVL8 (2U सिस्टम):
यह 2U फ़ॉर्म फ़ैक्टर वाला सिस्टम 8 Rubin GPU को समाहित करता है। इसकी सबसे बड़ी ख़ासियत इसका लचीलापन है — यह NVIDIA Vera CPU के साथ-साथ अगली पीढ़ी के x86 CPU (जैसे AMD या इंटेल) को भी सपोर्ट करता है। एक रैक में ऐसी 9 इकाइयाँ लगाकर 72 Rubin GPU तक स्केल किया जा सकता है ।
जिन डेटा सेंटरों में अभी तरल शीतलन का बुनियादी ढांचा मौजूद नहीं है, उनके लिए सुपरमाइक्रो DCBBS लिक्विड-टू-एयर (L2A) साइडकार CDU का विकल्प भी लेकर आया है, जो तरल को हवा के ज़रिए ठंडा करता है ।
इन ब्लूप्रिंट्स की जान है पूरी तरह से एकीकृत DLC-2 डायरेक्ट लिक्विड कूलिंग तकनीक। इसे इस तरह इंजीनियर किया गया है कि यह लगभग पूरी गर्मी सोख ले, बिजली की खपत घटाए और शोर को कम रखे। इस स्टैक के प्रमुख घटक हैं :
सुपरमाइक्रो के DCBBS ब्लूप्रिंट्स सिर्फ़ हार्डवेयर का एक गट्ठर नहीं हैं, बल्कि एक संपूर्ण टर्नकी मॉडल हैं :
Comments
0 comments