Nvidia का cuFile हुआ ओपन-सोर्स, Storage-Next और SCADA से AI की GPU ‘भूख’ मिटाने की कोशिश

इनका साझा लक्ष्य GPU की डेटा-भूख, AI स्टोरेज की धीमी डिलीवरी और GPU से सीधे स्टोरेज एक्सेस में पैदा होने वाले सुरक्षा जोखिमों को संबोधित करना है।

Nvidia ने क्या घोषित किया?

cuFile APIs और पूरा स्टोरेज सॉफ्टवेयर स्टैक

Nvidia cuFile APIs और उनके पीछे काम करने वाले पूरे वर्टिकल स्टोरेज सॉफ्टवेयर स्टैक को ओपन-सोर्स करने जा रही है। ये APIs CPU के बजाय GPU को सीधे स्टोरेज से डेटा पढ़ने और उसमें लिखने की सुविधा देती हैं। cuFile, Nvidia के GPUDirect Storage (GDS) प्लेटफॉर्म का प्रमुख घटक है।

कोड को GitHub पर नए xio-sig (Accelerated IO Special Interest Group) संगठन के तहत विकसित किया जाना है। Google, Intel, Nvidia और Meta इसके शुरुआती मेंटेनर बताए गए हैं। Nvidia का उद्देश्य इसे केवल कंपनी-विशेष इंटरफेस रखने के बजाय अधिक खुले और इंटरऑपरेबल उद्योग मानक की दिशा में ले जाना है।

हालांकि, घोषणा के तुरंत बाद प्रकाशित एक विश्लेषण के अनुसार 4 अगस्त 2026 तक मौजूदा GPUDirect Storage डिप्लॉयमेंट्स के लिए सार्वजनिक कोड, लाइसेंस, सपोर्टेड कर्नेल मैट्रिक्स या माइग्रेशन पाथ उपलब्ध होने का प्रमाण नहीं था। इसलिए स्टोरेज आर्किटेक्ट्स के लिए इसे फिलहाल घोषित दिशा समझना अधिक उचित है, पूरी तरह उपलब्ध उत्पाद नहीं।

Storage-Next: 40 से अधिक कंपनियों का गठजोड़

Nvidia ने Storage-Next पहल को औपचारिक रूप से लॉन्च किया। इसमें DDN, KIOXIA और Micron जैसे नामों सहित 40 से अधिक स्टोरेज और फ्लैश विक्रेता शामिल हैं। इसके दायरे में स्टोरेज कंट्रोलर निर्माता, कूलिंग विशेषज्ञ और मानक-निर्धारण संस्थाएं भी आती हैं।

इस पहल का मकसद यह तय करना है कि GPU-आधारित स्टोरेज सिस्टम कैसे काम करें और इन तकनीकी प्रगति को ऐसे खुले मानकों में बदला जाए, जो अलग-अलग कंपनियों के उत्पादों के बीच काम कर सकें।

SCADA: स्टोरेज कंट्रोल GPU के हाथों में

SCADA, Nvidia के पहले के BaM (Big Accelerator Memory) शोध का उत्पादित रूप है, जिसे ASPLOS 2023 में प्रस्तुत किया गया था। यह एक ऐसा रनटाइम है जो बड़े पैमाने पर समानांतर काम करने वाले GPU को अपने स्टोरेज I/O ऑपरेशन शुरू करने और संभालने देता है।

SCADA में GPU के सैकड़ों हजारों थ्रेड्स स्वतंत्र रूप से स्टोरेज से डेटा मांग सकते हैं। यह छोटे और बिखरे हुए रीड अनुरोधों को एक साथ जोड़ सकता है, GPU-साइड कैश का इस्तेमाल करता है और NVMe या रिमोट स्टोरेज तक सीधे पहुंच उपलब्ध कराता है।

तीन बड़ी समस्याओं पर असर

1. GPU starvation: डेटा के इंतजार में खाली GPU

पारंपरिक स्टोरेज I/O में CPU हर डेटा ट्रांसफर की तैयारी करता है। इससे GPU को इंतजार करना पड़ता है और हर ऑपरेशन में कर्नेल लॉन्च तथा CPU-GPU सिंक्रोनाइजेशन का माइक्रोसेकंड स्तर का अतिरिक्त खर्च जुड़ता है।

cuFile CPU को डेटा के रास्ते से हटा देता है। DMA के जरिए डेटा सीधे GPU मेमोरी में पहुंच सकता है। SCADA इससे एक कदम आगे जाता है और CPU को कंट्रोल पाथ से भी हटाने की कोशिश करता है—GPU थ्रेड खुद रीड शुरू करते हैं, छोटे अनुरोधों को बैच करते हैं और GPU-कैश से डेटा उपलब्ध कराते हैं।

Nvidia के BaM शोध पर आधारित समान हार्डवेयर परीक्षणों में डेटा-एनालिटिक्स वर्कलोड CPU-initiated access की तुलना में 5.3 गुना तेज चले। ग्राफ वर्कलोड में होस्ट मेमोरी में डेटा रखने की तुलना में हार्डवेयर लागत 21.7 गुना तक कम रही।

2. AI स्टोरेज bottleneck: GPU की रफ्तार, स्टोरेज की सीमा

आज के GPU कई स्टोरेज सिस्टमों की डेटा डिलीवरी क्षमता से तेज प्रोसेस कर सकते हैं। AI ट्रेनिंग और इंफरेंस में यही अंतर प्रमुख bottleneck बनता है।

cuFile सैकड़ों हजारों GPU थ्रेड्स और हाई-बैंडविड्थ मेमोरी का इस्तेमाल करते हुए स्टोरेज से माइक्रोसेकंड स्तर पर सुरक्षित डेटा एक्सेस का लक्ष्य रखता है। इससे डीप स्टोरेज और GPU मेमोरी के बीच कम-विलंबता वाला रास्ता बन सकता है।

यह उन AI सिस्टमों के लिए खास तौर पर उपयोगी हो सकता है जिन्हें एक साथ बहुत बड़ी मात्रा में डेटा खींचना पड़ता है—जैसे retrieval-augmented generation (RAG), mixture-of-experts मॉडल और agentic AI वर्कफ्लो।

Storage-Next का उद्देश्य यह सुनिश्चित करना है कि समाधान केवल Nvidia-केंद्रित न रह जाए। 40 से अधिक कंपनियों का सहयोग स्टोरेज, फ्लैश, कंट्रोलर और नेटवर्किंग इकोसिस्टम के बीच ऐसे मानक विकसित करने पर केंद्रित है जो GPU की बढ़ती रफ्तार के साथ चल सकें।

3. साइबर सुरक्षा: सीधे एक्सेस के साथ बढ़ता जोखिम

GPU को सीधे स्टोरेज तक पहुंच देने में सुरक्षा जोखिम भी है। पर्याप्त सुरक्षा के बिना एक एप्लिकेशन दूसरे एप्लिकेशन का डेटा पढ़ या खराब कर सकता है।

Nvidia के अनुसार SCADA अलग-अलग privilege स्तरों का इस्तेमाल करता है। प्रदर्शन-संवेदनशील एप्लिकेशन कोड trusted compute base के बाहर unprivileged तरीके से चलता है। वहीं एक privileged घटक सेटअप के दौरान हर एप्लिकेशन को केवल उसके स्वीकृत स्टोरेज तक संरक्षित पहुंच देता है। यह व्यवस्था मानक Linux सुरक्षा प्रणालियों का इस्तेमाल करती है।

Nvidia cuFile को AI-आधारित साइबर सुरक्षा के लिए भी बुनियादी तकनीक के रूप में देखती है। कंपनी का तर्क है कि तेज और सुरक्षित डेटा एक्सेस से AI-आधारित preventive तथा detective सुरक्षा प्रणालियों को जरूरी संदर्भ और स्टोरेज डेटा उसी गति से मिल सकता है, जिस गति से खतरे सामने आते हैं। यह पहल Open Secure AI Alliance से भी जुड़ती है।

पूरे हार्डवेयर स्टैक में Nvidia के Vera BlueField-4 STX प्रोसेसर और AI डेटा पाथ में लगातार नीति लागू करने के लिए एकीकृत NVIDIA DOCA सुरक्षा स्टैक का इस्तेमाल किया जाता है।

AI इंफ्रास्ट्रक्चर के लिए इसका मतलब

FMS 2026 की ये घोषणाएं GPU कंप्यूटिंग और स्टोरेज डिलीवरी के बीच बढ़ते वास्तुशिल्पीय अंतर को पाटने के Nvidia के व्यापक प्रयास को दिखाती हैं।

• cuFile CPU को डेटा ट्रांसफर के रास्ते से हटाकर GPU और स्टोरेज के बीच अधिक सीधा कनेक्शन बनाता है।
• SCADA GPU को डेटा एक्सेस शुरू करने और उसे मैनेज करने की अधिक जिम्मेदारी देता है, जिससे CPU कंट्रोल पाथ का bottleneck भी कम हो सकता है।
• Storage-Next अलग-अलग स्टोरेज और फ्लैश कंपनियों को साथ लाकर इंटरऑपरेबल मानकों की दिशा में काम करता है।

ओपन-सोर्सिंग से समुदाय और अन्य कंपनियों की भागीदारी बढ़ने की Nvidia को उम्मीद है, लेकिन वास्तविक असर इस बात पर निर्भर करेगा कि सार्वजनिक कोड, लाइसेंस, हार्डवेयर-सॉफ्टवेयर सपोर्ट और मौजूदा सिस्टम से माइग्रेशन कब और किस रूप में उपलब्ध होते हैं।