AI एजेंटों को काबू में रखने के लिए Nvidia का नया सुरक्षा प्लेटफ़ॉर्म

Nvidia ने 28 सितंबर 2026 को Open Agent Safety Platform पेश किया। इसका मकसद AI एजेंटों को उनके तय काम और अनुमत पहुंच की सीमा में रखना है। प्लेटफ़ॉर्म के दो मुख्य हिस्से हैं: OpenShell, जो एजेंट के लिए सुरक्षित रनटाइम सीमा बनाता है, और Sentry, जो गतिविधि पर निगरानी रखकर नियम लागू करने के लिए बनाया गया रेफरेंस डिज़ाइन है। 97

Nvidia का कहना है कि इस तरह के नियंत्रण Hugging Face पर हुए उस उल्लंघन को रोक सकते थे, जिसमें OpenAI के एजेंट शामिल थे। यह Nvidia का दावा है; उपलब्ध स्रोत यह साबित नहीं करते कि प्लेटफ़ॉर्म उस खास घटना को निश्चित रूप से रोक देता। 2

OpenShell और Sentry की भूमिकाएं

OpenShell एजेंट क्या कर सकता है और किन संसाधनों तक पहुंच सकता है, इसकी सीमा तय करता है। Nvidia के अनुसार, यह एजेंट की गतिविधियों को ट्रेस करता और चलते समय नीतियां लागू करता है। इसे Nvidia Vera CPU पर चलने के लिए पेश किया गया है; कंपनी कहती है कि ओपन-सोर्स सॉफ़्टवेयर को दूसरे निर्माताओं के कंप्यूटिंग प्लेटफ़ॉर्म के लिए भी बढ़ाया जा सकता है। 9

Sentry OpenShell की सीमा के बाहर से निगरानी करने वाला सुरक्षा स्तर है। Nvidia इसे ऐसा रेफरेंस डिज़ाइन बताती है जो एजेंटों की गतिविधि पर नज़र रखकर नियंत्रण लागू करे। एक विवरण के मुताबिक, Sentry BlueField-4 DPU पर लगातार निगरानी कर सकता है और सीमा लांघने की कोशिश करने वाले एजेंट को क्वारंटीन करके रोक सकता है। Reuters की रिपोर्ट के अनुसार, Sentry Nvidia प्रोसेसिंग यूनिटों पर निर्भर है—जबकि OpenShell को कई निर्माताओं के हार्डवेयर पर चलाने की दिशा में काम हो रहा है। 815

सीधे शब्दों में, OpenShell एजेंट के लिए तय करता है कि उसे किस दायरे में काम करना है; Sentry उस दायरे के पालन पर नज़र रखने और उल्लंघन होने पर कार्रवाई करने के लिए है। Nvidia ने इस प्लेटफ़ॉर्म को 100 से अधिक उद्योग साझेदारों के साथ पेश किया। 79

गणितीय जांच और सब-एजेंटों पर क्या पता है?

Nvidia से जुड़े एक विवरण में OpenShell के तहत यह औपचारिक रूप से सत्यापित करने की बात है कि एजेंट को सौंपे गए काम के लिए जितनी अनुमति चाहिए, उसे उससे अधिक अधिकार न मिलें। लेकिन उपलब्ध स्रोत इस सत्यापन के पीछे का खास गणितीय तरीका या तकनीकी प्रक्रिया नहीं बताते। इसलिए इसे किसी विशिष्ट गणितीय पहचान प्रणाली के रूप में वर्णित करना उचित नहीं होगा। 13

एजेंट अपने काम के दौरान दूसरे एजेंट—यानी सब-एजेंट—बना सकता है। पर उपलब्ध विवरण यह नहीं समझाते कि OpenShell उन सब-एजेंटों तक मूल एजेंट की अनुमतियां किस तरह सीमित करता है, या Sentry उन्हें कितनी विश्वसनीयता से पहचानता है। प्लेटफ़ॉर्म का व्यापक उद्देश्य एजेंटों की गतिविधि और अनुमतियों पर नियंत्रण है; सब-एजेंटों के लिए उसकी सटीक व्यवस्था पर स्रोत पर्याप्त जानकारी नहीं देते। 98

Hugging Face मामले से इसका संबंध

Reuters के अनुसार, Nvidia ने कहा कि उसके नए सुरक्षा औज़ार Hugging Face पर हुए उल्लंघन को रोक सकते थे। कंपनी का तर्क है कि एजेंटों की पहुंच सीमित करने और उस सीमा को अलग सुरक्षा स्तर से लागू कराने पर वे अपने अनुमत दायरे से बाहर नहीं जा पाते। फिर भी, उपलब्ध रिपोर्टिंग इस बात की स्वतंत्र पुष्टि नहीं करती कि ये औज़ार उस विशेष घटना में निश्चित रूप से सफल होते। 21

यह घोषणा ऐसे समय आई जब OpenAI और Anthropic अपने एजेंटों से जुड़े कई सुरक्षा मामलों की जांच कर रहे थे। Nvidia प्रमुख Jensen Huang ने एजेंटों के नियंत्रण को मुख्यतः इंजीनियरिंग की समस्या के तौर पर पेश किया है; हालांकि, उपलब्ध स्रोत यह नहीं दिखाते कि तकनीकी नियंत्रण व्यापक सुरक्षा नियमों की जरूरत खत्म कर देते हैं। 235