एआई की रफ्तार पर लगाम कैसी हो—और सिंगापुर क्या भूमिका निभा सकता है

एआई की रफ्तार पर सार्थक लगाम लगाने का मतलब पूरी अर्थव्यवस्था में एआई पर रोक लगाना नहीं, बल्कि सबसे उन्नत प्रणालियों के विकास और इस्तेमाल की गति को जोखिम के मुताबिक़ तय करना है। एआई कंपनियों के नेताओं की हालिया सार्वजनिक अपीलों ने स्वतंत्र मूल्यांकन और आपसी तालमेल को चर्चा में ला दिया है। मगर इन विचारों को भरोसेमंद सुरक्षा व्यवस्था बनाने के लिए स्वैच्छिक वादों से आगे जाना होगा: जाँच स्वतंत्र हो, नतीजों के आधार पर रिलीज़ का फ़ैसला बदल सके और नियम जोखिम के अनुपात में हों।

सिंगापुर के पास इस दिशा में काम आने वाले कुछ आधार मौजूद हैं—एजेंटिक एआई के लिए शासन ढाँचा, AI Verify परीक्षण टूल और तीसरे पक्ष के एआई परीक्षकों को मान्यता देने का कार्यक्रम। अगली चुनौती इन साधनों को ऐसे स्पष्ट, साक्ष्य-आधारित फ़ैसलों से जोड़ना है जो उन प्रणालियों पर लागू हों जिन्हें संस्थाएँ सचमुच इस्तेमाल में ला रही हैं। 4

एआई की रफ्तार धीमी करने के प्रस्ताव क्या कहते हैं—और क्या नहीं

हालिया प्रस्तावों का जोर फ्रंटियर एआई पर है: यानी सबसे सक्षम प्रणालियों पर, जहाँ क्षमताएँ इतनी तेज़ी से बढ़ सकती हैं कि डेवलपरों के सुरक्षा उपाय और बाहरी निगरानी पीछे रह जाएँ। समाचारों में आए सुझावों में फ्रंटियर कंपनियों को स्वतंत्र मूल्यांकनकर्ताओं की लगातार पहुँच देना, सुरक्षा मानकों में तालमेल बढ़ाना और अंतरराष्ट्रीय सहयोग करना शामिल है।

ये प्रस्ताव बढ़ती दिलचस्पी दिखाते हैं, लेकिन इन्हें एआई कंपनियों के बीच तय नीति या बाध्यकारी समझौता नहीं माना जा सकता। अंतरराष्ट्रीय एआई सुरक्षा रिपोर्ट के मुताबिक़ जोखिम प्रबंधन के तरीके अभी विकसित हो रहे हैं और कंपनियों की ज़्यादातर पहलें अब भी स्वैच्छिक हैं। यह फ़र्क अहम है: किसी कंपनी का मॉडल की जाँच करने का वादा अपने-आप में ऐसा लागू करने योग्य नियम नहीं बन जाता जो गंभीर जोखिम बाकी रहने पर रिलीज़ टालने को कहे।

रफ्तार पर रोक को जोखिम-आधारित रिलीज़ कसौटी बनाएँ

व्यावहारिक तरीका यह होगा कि अधिक क्षमता या अधिकार वाली प्रणालियों पर सख़्त शर्तें लगें, लेकिन रोज़मर्रा के एआई इस्तेमाल पर blanket रोक न हो। साधारण मसौदा तैयार करने वाले टूल और अहम फ़ैसले या कार्रवाई करने का अधिकार पाए एजेंट पर एक जैसे नियम अपने-आप लागू नहीं होने चाहिए। सिंगापुर का एजेंटिक एआई ढाँचा पहले से जोखिम का आकलन करने और उसकी सीमा तय करने, साथ ही महत्वपूर्ण या संवेदनशील कार्रवाई से पहले मानवीय मंज़ूरी के पड़ाव रखने की सलाह देता है। 46

फ्रंटियर मॉडल और अधिक असर वाले इस्तेमाल के लिए नीति-निर्माता इसी सिद्धांत के आधार पर रिलीज़ प्रक्रिया बना सकते हैं। इसमें शामिल हो सकते हैं:

• रिलीज़ से पहले स्वतंत्र मूल्यांकन: योग्य बाहरी परीक्षकों को संबंधित प्रणालियों और साक्ष्यों तक सुरक्षित पहुँच मिले। वे खतरनाक क्षमताओं और उनके संभावित दुरुपयोग की जाँच करें। फ्रंटियर विकास की गति पर हालिया चर्चाओं में परीक्षकों को लगातार पहुँच देने का सुझाव आया है; यह हर जगह लागू मौजूदा अनिवार्यता नहीं है।
• तय कसौटियाँ और नतीजों पर कार्रवाई: स्पष्ट किया जाए कि किन निष्कर्षों पर अतिरिक्त सुरक्षा उपाय, सीमित पहुँच या रिलीज़ टालने की ज़रूरत होगी। जाँच में गंभीर कमी मिले तो उसका दर्ज जवाब होना चाहिए और जोखिम के मुताबिक़ रिलीज़ रोकी जा सके—सिर्फ़ एक और आंतरिक समीक्षा न हो। ये प्रस्तावित शासन उपाय हैं, सिंगापुर के मौजूदा ढाँचे में बताए गए नियम नहीं। 4
• इस्तेमाल के मुताबिक़ नियंत्रण: जिन एजेंटों को अहम काम करने की अनुमति है, उनके लिए सीमित अधिकार, महत्वपूर्ण कार्रवाई से पहले मानवीय मंज़ूरी, निगरानी और जवाबदेही पर विचार किया जा सकता है। सिंगापुर का ढाँचा जोखिम सीमित करने और सार्थक मानवीय निगरानी का समर्थन करता है; सटीक नियंत्रण प्रणाली और उसके इस्तेमाल पर निर्भर होने चाहिए। 48
• बड़े बदलाव पर दोबारा जाँच: मॉडल, उसके टूल या इस्तेमाल के संदर्भ में महत्वपूर्ण बदलाव होने पर फिर मूल्यांकन किया जाए। पुराने परीक्षण को हमेशा के लिए सुरक्षा की गारंटी न माना जाए। यह सुनिश्चित करने का प्रस्तावित तरीका है कि इस्तेमाल में मौजूद प्रणाली बदलने पर भी सुरक्षा के सबूत प्रासंगिक रहें।

कम जोखिम वाले इस्तेमाल के लिए नियम सरल और हल्के होने चाहिए। जोखिम-आधारित नियम कारोबार में एआई अपनाने की गुंजाइश देते हैं, लेकिन एक सफल परीक्षण को हर संदर्भ में सुरक्षा का प्रमाण नहीं मानते। यूरोपीय संघ का AI Act एआई के इस्तेमाल से जुड़े जोखिमों के आधार पर नियम बनाने का एक उदाहरण है।

नियम सार्वजनिक हों, जाँच स्वतंत्र

अंतरराष्ट्रीय तालमेल से मूल्यांकन के तरीके एक-दूसरे के अधिक तुलनीय हो सकते हैं और कम सख़्त निगरानी वाले क्षेत्र में जाने का दबाव घट सकता है। सरकारें साझा परीक्षण विधियों, घटनाओं की जानकारी साझा करने और सबसे जोखिमपूर्ण प्रणालियों के लिए न्यूनतम अपेक्षाओं पर काम कर सकती हैं। स्वतंत्र परीक्षक फिर इन्हीं अपेक्षाओं के आधार पर साक्ष्य जुटा सकते हैं। रफ्तार धीमी करने के हालिया प्रस्तावों में भी कंपनियों और देशों के बीच तालमेल की बात है।

जिम्मेदारियों का बँटवारा अहम है। लागू किए जा सकने वाले मानक तय करना और उनका उल्लंघन होने पर नतीजे निर्धारित करना सार्वजनिक अधिकारियों का काम होना चाहिए। कंपनियाँ तकनीकी जानकारी दे सकती हैं, लेकिन अपनी ही प्रणालियों के मानक पर खरी उतरने का अकेला फ़ैसला उन्हें नहीं करना चाहिए। स्वतंत्र परीक्षकों के तरीके पारदर्शी हों और हितों के टकराव की जानकारी दी जाए। ये प्रस्तावित निगरानी व्यवस्था के डिज़ाइन सिद्धांत हैं—रिपोर्ट किए गए उद्योग प्रस्तावों की पहले से स्थापित विशेषताएँ नहीं।

सिंगापुर किन पहलों को आगे बढ़ा सकता है

सिंगापुर का एजेंटिक एआई के लिए मॉडल एआई शासन ढाँचा उन संस्थाओं के लिए मार्गदर्शन देता है जो एआई एजेंट इस्तेमाल में लाती हैं। इसमें जोखिम का आकलन, मानवीय जवाबदेही और नियंत्रण शामिल हैं। यह जिम्मेदार इस्तेमाल के लिए मार्गदर्शन है; अपने-आप में रिलीज़ रोकने का लागू करने योग्य नियम नहीं। 468

AI Verify परीक्षण टूल उपलब्ध कराता है, जबकि AI Tester Accreditation Programme उन तीसरे पक्ष की परीक्षण कंपनियों को मान्यता देता है जिनमें संबंधित तकनीकी क्षमता और संचालन की तैयारी हो। साथ मिलकर, ये पहल कारोबार और वित्त क्षेत्र में अधिक एकरूप जाँच को बढ़ावा दे सकती हैं। सिंगापुर साझा जाँच मानक और ऐसे अनुबंध भी विकसित करने को प्रोत्साहित कर सकता है जो स्पष्ट करें कि मॉडल देने वाले, सिस्टम जोड़ने वाले, उसे इस्तेमाल में लाने वाले और परीक्षक—हर पक्ष को क्या साबित करना होगा। ये संभावित अगले कदम हैं, मौजूदा ढाँचों में तय नीतियाँ नहीं।

एक उपयोगी लक्ष्य जाँच के सबूत और तरीकों को सीमा-पार मान्यता देना हो सकता है—यह दावा नहीं कि किसी एक देश का प्रमाणपत्र हर प्रणाली और हर इस्तेमाल को सुरक्षित साबित कर देता है। शासन ढाँचा और परीक्षण टूल साक्ष्य को व्यवस्थित करने में मदद कर सकते हैं; फिर भी अधिकारियों और संस्थाओं को देखना होगा कि वे साक्ष्य वास्तविक इस्तेमाल और उसके जोखिमों को कवर करते हैं या नहीं।

एआई सुरक्षा, सॉफ्टवेयर की विश्वसनीयता और साइबर सुरक्षा—तीनों की जाँच

एआई एजेंट के जवाबों की जाँच, उसके मूल्यांकन का केवल एक हिस्सा है। पूरी जाँच में उस सॉफ्टवेयर प्रणाली को भी देखना चाहिए जिसमें एजेंट काम करता है, और जिन टूल तथा अनुमतियों तक उसकी पहुँच है उनकी सुरक्षा को भी। ये आपस में जुड़े हुए, मगर अलग सवाल हैं: एआई कौन-सा नुकसानदेह व्यवहार दिखा सकता है; किसी गड़बड़ी या बदलाव पर पूरा ऐप कैसे काम करेगा; और क्या हमलावर प्रणाली में सेंध लगाकर उसे अपने हिसाब से चला सकता है?

तीनों पहलुओं को साथ परखना बेहतर आश्वासन के लिए एक प्रस्तावित विस्तार है। इसका मतलब यह नहीं कि हर मौजूदा टूल पहले से इन सबकी जाँच करता है। AI Verify Toolkit पारंपरिक मशीन-लर्निंग प्रणालियों के लिए तकनीकी परीक्षणों का वर्णन करता है, जिनमें निष्पक्षता, समझाने की क्षमता और मजबूती शामिल हैं। इसलिए एजेंटिक एआई के पूरे इस्तेमाल की आगे कौन-सी जाँच चाहिए, यह साफ़ करना ज़रूरी है—यह मान लेना नहीं कि मॉडल-स्तर का एक नतीजा पूरे सिस्टम को प्रमाणित कर देता है।

सार्थक रोक की असली कसौटी

एआई की रफ्तार पर लगाम तभी सार्थक है जब स्वतंत्र साक्ष्य आगे का फ़ैसला बदल सके: सुरक्षा उपाय नाकाफ़ी हों तो अधिक जोखिम वाली रिलीज़ टाली जा सके, सीमित की जा सके या उसमें सुधार माँगा जा सके—और सामान्य, कम जोखिम वाले इस्तेमाल के लिए अनुपातिक रास्ता खुला रहे। सिंगापुर के ढाँचे और परीक्षण कार्यक्रम ऐसी आश्वासन व्यवस्था बनाने की नींव दे सकते हैं, लेकिन रिलीज़ की कसौटियाँ, उनका दायरा और नियम लागू करने की व्यवस्था स्पष्ट करनी होगी।