एआई से तबाही की चेतावनियों के बीच सिंगापुर का जोर: सिस्टम जाँचें, एजेंटों की सीमाएँ तय करें

एआई मानवता के लिए कितना बड़ा खतरा बन सकता है? सिंगापुर के एआई उद्योग से जुड़े लोगों की प्रतिक्रिया इस सवाल को टालने की नहीं, बल्कि इसे जाँचने योग्य जिम्मेदारियों में बदलने की है। उनका जोर स्वतंत्र मूल्यांकन, सुरक्षा उपायों में पारदर्शिता और इस्तेमाल में लगाए गए सिस्टम—खासकर स्वायत्त एजेंटों—की शक्तियाँ सीमित रखने पर है। 732

सितंबर में चेतावनियाँ क्यों तेज हुईं

OpenAI और Anthropic, दोनों में काम कर चुके शोधकर्ता जैकब कॉक्सन ने Anthropic से इस्तीफा देकर आरोप लगाया कि कंपनियाँ पर्याप्त जिम्मेदारी बरते बिना ऐसे अतिसक्षम एआई की दौड़ में हैं जो खुद को बेहतर बना सके। Anthropic के शोधकर्ता इवान हुबिंगर ने उनकी चिंता से सहमति जताई और निजी आकलन दिया कि अगले दशक में एआई के कारण मानव-विलुप्ति का जोखिम 10% से अधिक है। यह उनका अनुमान है, मापी हुई संभावना या आसन्न विनाश का प्रमाण नहीं। 34

Anthropic के मुख्य कार्यकारी डारियो अमोदेई ने विकास की रफ्तार धीमी करने की अपील की। उनके 12 सितंबर के प्रस्ताव में बाहरी मूल्यांकनकर्ताओं को इतनी पहुँच देने की बात भी थी कि वे सुरक्षा प्रक्रियाओं और संबंधित संचार की पुष्टि कर सकें तथा घटनाओं की रिपोर्ट कर सकें। इससे बहस का एक अहम सवाल उभरता है: कंपनियों के दावों को बाहर से कैसे परखा जाए? 1332

जाँच क्या बता सकती है—और क्या नहीं

मौजूदा एआई सिस्टम की खामियाँ परखना संभव है। सिंगापुर का AI Verify टूलकिट, जिसे 2022 में शुरू किया गया था, एआई के नतीजों की निष्पक्षता, मजबूती और समझाए जा सकने की क्षमता जाँचने में मदद करता है। AI Tester Accreditation Programme को परीक्षण करने की क्षमता बढ़ाने के उपाय के रूप में बताया गया है। लेकिन इनमें से कोई भी भविष्य के हर सिस्टम के सुरक्षित होने की गारंटी नहीं है। 1933

स्वतंत्र जाँच के लिए कंपनी का यह कहना काफी नहीं कि उसका मॉडल अंदरूनी परीक्षण में पास हो गया। मूल्यांकनकर्ताओं को सुरक्षा प्रक्रियाएँ परखने और घटनाओं को सामने लाने के लिए पर्याप्त पहुँच चाहिए। एआई को अपने डेटा और कामकाज से जोड़ने वाले संगठनों को भी प्रदाताओं से पारदर्शिता और नियंत्रण चाहिए। केवल मॉडल के वेट्स—उसके काम करने में इस्तेमाल होने वाले संख्यात्मक मान—उपलब्ध होने से प्रशिक्षण संबंधी फैसलों, विफलताओं या सुरक्षा उपायों की पूरी तस्वीर नहीं मिलती। 3234

इसका मतलब यह नहीं कि विकास कभी धीमा न किया जाए। बहस में शामिल सिंगापुर-आधारित एक विशेषज्ञ के अनुसार, यदि डेवलपर किसी सिस्टम को पर्याप्त रूप से नियंत्रित नहीं कर सकता या गंभीर जोखिमों के प्रबंधन की व्याख्या नहीं कर सकता, तो उसे उस गतिविधि को रोकना चाहिए। यह ठोस जोखिम से जुड़ी शर्त है, सभी एआई उपयोगों पर एक जैसी रोक नहीं। 32

एजेंट को काम सौंपने से पहले उसकी सीमा तय करें

स्वायत्त एआई एजेंट सिर्फ जवाब नहीं देते; वे टूल इस्तेमाल कर सकते हैं और कई चरणों में काम कर सकते हैं। इसलिए यह तय करना जरूरी है कि वे किन डेटा और सिस्टम तक पहुँच सकते हैं और क्या कार्रवाई कर सकते हैं। सिंगापुर की इन्फोकॉम मीडिया डेवलपमेंट अथॉरिटी (IMDA) ने जनवरी 2026 में ऐसे एजेंटों के लिए Model AI Governance Framework जारी किया। यह पहले जोखिम आँकने और एजेंटों की स्वायत्तता, टूल तथा डेटा तक पहुँच सीमित रखने की सलाह देता है। अद्यतन ढाँचे में न्यूनतम आवश्यक अधिकार देने का सिद्धांत स्पष्ट है। यह मार्गदर्शन है, एजेंट तैनात करने पर व्यापक कानूनी प्रतिबंध नहीं। 504852

किसी संगठन के लिए इसका व्यावहारिक अर्थ है: हर एजेंट के लिए जिम्मेदार व्यक्ति तय करना, उसकी अनुमतियाँ सीमित रखना, उसके काम की निगरानी करना और जहाँ संभव हो, कार्रवाइयों का रिकॉर्ड रखना तथा उन्हें पलट सकने की व्यवस्था करना। ये कदम ‘एजेंट सुरक्षित है’ जैसे सामान्य आश्वासन से अधिक ठोस हैं। 34 सिंगापुर की मंत्री जोसेफिन टियो ने भरोसा बनाने में एआई सुरक्षा मानकों की भूमिका की तुलना नागरिक उड्डयन की सुरक्षा व्यवस्था से की है। 17

निष्कर्ष: अनिश्चितता बनी हुई है, लेकिन जिम्मेदारी टाली नहीं जा सकती। जो परखा जा सकता है उसे परखें, बाहरी जाँच की गुंजाइश दें और जिन शक्तियों को सुरक्षित ढंग से नियंत्रित नहीं किया जा सकता, उन्हें एआई को न सौंपें। ये कदम दीर्घकालिक जोखिम पर बहस खत्म नहीं करते, पर अभी कार्रवाई का रास्ता देते हैं। 3248