सिंगापुर सरकारी AI को बढ़ा रहा है, लेकिन एजेंट्स को खुली छूट नहीं देगा

रजिस्ट्री में एजेंट का मालिक, उसका स्वीकृत उपयोग और उसकी गतिविधियां दर्ज करने की योजना है। इससे किसी स्वचालित सिस्टम को जिम्मेदार अधिकारी या विभाग से जोड़ा जा सकेगा और समय के साथ उसके इस्तेमाल की समीक्षा की जा सकेगी।

GovTech के अनुसार, AI Assistant Desk सरकारी कर्मचारियों के लिए एक सुरक्षित डिजिटल सहायक वातावरण होगा। इसके संभावित उपयोगों में रिपोर्ट तैयार करना, शेड्यूल संभालना, कोड लिखना, शोध और अन्य नियमित काम शामिल हैं।

एजेंट क्या कर सकते हैं, यह तकनीकी नियंत्रण तय करेंगे

सिंगापुर का प्रस्तावित मॉडल केवल AI मॉडल के भीतर मौजूद सुरक्षा उपायों पर निर्भर नहीं करता। सुरक्षा को उस पूरे सिस्टम में लागू करने की योजना है, जिसके माध्यम से एजेंट डेटा और टूल्स तक पहुंचते हैं। रिपोर्ट किए गए नियंत्रणों में शामिल हैं:

• अलग-अलग विभागों या उपयोग-स्थितियों के लिए बदले जा सकने वाले नियम;
• स्वीकृत या अधिकृत AI टूल्स;
• फाइल डिलीट करने या बाहरी ईमेल भेजने जैसी कार्रवाइयों पर रोक;
• अनियंत्रित वितरण या स्पैम का जोखिम घटाने के लिए प्राप्तकर्ताओं की संख्या पर सीमा; और
• प्रॉम्प्ट और आउटपुट में आपत्तिजनक भाषा तथा अन्य बुनियादी गुणवत्ता-संबंधी समस्याओं की स्वचालित जांच।

यह तरीका ‘least privilege’ सिद्धांत पर आधारित है—यानी किसी एजेंट को उसके काम के लिए जितनी पहुंच और कार्रवाई की जरूरत हो, केवल उतनी ही अनुमति दी जाए। जब सरकारी विभाग अलग-अलग AI मॉडल इस्तेमाल करते हैं या एजेंट्स को संवेदनशील प्रणालियों से जोड़ते हैं, तब यह नियंत्रण और भी महत्वपूर्ण हो जाता है।

मॉडल बदलें, फिर भी सुरक्षा परत स्थिर रहे

GovTech का AI Guardian AI ऐप्लिकेशनों के लिए एक अलग सुरक्षा और गवर्नेंस परत उपलब्ध कराता है। इसके दो प्रमुख घटक अलग-अलग चरणों में काम करते हैं। Litmus तैनाती से पहले adversarial testing के जरिए सुरक्षा और जोखिमों का आकलन करता है, जबकि Sentinel ऐप्लिकेशन के लाइव होने के बाद रीयल-टाइम कंटेंट मॉडरेशन और आउटपुट फ़िल्टरिंग करता है।

इस तरह सुरक्षा नियंत्रण किसी एक AI प्रदाता या मॉडल से पूरी तरह बंधे नहीं रहते। GovTech ने यह भी बताया है कि AI Assistant Desk की सुरक्षा संरचना इस तरह तैयार की जा रही है कि तीसरे पक्ष के AI टूल्स जोड़े या बदले जाने पर भी बुनियादी सुरक्षा कायम रहे।

यह अंतर महत्वपूर्ण है: AI मॉडल बदल सकते हैं, लेकिन डेटा सुरक्षा, अनुमत कार्रवाइयों, निगरानी और आउटपुट की सुरक्षा से जुड़ी सरकारी अपेक्षाएं स्थिर रहनी चाहिए। GovTech के जिम्मेदार AI ढांचे में सुरक्षा, मजबूती, सिक्योरिटी और प्राइवेसी, समझाने योग्य निर्णय तथा पारदर्शिता को प्रमुख आवश्यकताओं के रूप में रखा गया है।

AI अपनाने के साथ कर्मचारियों की क्षमता पर भी जोर

सिंगापुर की सार्वजनिक-क्षेत्र AI रणनीति केवल स्वायत्त एजेंट्स तक सीमित नहीं है। GovTech का Pair सहायक सरकारी उपकरणों पर लेखन, शोध, सारांश और विश्लेषण में मदद करता है। इसे ऐसे संवेदनशील सरकारी डेटा के साथ इस्तेमाल करने की मंजूरी है, जिसे सामान्य व्यावसायिक चैटबॉट संभाल नहीं सकते।

GovTech AI-सहायित सॉफ्टवेयर इंजीनियरिंग और low-code तरीकों पर भी काम कर रहा है, ताकि तकनीकी टीमें और सरकारी कर्मचारी प्रोटोटाइप बना सकें या वर्कफ़्लो को अधिक तेजी से स्वचालित कर सकें। पहले की रिपोर्टों में AI code assistants, AI-सहायित इंजीनियरिंग और ऐसे टूल्स की योजनाओं का उल्लेख किया गया था, जो विभागों को प्रोटोटाइप को अधिक सुरक्षित वातावरण में ले जाने में मदद करें।

प्रशिक्षण भी इस ढांचे का अहम हिस्सा है। GovTech सरकारी कर्मचारियों के लिए डेटा और AI सीखने की सामग्री उपलब्ध कराता है। इसके अलावा, सिंगापुर की व्यापक कार्यबल योजनाओं में तकनीकी पेशेवरों को स्वचालित कोडिंग और agentic systems पर काम करने के लिए AI कौशल देने वाले कार्यक्रम शामिल हैं।

व्यावहारिक लक्ष्य यह है कि AI का इस्तेमाल करने वाले कर्मचारी यह समझें कि किस काम में AI उपयुक्त है, तकनीकी टीमें बनाए गए सिस्टम का मूल्यांकन और सुरक्षा कर सकें, और विभाग अलग-अलग असंबद्ध प्रयोगों के बजाय साझा प्लेटफॉर्म का इस्तेमाल करें।

सरकारी AI परियोजनाएं दिखाती हैं कि मूल्यांकन क्यों जरूरी है

GovTech का LangBuddy प्रोजेक्ट इस बात का उदाहरण है कि AI ऐप्लिकेशन को उसके वास्तविक उद्देश्य के आधार पर परखा जाना चाहिए। LangBuddy एक AI voice chatbot है, जिसे छात्रों को अपनी मातृभाषा में बातचीत का अभ्यास कराने के लिए बनाया गया है।

ऐसे उत्पाद का मूल्यांकन केवल इस आधार पर नहीं हो सकता कि चैटबॉट धाराप्रवाह जवाब देता है या नहीं। GovTech के मूल्यांकन में सुरक्षा, hallucination यानी गलत या गढ़ी हुई जानकारी देने का जोखिम और तय शैक्षणिक नियमों के पालन जैसे पहलुओं को देखा जाता है।

यही सिद्धांत अन्य सार्वजनिक सेवाओं पर भी लागू होता है। विभागों को यह जांचना होगा कि AI सिस्टम वही काम करता है जिसके लिए उसे बनाया गया है, अपनी सीमाओं का पालन करता है और वास्तविक बातचीत में स्वीकार्य ढंग से व्यवहार करता है—सिर्फ इसलिए नहीं कि उसका जवाब सुनने में विश्वसनीय लगता है।

साइबर सुरक्षा: बुनियादी जरूरत भी और AI का उपयोग-क्षेत्र भी

यही गवर्नेंस सोच GovTech की साइबर सुरक्षा रणनीति में भी दिखाई देती है। इसकी क्षमताओं में सुरक्षित सिस्टम डिजाइन, red-team exercises, penetration testing, crowdsourced vulnerability disclosure और blue-team गतिविधियां शामिल हैं, जिनका उद्देश्य खतरों का पता लगाना और उनका जवाब देना है।

GovTech AI-सहायित penetration testing और security-operations centre में स्वचालित incident triage का भी परीक्षण कर रहा है। इस तरह AI सुरक्षा प्रक्रिया के दोनों पक्षों पर इस्तेमाल हो रहा है—कमजोरियां खोजने में भी और रक्षकों को घटनाओं की प्राथमिकता तय करने में भी।

कुछ रिपोर्टों में लगभग 2,000 सरकारी डिजिटल सिस्टम्स के संदर्भ में सुरक्षा परीक्षण को बड़े पैमाने पर बढ़ाने की बात आती है। उपलब्ध सामग्री red-teaming, penetration testing और AI-सहायित सुरक्षा संचालन की व्यापक दिशा का समर्थन करती है, लेकिन यह स्थापित नहीं करती कि हर एक सिस्टम पर लगातार AI परीक्षण पहले से चल रहा है।

सिंगापुर की व्यापक रणनीति के लिए इसका क्या अर्थ है?

इन पहलों को तीन जुड़े हुए उद्देश्यों के रूप में समझा जा सकता है:

1. सार्वजनिक सेवाओं में सुधार: सहायक और एजेंट रिपोर्ट लेखन, विश्लेषण, कोडिंग और नियमित वर्कफ़्लो संभाल सकते हैं। इससे सरकारी कर्मचारियों को जटिल मामलों और नागरिकों से सीधे जुड़े काम के लिए अधिक समय मिल सकता है।
2. देश के भीतर तकनीकी क्षमता मजबूत करना: साझा प्लेटफॉर्म, मूल्यांकन टूल, सुरक्षा परतें और प्रशिक्षण सिंगापुर को किसी एक मॉडल प्रदाता या व्यावसायिक उत्पाद पर पूरी तरह निर्भर होने से बचाने में मदद कर सकते हैं।
3. जनविश्वास और राष्ट्रीय प्रणालियों की सुरक्षा: रजिस्ट्री, अनुमतियां, auditability, सुरक्षा परीक्षण और साइबर रक्षा AI के सरकारी डेटा और कामकाज तक पहुंच बढ़ने के साथ निगरानी बनाए रखते हैं।

सिंगापुर का केंद्रीय सबक यह है कि AI को सुरक्षित तरीके से बड़े पैमाने पर लागू करना केवल बेहतर मॉडल चुनने का सवाल नहीं है। यह एक architecture problem भी है। सिंगापुर AI को सरकारी कामकाज में व्यापक रूप से उपलब्ध कराने की कोशिश कर रहा है, लेकिन साथ ही स्वामित्व, अनुमतियां, परीक्षण और गतिविधियों की निगरानी को उन संस्थानों के सामने स्पष्ट रखना चाहता है जो सार्वजनिक सेवाओं के लिए जिम्मेदार हैं।