सिंगापुर का नया AI Tester Accreditation Programme (AI TAP) क्या है और यह कैसे काम करेगा

सिंगापुर की डिजिटल विकास और सूचना मंत्री जोसेफीन टियो (Josephine Teo) ने मई 2026 में एक अंतरराष्ट्रीय एआई सुरक्षा कार्यक्रम के दौरान इस पहल की घोषणा की।

कार्यक्रम की वर्तमान समयरेखा इस प्रकार है:

• लॉन्च करने वाला संगठन: AI Verify Foundation
• संभावित शुरुआत: 2026 की दूसरी छमाही
• प्रमाणन आवेदन शुरू होने की संभावना: 2026 की तीसरी तिमाही के आसपास

सिंगापुर ने AI TAP क्यों बनाया

AI TAP का मुख्य उद्देश्य एआई सुरक्षा परीक्षण सेवाओं में भरोसा बढ़ाना है।

आज कई कंपनियां अपने एआई सिस्टम की कमजोरियों की जांच के लिए बाहरी विशेषज्ञों या “रेड‑टीम” टेस्टर्स की मदद लेती हैं। लेकिन इन टेस्टिंग कंपनियों की गुणवत्ता और विश्वसनीयता अलग‑अलग हो सकती है।

AI TAP इस समस्या का समाधान करने की कोशिश करता है। यह एक औपचारिक मानक प्रणाली बनाता है जिससे यह तय हो सके कि कौन‑सी टेस्टिंग कंपनी वास्तव में योग्य है।

यह पहल सिंगापुर की उस व्यापक रणनीति का हिस्सा भी है जिसका लक्ष्य एक भरोसेमंद एआई इकोसिस्टम बनाना है—जहां नवाचार और सुरक्षा दोनों साथ‑साथ चलें।

इसके लिए पहले से कुछ पहलें मौजूद हैं, जैसे:

• AI Verify Testing Framework — यह कंपनियों को यह जांचने में मदद करता है कि उनका एआई सिस्टम अंतरराष्ट्रीय एआई गवर्नेंस सिद्धांतों का पालन करता है या नहीं।
• Global AI Assurance Pilot और Sandbox — यह पहल एआई का इस्तेमाल करने वाली कंपनियों को विशेष टेस्टिंग फर्मों से जोड़ती है ताकि वास्तविक दुनिया के एआई सिस्टम का परीक्षण किया जा सके।

AI TAP कंपनियों को कैसे प्रमाणित करेगा

AI TAP के तहत आवेदन करने वाली टेस्टिंग कंपनियों का मूल्यांकन दो मुख्य स्तरों पर किया जाएगा।

1. तकनीकी क्षमता का मूल्यांकन

कंपनियों को यह दिखाना होगा कि उनके परीक्षण तरीके एआई परीक्षण से जुड़े स्थापित दिशानिर्देशों के अनुरूप हैं। इसमें शामिल हो सकता है:

• बड़े भाषा मॉडल (LLM) एप्लिकेशन की सुरक्षा जांच
• विश्वसनीयता और मजबूती (robustness) का परीक्षण
• सुरक्षा कमजोरियों और संभावित शोषण (exploit) की खोज

कंपनियों को यह भी दिखाना होगा कि उनके पास संरचित टेस्टिंग मेथडोलॉजी और उपयुक्त डेटा सेट मौजूद हैं।

2. संगठनात्मक और संचालन मूल्यांकन

तकनीकी क्षमता के अलावा, कंपनी के संचालन से जुड़ी विश्वसनीयता भी जांची जाएगी। इसमें शामिल हो सकता है:

• कंपनी की प्रतिष्ठा और पिछला रिकॉर्ड
• विशेषज्ञ कर्मचारियों और संचालन क्षमता
• वित्तीय स्थिरता
• घोषित सेवाओं और वास्तविक क्षमता का मेल

इस दो‑स्तरीय प्रक्रिया का उद्देश्य यह सुनिश्चित करना है कि प्रमाणित टेस्टर्स तकनीकी रूप से सक्षम होने के साथ‑साथ भरोसेमंद भी हों।

एआई सिस्टम में किन जोखिमों की जांच की जाएगी

हालांकि AI TAP ने अभी कोई एक आधिकारिक चेकलिस्ट जारी नहीं की है, लेकिन सिंगापुर के एआई एश्योरेंस प्रोजेक्ट्स में आमतौर पर कुछ प्रमुख जोखिमों की जांच की जाती है:

• सुरक्षा कमजोरियां और सिस्टम को बायपास करने की कोशिशें
• खतरनाक या अनुचित कंटेंट उत्पन्न करने की संभावना
• डेटा लीक का खतरा, खासकर RAG (Retrieval‑Augmented Generation) सिस्टम में
• बहुभाषी सुरक्षा समस्याएं, जहां एक भाषा में गार्डरेल्स काम करते हैं लेकिन दूसरी में नहीं
• सटीकता और स्थिरता की समस्याएं, जैसे गलत या काल्पनिक उत्तर

कुछ परीक्षणों में यह पाया गया कि अंग्रेजी में सुरक्षित दिखने वाले गार्डरेल्स अन्य भाषाओं में विफल हो सकते हैं और RAG सिस्टम कभी‑कभी संवेदनशील जानकारी लीक होने का जोखिम बढ़ा सकते हैं।

एआई सुरक्षा परीक्षण में इस्तेमाल होने वाली तकनीकें

एआई टेस्टिंग फर्म आमतौर पर स्वचालित परीक्षण और मानव विशेषज्ञों की समीक्षा—दोनों का संयोजन इस्तेमाल करती हैं। उदाहरण के तौर पर:

• Adversarial prompting और red‑teaming, जिससे सिस्टम की “जेलब्रेक” कमजोरियां खोजी जाती हैं
• Synthetic datasets बनाकर दुर्लभ या जटिल परिस्थितियों का परीक्षण
• Accuracy benchmarking, जैसे वर्गीकरण या सूचना खोज की सटीकता
• Human‑in‑the‑loop मूल्यांकन, जहां विशेषज्ञ आउटपुट की समीक्षा करते हैं
• LLM‑as‑judge तकनीक, जहां एआई मॉडल बड़े पैमाने पर परिणामों का मूल्यांकन करने में मदद करते हैं

इन तरीकों से टेस्टर्स एआई सिस्टम के प्रदर्शन और उसकी सुरक्षा व्यवस्था—दोनों का आकलन कर सकते हैं।

वैश्विक एआई सुरक्षा पर इसका संभावित प्रभाव

AI TAP एक महत्वपूर्ण समस्या को संबोधित करता है: एआई सुरक्षा परीक्षण खुद कितना विश्वसनीय है।

यदि टेस्टर्स को ही प्रमाणित किया जाए, तो इसके कई संभावित फायदे हो सकते हैं:

• कंपनियों को बाहरी एआई सुरक्षा विशेषज्ञ चुनने में अधिक भरोसा
• एआई सुरक्षा परीक्षण के लिए स्पष्ट मानक
• विभिन्न उद्योगों में परीक्षण परिणामों की बेहतर तुलना
• एआई डेवलपर्स और स्वतंत्र सुरक्षा ऑडिटर्स के बीच बेहतर सहयोग

क्योंकि इसे एशिया का पहला ऐसा कार्यक्रम माना जा रहा है, यह अन्य देशों को भी अपने एआई एश्योरेंस सिस्टम बनाने के लिए प्रेरित कर सकता है।

अभी क्या बातें स्पष्ट नहीं हैं

हालांकि कार्यक्रम की संरचना घोषित हो चुकी है, कुछ विवरण अभी सार्वजनिक नहीं हैं, जैसे:

• प्रमाणन का सटीक स्कोरिंग मॉडल
• अनिवार्य परीक्षण प्रोटोकॉल
• क्या अलग‑अलग उद्योगों (जैसे स्वास्थ्य या वित्त) के लिए अलग मानक होंगे

संभावना है कि ये विवरण तब सामने आएंगे जब 2026 में आवेदन प्रक्रिया शुरू होगी और पहली कंपनियों को प्रमाणन मिलेगा।

बड़ी तस्वीर

एआई सुरक्षा परीक्षण अब आधुनिक एआई सिस्टम के उपयोग का एक जरूरी हिस्सा बनता जा रहा है। सरकारों और कंपनियों दोनों को ऐसे तरीकों की जरूरत है जिनसे यह सुनिश्चित किया जा सके कि एआई सुरक्षित, भरोसेमंद और जिम्मेदार तरीके से इस्तेमाल हो रहा है।

सिंगापुर का AI TAP एक अलग दृष्टिकोण अपनाता है—यह सीधे एआई सिस्टम को नहीं बल्कि उन्हें जांचने वाले विशेषज्ञों को प्रमाणित करता है।

अगर यह मॉडल सफल होता है, तो भविष्य में ऐसे कार्यक्रम वैश्विक स्तर पर एआई गवर्नेंस और सुरक्षा ढांचे का महत्वपूर्ण हिस्सा बन सकते हैं।