उत्तरप्रकाशित18 स्रोत
सिंगापुर का नया AI Tester Accreditation Programme (AI TAP) क्या है और यह कैसे काम करेगा
मई 2026 में घोषित सिंगापुर का AI Tester Accreditation Programme (AI TAP) स्वतंत्र कंपनियों को प्रमाणित करेगा जो एआई सिस्टम की सुरक्षा और कमजोरियों की जांच करती हैं। [18] प्रमाणन के लिए कंपनियों का तकनीकी क्षमता और संगठनात्मक विश्वसनीयता—दोनों आधारों पर मूल्यांकन किया जाएगा। [19] इस कार्यक्रम का उद्देश्य एआई सुरक्षा...
AI संकेत
openai.comCreate a landscape editorial hero image for this Studio Global article: Singapore’s AI Tester Accreditation Programme (AI TAP): How the New System Will Certify AI Safety Testers. Article summary: Singapore’s AI Tester Accreditation Programme (AI TAP), announced in 2026, will certify independent firms that test or “jailbreak” AI systems; launched by the AI Verify Foundation and expected to begin in the second h.... Topic tags: ai, ai safety, ai governance, ai testing, red teaming. Reference image context from search candidates: Reference image 1: visual subject "# Singapore to certify private sector AI testing firms. AI Verify Foundation’s new accreditation system will allow companies to use testing firms to assess weaknesses in their AI s" source context "Singapore to certify private sector AI testing firms" Reference image 2: visual subject "# Singapore to certify private sector AI test
कृत्रिम बुद्धिमत्ता (AI) अब वित्त, स्वास्थ्य सेवाओं, सरकारी सेवाओं और ग्राहक सहायता जैसे कई क्षेत्रों में तेजी से इस्तेमाल हो रही है। लेकिन जैसे‑जैसे ये सिस्टम अधिक शक्तिशाली होते जा रहे हैं, यह सुनिश्चित करना भी उतना ही जरूरी हो गया है कि वे सुरक्षित, भरोसेमंद और दुरुपयोग‑रोधी हों।
इसी चुनौती को ध्यान में रखते हुए सिंगापुर ने AI Tester Accreditation Programme (AI TAP) की घोषणा की। मई 2026 में घोषित यह पहल उन स्वतंत्र कंपनियों को प्रमाणित करेगी जो एआई सिस्टम में सुरक्षा खामियां, जोखिम या सुरक्षा उपायों की विफलताओं की जांच करती हैं।
सरल शब्दों में, यह कार्यक्रम कंपनियों को यह तय करने में मदद करेगा कि कौन‑सी एआई टेस्टिंग फर्म वास्तव में विश्वसनीय और सक्षम है।
AI Tester Accreditation Programme (AI TAP) क्या है
AI TAP एक राष्ट्रीय स्तर की मान्यता (accreditation) प्रणाली है जो उन थर्ड‑पार्टी संगठनों को प्रमाणित करेगी जो एआई सिस्टम की जांच करते हैं।
ये संगठन निम्न चीजों का परीक्षण कर सकते हैं:
- एआई मॉडल या एआई‑आधारित एप्लिकेशन
- सिस्टम की सुरक्षा कमजोरियां
- सुरक्षा गार्डरेल्स की विफलता
- विश्वसनीयता या स्थिरता से जुड़ी समस्याएं
इस कार्यक्रम के तहत कंपनियां ऐसे टेस्टर्स चुन सकेंगी जिनकी क्षमता स्वतंत्र रूप से सत्यापित की जा चुकी हो।
विशेषज्ञ इसे एशिया का पहला ऐसा प्रमाणन कार्यक्रम मानते हैं जो खास तौर पर एआई टेस्टिंग संगठनों के लिए बनाया गया है और जिसका लक्ष्य एआई एश्योरेंस सेवाओं के लिए एक मानक स्थापित करना है।
इसे कौन लॉन्च कर रहा है और कब शुरू होगा
AI TAP को AI Verify Foundation लॉन्च कर रहा है। यह एक गैर‑लाभकारी संगठन है जिसका उद्देश्य भरोसेमंद एआई परीक्षण और मानकों के विकास को बढ़ावा देना है। यह संगठन सिंगापुर की सरकारी एजेंसी Infocomm Media Development Authority (IMDA) की सहायक इकाई है।
सिंगापुर की डिजिटल विकास और सूचना मंत्री जोसेफीन टियो (Josephine Teo) ने मई 2026 में एक अंतरराष्ट्रीय एआई सुरक्षा कार्यक्रम के दौरान इस पहल की घोषणा की।
कार्यक्रम की वर्तमान समयरेखा इस प्रकार है:
- लॉन्च करने वाला संगठन: AI Verify Foundation
- संभावित शुरुआत: 2026 की दूसरी छमाही
- प्रमाणन आवेदन शुरू होने की संभावना: 2026 की तीसरी तिमाही के आसपास
सिंगापुर ने AI TAP क्यों बनाया
AI TAP का मुख्य उद्देश्य एआई सुरक्षा परीक्षण सेवाओं में भरोसा बढ़ाना है।
आज कई कंपनियां अपने एआई सिस्टम की कमजोरियों की जांच के लिए बाहरी विशेषज्ञों या “रेड‑टीम” टेस्टर्स की मदद लेती हैं। लेकिन इन टेस्टिंग कंपनियों की गुणवत्ता और विश्वसनीयता अलग‑अलग हो सकती है।
AI TAP इस समस्या का समाधान करने की कोशिश करता है। यह एक औपचारिक मानक प्रणाली बनाता है जिससे यह तय हो सके कि कौन‑सी टेस्टिंग कंपनी वास्तव में योग्य है।
यह पहल सिंगापुर की उस व्यापक रणनीति का हिस्सा भी है जिसका लक्ष्य एक भरोसेमंद एआई इकोसिस्टम बनाना है—जहां नवाचार और सुरक्षा दोनों साथ‑साथ चलें।
इसके लिए पहले से कुछ पहलें मौजूद हैं, जैसे:
- AI Verify Testing Framework — यह कंपनियों को यह जांचने में मदद करता है कि उनका एआई सिस्टम अंतरराष्ट्रीय एआई गवर्नेंस सिद्धांतों का पालन करता है या नहीं।
- Global AI Assurance Pilot और Sandbox — यह पहल एआई का इस्तेमाल करने वाली कंपनियों को विशेष टेस्टिंग फर्मों से जोड़ती है ताकि वास्तविक दुनिया के एआई सिस्टम का परीक्षण किया जा सके।
AI TAP कंपनियों को कैसे प्रमाणित करेगा
AI TAP के तहत आवेदन करने वाली टेस्टिंग कंपनियों का मूल्यांकन दो मुख्य स्तरों पर किया जाएगा।
1. तकनीकी क्षमता का मूल्यांकन
कंपनियों को यह दिखाना होगा कि उनके परीक्षण तरीके एआई परीक्षण से जुड़े स्थापित दिशानिर्देशों के अनुरूप हैं। इसमें शामिल हो सकता है:
- बड़े भाषा मॉडल (LLM) एप्लिकेशन की सुरक्षा जांच
- विश्वसनीयता और मजबूती (robustness) का परीक्षण
- सुरक्षा कमजोरियों और संभावित शोषण (exploit) की खोज
कंपनियों को यह भी दिखाना होगा कि उनके पास संरचित टेस्टिंग मेथडोलॉजी और उपयुक्त डेटा सेट मौजूद हैं।
2. संगठनात्मक और संचालन मूल्यांकन
तकनीकी क्षमता के अलावा, कंपनी के संचालन से जुड़ी विश्वसनीयता भी जांची जाएगी। इसमें शामिल हो सकता है:
- कंपनी की प्रतिष्ठा और पिछला रिकॉर्ड
- विशेषज्ञ कर्मचारियों और संचालन क्षमता
- वित्तीय स्थिरता
- घोषित सेवाओं और वास्तविक क्षमता का मेल
इस दो‑स्तरीय प्रक्रिया का उद्देश्य यह सुनिश्चित करना है कि प्रमाणित टेस्टर्स तकनीकी रूप से सक्षम होने के साथ‑साथ भरोसेमंद भी हों।
एआई सिस्टम में किन जोखिमों की जांच की जाएगी
हालांकि AI TAP ने अभी कोई एक आधिकारिक चेकलिस्ट जारी नहीं की है, लेकिन सिंगापुर के एआई एश्योरेंस प्रोजेक्ट्स में आमतौर पर कुछ प्रमुख जोखिमों की जांच की जाती है:
- सुरक्षा कमजोरियां और सिस्टम को बायपास करने की कोशिशें
- खतरनाक या अनुचित कंटेंट उत्पन्न करने की संभावना
- डेटा लीक का खतरा, खासकर RAG (Retrieval‑Augmented Generation) सिस्टम में
- बहुभाषी सुरक्षा समस्याएं, जहां एक भाषा में गार्डरेल्स काम करते हैं लेकिन दूसरी में नहीं
- सटीकता और स्थिरता की समस्याएं, जैसे गलत या काल्पनिक उत्तर
कुछ परीक्षणों में यह पाया गया कि अंग्रेजी में सुरक्षित दिखने वाले गार्डरेल्स अन्य भाषाओं में विफल हो सकते हैं और RAG सिस्टम कभी‑कभी संवेदनशील जानकारी लीक होने का जोखिम बढ़ा सकते हैं।
एआई सुरक्षा परीक्षण में इस्तेमाल होने वाली तकनीकें
एआई टेस्टिंग फर्म आमतौर पर स्वचालित परीक्षण और मानव विशेषज्ञों की समीक्षा—दोनों का संयोजन इस्तेमाल करती हैं। उदाहरण के तौर पर:
- Adversarial prompting और red‑teaming, जिससे सिस्टम की “जेलब्रेक” कमजोरियां खोजी जाती हैं
- Synthetic datasets बनाकर दुर्लभ या जटिल परिस्थितियों का परीक्षण
- Accuracy benchmarking, जैसे वर्गीकरण या सूचना खोज की सटीकता
- Human‑in‑the‑loop मूल्यांकन, जहां विशेषज्ञ आउटपुट की समीक्षा करते हैं
- LLM‑as‑judge तकनीक, जहां एआई मॉडल बड़े पैमाने पर परिणामों का मूल्यांकन करने में मदद करते हैं
इन तरीकों से टेस्टर्स एआई सिस्टम के प्रदर्शन और उसकी सुरक्षा व्यवस्था—दोनों का आकलन कर सकते हैं।
वैश्विक एआई सुरक्षा पर इसका संभावित प्रभाव
AI TAP एक महत्वपूर्ण समस्या को संबोधित करता है: एआई सुरक्षा परीक्षण खुद कितना विश्वसनीय है।
यदि टेस्टर्स को ही प्रमाणित किया जाए, तो इसके कई संभावित फायदे हो सकते हैं:
- कंपनियों को बाहरी एआई सुरक्षा विशेषज्ञ चुनने में अधिक भरोसा
- एआई सुरक्षा परीक्षण के लिए स्पष्ट मानक
- विभिन्न उद्योगों में परीक्षण परिणामों की बेहतर तुलना
- एआई डेवलपर्स और स्वतंत्र सुरक्षा ऑडिटर्स के बीच बेहतर सहयोग
क्योंकि इसे एशिया का पहला ऐसा कार्यक्रम माना जा रहा है, यह अन्य देशों को भी अपने एआई एश्योरेंस सिस्टम बनाने के लिए प्रेरित कर सकता है।
अभी क्या बातें स्पष्ट नहीं हैं
हालांकि कार्यक्रम की संरचना घोषित हो चुकी है, कुछ विवरण अभी सार्वजनिक नहीं हैं, जैसे:
- प्रमाणन का सटीक स्कोरिंग मॉडल
- अनिवार्य परीक्षण प्रोटोकॉल
- क्या अलग‑अलग उद्योगों (जैसे स्वास्थ्य या वित्त) के लिए अलग मानक होंगे
संभावना है कि ये विवरण तब सामने आएंगे जब 2026 में आवेदन प्रक्रिया शुरू होगी और पहली कंपनियों को प्रमाणन मिलेगा।
बड़ी तस्वीर
एआई सुरक्षा परीक्षण अब आधुनिक एआई सिस्टम के उपयोग का एक जरूरी हिस्सा बनता जा रहा है। सरकारों और कंपनियों दोनों को ऐसे तरीकों की जरूरत है जिनसे यह सुनिश्चित किया जा सके कि एआई सुरक्षित, भरोसेमंद और जिम्मेदार तरीके से इस्तेमाल हो रहा है।
सिंगापुर का AI TAP एक अलग दृष्टिकोण अपनाता है—यह सीधे एआई सिस्टम को नहीं बल्कि उन्हें जांचने वाले विशेषज्ञों को प्रमाणित करता है।
अगर यह मॉडल सफल होता है, तो भविष्य में ऐसे कार्यक्रम वैश्विक स्तर पर एआई गवर्नेंस और सुरक्षा ढांचे का महत्वपूर्ण हिस्सा बन सकते हैं।
Studio Global AI
Search, cite, and publish your own answer
Use this topic as a starting point for a fresh source-backed answer, then compare citations before you share it.
लोग पूछते भी हैं
"सिंगापुर का नया AI Tester Accreditation Programme (AI TAP) क्या है और यह कैसे काम करेगा" का संक्षिप्त उत्तर क्या है?
मई 2026 में घोषित सिंगापुर का AI Tester Accreditation Programme (AI TAP) स्वतंत्र कंपनियों को प्रमाणित करेगा जो एआई सिस्टम की सुरक्षा और कमजोरियों की जांच करती हैं। [18]
सबसे पहले सत्यापित करने योग्य मुख्य बिंदु क्या हैं?
मई 2026 में घोषित सिंगापुर का AI Tester Accreditation Programme (AI TAP) स्वतंत्र कंपनियों को प्रमाणित करेगा जो एआई सिस्टम की सुरक्षा और कमजोरियों की जांच करती हैं। [18] प्रमाणन के लिए कंपनियों का तकनीकी क्षमता और संगठनात्मक विश्वसनीयता—दोनों आधारों पर मूल्यांकन किया जाएगा। [19]
मुझे अभ्यास में आगे क्या करना चाहिए?
इस कार्यक्रम का उद्देश्य एआई सुरक्षा परीक्षण सेवाओं में भरोसा बढ़ाना और उद्योगों के लिए विश्वसनीय थर्ड‑पार्टी टेस्टर्स उपलब्ध कराना है। [18][19]
सूत्र
- 8world.com我国推出亚洲首个人工智能测试机构认证计划 - 8world
- assurance.aiverifyfoundation.sgIntroduction - Global AI Assurance Pilot - AI Verify Foundation
- zaobao.com.sg新加坡推亚洲首个AI测试认证计划为业者确立标准 - 联合早报
- smartnation.gov.sgNational AI Strategy | Smart Nation Singapore
- pdpc.gov.sgSingapore Launches New Tools to Help Businesses Protect Data ...
- assurance.aiverifyfoundation.sgTester Application Tested
- assurance.aiverifyfoundation.sg[PDF] HTX-x-Knovel.pdf
- assurance.aiverifyfoundation.sgVerify AI
- imda.gov.sgSingapore Launches New Model AI Governance Framework ... - IMDA
- assurance.aiverifyfoundation.sgExecutive Summary - Global AI Assurance Pilot
- sgpc.gov.sg[PDF] Singapore launches new tools to help businesses protect data and ...
- mddi.gov.sgSingapore Announces New AI Safety Initiatives at the Global AI ...
- imda.gov.sgArtificial Intelligence in Singapore | IMDA
- channelnewsasia.comthan 250 AI experts in Singapore to discuss global testing standard
- imda.gov.sgSingapore launches new tools to help businesses protect data and ...
- govinsider.asiaSingapore to certify private sector AI testing firms - GovInsider
- sbr.com.sgSingapore unveils new tools for data protection, safe AI use
- channelnewsasia.comCNA938 Rewind - Trusting in Singapore's future role in AI testing #SGToday