सिंगापुर–माइक्रोसॉफ्ट का Frontier AI Safety Plan: 12 जून के MOU की पूरी समझ

• system को कौन-कौन से actions की अनुमति है;
• अस्पष्ट या विरोधाभासी निर्देश मिलने पर वह कैसे प्रतिक्रिया देता है;
• वह संवेदनशील data और tools तक कितनी पहुंच रखता है;
• और technical controls किसी हानिकारक या अनचाहे action को रोक सकते हैं या नहीं।

Multilingual testing इसलिए महत्वपूर्ण है क्योंकि किसी model के safeguards हर भाषा, बोली, शैली या सांस्कृतिक संदर्भ में एक जैसा काम नहीं कर सकते। हानिकारक इरादा, jailbreak prompt या अस्पष्ट निर्देश अलग-अलग भाषाओं और registers में अलग रूप ले सकते हैं। MOU evaluation और research का ढांचा बताता है; यह किसी विशिष्ट model की deployment की घोषणा नहीं करता।

2. जानकारी, अनुभव और governance practices साझा करना

दोनों पक्ष AI governance frameworks, best practices और testing से मिली जानकारी साझा करने की योजना बना रहे हैं। इसका उद्देश्य technical testing को वास्तविक operational decisions से जोड़ना है—जैसे कौन-से risks की जांच हो, safety thresholds क्या हों, model तक किसे पहुंच मिले और गंभीर कमजोरी मिलने पर क्या प्रक्रिया अपनाई जाए।

यह केवल model benchmarking से व्यापक दृष्टिकोण है। कोई model benchmark में शानदार प्रदर्शन कर सकता है, फिर भी public-service या critical-infrastructure setting के लिए अनुपयुक्त हो सकता है, यदि उसकी access permissions, monitoring, disclosure process या human oversight पर्याप्त न हो।

3. Frontier models के लिए trusted access policy

MOU का तीसरा क्षेत्र frontier models तक trusted access के लिए policy approaches तलाशना है। इसका अर्थ है—उन्नत models को वैध सुरक्षा परीक्षण और उपयोगी research के लिए उपलब्ध कराया जाए, लेकिन उनकी क्षमताओं और risks के अनुरूप safeguards के बिना उन्हें खुली पहुंच न दी जाए।

इस तरह समझौता AI safety को एक layered process के रूप में देखता है: system का परीक्षण करें, findings साझा करें, जरूरत पड़ने पर access सीमित करें और governance rules के जरिए accountability तय करें।

Claude Mythos का संदर्भ क्यों महत्वपूर्ण है?

Anthropic का Claude Mythos Preview frontier AI के dual-use risk का एक उदाहरण है। Anthropic के अनुसार, उसने लगभग 50 Project Glasswing partners के साथ restricted model का इस्तेमाल करके systemically important software में 10,000 से अधिक high- या critical-severity vulnerabilities खोजीं। कंपनी ने यह भी बताया कि Mythos major operating systems और browsers में vulnerabilities को पहचानने और exploit करने में सक्षम था, जिनमें zero-day flaws भी शामिल थे।

यह क्षमता defenders के लिए उपयोगी हो सकती है, क्योंकि इससे security researchers हमलावरों से पहले flaws खोज सकते हैं। लेकिन यदि ऐसी capability को बहुत व्यापक रूप से जारी कर दिया जाए या ठीक से नियंत्रित न किया जाए, तो vulnerability मिलने से exploitation तक का समय भी कम हो सकता है। इसी वजह से Anthropic ने Mythos को सार्वजनिक रूप से जारी करने के बजाय Project Glasswing के तहत सीमित access में रखा।

फिर भी उपलब्ध evidence यह साबित नहीं करता कि Claude Mythos ने विशेष रूप से 12 जून के Singapore–Microsoft MOU को जन्म दिया या उसी ने उसे प्रेरित किया। Mythos को उस तेजी से बदलते risk environment के उदाहरण के रूप में देखना अधिक उचित है, जिसके कारण structured evaluation, controlled access और governance frameworks की जरूरत बढ़ रही है।

व्यवहार में AI safety कैसी दिखती है?

Restricted access खुद एक safety control है

Project Glasswing का limited-access model अपने आप में risk-management measure है। Anthropic ने model को सार्वजनिक रूप से जारी करने के बजाय चुने हुए partners को defensive security work के लिए access दिया। इससे exposure सीमित रहता है और security teams model की क्षमताओं का अध्ययन भी कर पाती हैं।

हालांकि restricted access कोई पूर्ण safety system नहीं है। इसकी प्रभावशीलता vetting, monitoring, secure handling और responsible disclosure पर निर्भर करती है। फिर भी यह trusted-access principle को स्पष्ट करता है: किसी frontier model की access उसकी capability और risk के अनुरूप होनी चाहिए, न कि उसे सामान्य public software release की तरह उपलब्ध करा दिया जाए।

Vulnerability खोजने के बाद remediation जरूरी है

किसी flaw की पहचान केवल पहला कदम है। Singapore की Cyber Security Agency (CSA) ने संगठनों को critical और high-severity vulnerabilities patch करने, सभी interfaces और gateways पर multi-factor authentication लागू करने तथा अनावश्यक access rights की समीक्षा करने की सलाह दी है। इससे organizations की जांच और repair प्रक्रिया पूरी होने तक attackers के लिए कमजोरियों का फायदा उठाना कठिन हो सकता है।

उपलब्ध evidence के आधार पर यह कहना भी जल्दबाजी होगी कि Mythos द्वारा मिली लगभग 10,000 vulnerabilities में से बड़ी संख्या ठीक की जा चुकी है। एक बाद के assessment में maintainers को 1,596 disclosures और केवल 97 fixes रिपोर्ट किए गए। इसका अर्थ यह नहीं कि Project Glasswing से कोई defensive benefit नहीं मिला, लेकिन “कई findings ठीक कर दी गईं” जैसे व्यापक दावों को सावधानी से देखना चाहिए।

इससे एक व्यावहारिक सबक सामने आता है: AI safety केवल model behavior की technical testing नहीं है। इसमें risk की पहचान, responsible disclosure, fixes को प्राथमिकता देना और remediation पूरी होने तक exposure कम करना भी शामिल है।

Microsoft की भूमिका और MOU की सीमाएं

Microsoft frontier-model development, enterprise infrastructure और AI systems की evaluation तथा access control को operational रूप देने का अनुभव लेकर आता है। लेकिन MOU का घोषित दायरा किसी एक Microsoft model तक सीमित नहीं है। यह सामान्य रूप से frontier models के safety testing और trusted access के तरीकों पर केंद्रित है।

दिए गए evidence से Microsoft के MAI model, Azure AI Foundry के जरिए OpenAI और Anthropic models तक access, या UK AI Security Institute तथा US Centre for AI Standards and Innovation के साथ कथित समान समझौतों को Singapore–Microsoft MOU की औपचारिक commitments के रूप में स्थापित नहीं किया जा सकता। इसलिए इन बातों को इस समझौते का हिस्सा बताना उचित नहीं होगा।

इस partnership का व्यापक लक्ष्य: trusted AI ecosystem

समझौते के अलग-अलग हिस्से मिलकर AI safety की एक व्यावहारिक श्रृंखला बनाते हैं:

1. Evaluate करें: advanced और agentic systems की जांच करें, जिसमें अलग-अलग भाषाओं में उनका व्यवहार भी शामिल हो।
2. Exchange करें: technical findings, governance practices और testing से मिले lessons साझा करें।
3. Access नियंत्रित करें: जिन models की capabilities elevated risks पैदा करती हैं, उनकी पहुंच सीमित और जिम्मेदारी तय करें।
4. Respond करें: responsible disclosure, patching, authentication और permission controls के जरिए जोखिम घटाएं।
5. Policy बनाएं: तय करें कि frontier systems को sensitive environments में कब और किस तरह इस्तेमाल किया जा सकता है।

यही इस MOU का वास्तविक महत्व है। यह समझौता frontier AI को अपने आप सुरक्षित नहीं बनाता और Claude Mythos जैसे systems से जुड़े risks का समाधान भी अकेले नहीं करता। इसके बजाय यह technical evaluation को access governance और cybersecurity practices से जोड़ता है—ताकि अत्यधिक क्षमता को readiness का पर्याय मानने से पहले advanced AI को अधिक safe, secure, reliable और accountable बनाया जा सके।