यह खतरा सामान्य ऑफिस IT तक सीमित नहीं है। सरकारी प्लेटफॉर्म, क्लाउड सेवाएं और Critical Information Infrastructure (CII)—यानी बिजली, संचार, वित्त, परिवहन और अन्य आवश्यक सेवाओं से जुड़ी डिजिटल प्रणालियां—महत्वपूर्ण सेवाओं तथा ऑपरेशनल टेक्नोलॉजी (OT) वातावरण तक पहुंच दे सकती हैं। यदि हमलावर इंटरनेट पर खुले सिस्टम की जांच और उनका एक्सप्लॉइट बड़े पैमाने पर स्वचालित कर सकें, तो एक अनदेखी कमजोरी भी ढूंढना और उसका दुरुपयोग करना आसान हो जाएगा।
फ्रंटियर मॉडल फिशिंग और किसी व्यक्ति या संस्था का रूप धरने वाले अभियानों को भी अधिक प्रभावी बना सकते हैं। CSA के मुताबिक, AI बड़े पैमाने पर भरोसेमंद दिखने वाले फिशिंग संदेश, वास्तविक जैसी आवाज की नकल और वीडियो डीपफेक तैयार कर सकता है। ऐसे टूल भी विकसित किए जा सकते हैं, जो मल्टी-फैक्टर ऑथेंटिकेशन को दरकिनार करने की कोशिश करें। इसलिए हमला सिर्फ सॉफ्टवेयर की कमजोरी पर निर्भर नहीं रहेगा; पहचान, अनुमतियां और इंसानी निर्णय भी महत्वपूर्ण निशाने बनेंगे।
Anthropic ने Claude Mythos Preview को कंप्यूटर-सुरक्षा कार्यों में अत्यधिक सक्षम मॉडल बताया है और महत्वपूर्ण सॉफ्टवेयर को रक्षात्मक तरीके से सुरक्षित करने के लिए Project Glasswing शुरू किया है। हालांकि, मॉडल की सबसे प्रभावशाली सार्वजनिक क्षमताओं की स्वतंत्र पुष्टि अभी सीमित है। Anthropic ने इसे व्यापक रूप से जारी करने के बजाय नियंत्रित पहुंच के तहत रखा है।
सिंगापुर सरकार ने कहा है कि उसके पास Mythos की पहुंच नहीं है और वह यह मानकर नहीं चलती कि उसे हर भविष्य के फ्रंटियर मॉडल तक शुरुआती पहुंच मिल जाएगी। इसके बजाय, सरकार AI लैब, साइबर सुरक्षा कंपनियों और अन्य साझेदारों के साथ काम कर रही है, ताकि नई क्षमताओं पर नजर रखी जा सके और उनके सुरक्षा प्रभावों का आकलन किया जा सके।
यह अंतर महत्वपूर्ण है। कोई भी संगठन अपनी सुरक्षा योजना को किसी एक मॉडल की जांच पर आधारित नहीं कर सकता। अलग-अलग मॉडल, टूल और हमले के तरीके उपलब्ध होने के बावजूद प्रभावी रहने वाले सुरक्षा नियंत्रण जरूरी हैं।
CSA और GovTech ने CII संचालकों तथा सरकारी एजेंसियों को फ्रंटियर AI के जोखिमों के बारे में सतर्क किया है। तत्काल कदम व्यावहारिक हैं:
ये कदम नए नहीं हैं, लेकिन फ्रंटियर AI के दौर में देरी ज्यादा महंगी साबित हो सकती है। लक्ष्य है—हमलावरों के लिए उपलब्ध कमजोरियों की संख्या घटाना और किसी समस्या की पहचान से लेकर उसके समाधान तक का समय कम करना।
AI-सक्षम साइबर सुरक्षा टीमों को खतरे पहचानने, अलर्ट की प्राथमिकता तय करने, घटनाओं की जांच करने और कमजोरियों को जल्दी खोजकर ठीक करने में मदद कर सकती है। सिंगापुर की CSIT AI-आधारित वर्कफ्लो और fuzzing सिस्टम विकसित कर रही है, जो मिशन-क्रिटिकल सॉफ्टवेयर में zero-day कमजोरियां खोजने में मदद कर सकते हैं। इसके साथ adversarial emulation का उपयोग हमलावरों से पहले आर्किटेक्चर की कमियां उजागर करने के लिए किया जा रहा है।
लेकिन रक्षात्मक AI खुद नई सुरक्षा जिम्मेदारियां पैदा करती है। CSA का कहना है कि केवल AI मॉडल को harden करना पर्याप्त नहीं है। सिस्टम संचालकों को AI के पूरे जीवनचक्र में जोखिमों का आकलन करना चाहिए—योजना और डिजाइन, विकास, तैनाती, संचालन और रखरखाव, तथा अंत-of-life चरणों में। इसका अर्थ है कि केवल मॉडल के व्यवहार ही नहीं, बल्कि ट्रेनिंग और ऑपरेशनल डेटा, इंटरफेस, निर्भरताएं, सप्लाई चेन, एक्सेस कंट्रोल और मॉनिटरिंग को भी सुरक्षित करना होगा।
मानवीय सत्यापन भी जरूरी रहेगा। खासकर तब, जब AI किसी पैच की सिफारिश करे, किसी घटना को वर्गीकृत करे या ऐसा जवाब सुझाए, जिसका असर ऑपरेशनल टेक्नोलॉजी अथवा सार्वजनिक सेवाओं पर पड़ सकता हो।
सिंगापुर की नीति बुनियादी सुरक्षा नियंत्रणों को लगातार परीक्षण के साथ जोड़ती है। CII संचालक पहले से थर्ड-पार्टी ऑडिट और नियमित penetration testing कराते हैं तथा उनकी रिपोर्ट CSA को भेजते हैं। सरकार ने यह भी स्पष्ट किया है कि सुरक्षा नियंत्रणों को केवल समय-समय पर होने वाले ऑडिट के लिए नहीं, बल्कि लगातार मजबूत किया जाना चाहिए।
इस दृष्टिकोण को तीन शब्दों में समझा जा सकता है: लॉक डाउन, फाइंड फर्स्ट, फिक्स फास्ट। व्यवहार में इसका मतलब है—एसेट इन्वेंटरी बनाए रखना, लगातार vulnerability scanning करना, तेजी से पैच लगाना, नेटवर्क और विशेषाधिकारों को अलग-अलग रखना, सॉफ्टवेयर व निर्भरताओं का परीक्षण करना और रिकवरी का अभ्यास करना।
जो कंपनियां CII संचालक के रूप में नामित नहीं हैं, उन्हें भी इंटरनेट-फेसिंग सेवाओं, पहचान प्रणालियों, क्लाउड कंसोल और संवेदनशील थर्ड-पार्टी कनेक्शनों पर यही प्राथमिकताएं लागू करनी चाहिए।
कोई एक संस्था हर फ्रंटियर AI क्षमता या हर संभावित हमले के रास्ते पर नजर नहीं रख सकती। सरकारी एजेंसियों, CII संचालकों, क्लाउड और टेक्नोलॉजी प्रदाताओं, सुरक्षा शोधकर्ताओं तथा अकादमिक संस्थानों को उपयोगी संकेतक, कमजोरियों की जानकारी और अभ्यासों से मिले सबक तेजी से साझा करने होंगे।
कुछ जानकारी स्वाभाविक रूप से गोपनीय या classified रहेगी। सिंगापुर ने कहा है कि वह CII संचालकों के साथ चुनिंदा classified threat intelligence साझा करेगा और उन्हें रक्षात्मक टूल भी उपलब्ध कराएगा। इसलिए संगठनों को CSA की एडवाइजरी पर तुरंत कार्रवाई करनी चाहिए और जहां विस्तृत स्रोत साझा नहीं किए जा सकते, वहां sanitized यानी साझा करने योग्य खतरे की जानकारी का उपयोग करना चाहिए।
राष्ट्रीय स्तर के अभ्यास भी इसी मॉडल का हिस्सा हैं। Critical Infrastructure Defence Exercise (CIDeX) में 11 महत्वपूर्ण क्षेत्रों के साथ AI-संचालित साइबर हमले के सिमुलेशन किए गए हैं। इन अभ्यासों का उद्देश्य राष्ट्रीय साइबर लचीलापन और विभिन्न संस्थाओं के बीच समन्वय बेहतर करना है।
फ्रंटियर AI साइबर सुरक्षा के बुनियादी सिद्धांतों को खत्म नहीं करता; वह उन्हें नजरअंदाज करने की कीमत बढ़ा देता है। सिंगापुर की निकट अवधि की सबसे मजबूत सुरक्षा तेज पैचिंग, MFA, least-privilege पहुंच, लगातार निगरानी, adversarial testing, सुरक्षित AI अपनाने और त्वरित सूचना-साझाकरण के मेल से बनेगी।
जो संगठन स्वचालित हमलावर से पहले अपनी कमजोरियां खोज लेंगे, उनके पास फ्रंटियर मॉडल की क्षमताओं के आगे बढ़ने के साथ सबसे बड़ा सुरक्षा लाभ होगा।
यह खतरा सामान्य ऑफिस IT तक सीमित नहीं है। सरकारी प्लेटफॉर्म, क्लाउड सेवाएं और Critical Information Infrastructure (CII)—यानी बिजली, संचार, वित्त, परिवहन और अन्य आवश्यक सेवाओं से जुड़ी डिजिटल प्रणालियां—महत्वपूर्ण सेवाओं तथा ऑपरेशनल टेक्नोलॉजी (OT) वातावरण तक पहुंच दे सकती हैं। यदि हमलावर इंटरनेट पर खुले सिस्टम की जांच और उनका एक्सप्लॉइट बड़े पैमाने पर स्वचालित कर सकें, तो एक अनदेखी कमजोरी भी ढूंढना और उसका दुरुपयोग करना आसान हो जाएगा।
फ्रंटियर मॉडल फिशिंग और किसी व्यक्ति या संस्था का रूप धरने वाले अभियानों को भी अधिक प्रभावी बना सकते हैं। CSA के मुताबिक, AI बड़े पैमाने पर भरोसेमंद दिखने वाले फिशिंग संदेश, वास्तविक जैसी आवाज की नकल और वीडियो डीपफेक तैयार कर सकता है। ऐसे टूल भी विकसित किए जा सकते हैं, जो मल्टी-फैक्टर ऑथेंटिकेशन को दरकिनार करने की कोशिश करें। इसलिए हमला सिर्फ सॉफ्टवेयर की कमजोरी पर निर्भर नहीं रहेगा; पहचान, अनुमतियां और इंसानी निर्णय भी महत्वपूर्ण निशाने बनेंगे।
Anthropic ने Claude Mythos Preview को कंप्यूटर-सुरक्षा कार्यों में अत्यधिक सक्षम मॉडल बताया है और महत्वपूर्ण सॉफ्टवेयर को रक्षात्मक तरीके से सुरक्षित करने के लिए Project Glasswing शुरू किया है। हालांकि, मॉडल की सबसे प्रभावशाली सार्वजनिक क्षमताओं की स्वतंत्र पुष्टि अभी सीमित है। Anthropic ने इसे व्यापक रूप से जारी करने के बजाय नियंत्रित पहुंच के तहत रखा है।
सिंगापुर सरकार ने कहा है कि उसके पास Mythos की पहुंच नहीं है और वह यह मानकर नहीं चलती कि उसे हर भविष्य के फ्रंटियर मॉडल तक शुरुआती पहुंच मिल जाएगी। इसके बजाय, सरकार AI लैब, साइबर सुरक्षा कंपनियों और अन्य साझेदारों के साथ काम कर रही है, ताकि नई क्षमताओं पर नजर रखी जा सके और उनके सुरक्षा प्रभावों का आकलन किया जा सके।
यह अंतर महत्वपूर्ण है। कोई भी संगठन अपनी सुरक्षा योजना को किसी एक मॉडल की जांच पर आधारित नहीं कर सकता। अलग-अलग मॉडल, टूल और हमले के तरीके उपलब्ध होने के बावजूद प्रभावी रहने वाले सुरक्षा नियंत्रण जरूरी हैं।
CSA और GovTech ने CII संचालकों तथा सरकारी एजेंसियों को फ्रंटियर AI के जोखिमों के बारे में सतर्क किया है। तत्काल कदम व्यावहारिक हैं:
ये कदम नए नहीं हैं, लेकिन फ्रंटियर AI के दौर में देरी ज्यादा महंगी साबित हो सकती है। लक्ष्य है—हमलावरों के लिए उपलब्ध कमजोरियों की संख्या घटाना और किसी समस्या की पहचान से लेकर उसके समाधान तक का समय कम करना।
AI-सक्षम साइबर सुरक्षा टीमों को खतरे पहचानने, अलर्ट की प्राथमिकता तय करने, घटनाओं की जांच करने और कमजोरियों को जल्दी खोजकर ठीक करने में मदद कर सकती है। सिंगापुर की CSIT AI-आधारित वर्कफ्लो और fuzzing सिस्टम विकसित कर रही है, जो मिशन-क्रिटिकल सॉफ्टवेयर में zero-day कमजोरियां खोजने में मदद कर सकते हैं। इसके साथ adversarial emulation का उपयोग हमलावरों से पहले आर्किटेक्चर की कमियां उजागर करने के लिए किया जा रहा है।
लेकिन रक्षात्मक AI खुद नई सुरक्षा जिम्मेदारियां पैदा करती है। CSA का कहना है कि केवल AI मॉडल को harden करना पर्याप्त नहीं है। सिस्टम संचालकों को AI के पूरे जीवनचक्र में जोखिमों का आकलन करना चाहिए—योजना और डिजाइन, विकास, तैनाती, संचालन और रखरखाव, तथा अंत-of-life चरणों में। इसका अर्थ है कि केवल मॉडल के व्यवहार ही नहीं, बल्कि ट्रेनिंग और ऑपरेशनल डेटा, इंटरफेस, निर्भरताएं, सप्लाई चेन, एक्सेस कंट्रोल और मॉनिटरिंग को भी सुरक्षित करना होगा।
मानवीय सत्यापन भी जरूरी रहेगा। खासकर तब, जब AI किसी पैच की सिफारिश करे, किसी घटना को वर्गीकृत करे या ऐसा जवाब सुझाए, जिसका असर ऑपरेशनल टेक्नोलॉजी अथवा सार्वजनिक सेवाओं पर पड़ सकता हो।
सिंगापुर की नीति बुनियादी सुरक्षा नियंत्रणों को लगातार परीक्षण के साथ जोड़ती है। CII संचालक पहले से थर्ड-पार्टी ऑडिट और नियमित penetration testing कराते हैं तथा उनकी रिपोर्ट CSA को भेजते हैं। सरकार ने यह भी स्पष्ट किया है कि सुरक्षा नियंत्रणों को केवल समय-समय पर होने वाले ऑडिट के लिए नहीं, बल्कि लगातार मजबूत किया जाना चाहिए।
इस दृष्टिकोण को तीन शब्दों में समझा जा सकता है: लॉक डाउन, फाइंड फर्स्ट, फिक्स फास्ट। व्यवहार में इसका मतलब है—एसेट इन्वेंटरी बनाए रखना, लगातार vulnerability scanning करना, तेजी से पैच लगाना, नेटवर्क और विशेषाधिकारों को अलग-अलग रखना, सॉफ्टवेयर व निर्भरताओं का परीक्षण करना और रिकवरी का अभ्यास करना।
जो कंपनियां CII संचालक के रूप में नामित नहीं हैं, उन्हें भी इंटरनेट-फेसिंग सेवाओं, पहचान प्रणालियों, क्लाउड कंसोल और संवेदनशील थर्ड-पार्टी कनेक्शनों पर यही प्राथमिकताएं लागू करनी चाहिए।
कोई एक संस्था हर फ्रंटियर AI क्षमता या हर संभावित हमले के रास्ते पर नजर नहीं रख सकती। सरकारी एजेंसियों, CII संचालकों, क्लाउड और टेक्नोलॉजी प्रदाताओं, सुरक्षा शोधकर्ताओं तथा अकादमिक संस्थानों को उपयोगी संकेतक, कमजोरियों की जानकारी और अभ्यासों से मिले सबक तेजी से साझा करने होंगे।
कुछ जानकारी स्वाभाविक रूप से गोपनीय या classified रहेगी। सिंगापुर ने कहा है कि वह CII संचालकों के साथ चुनिंदा classified threat intelligence साझा करेगा और उन्हें रक्षात्मक टूल भी उपलब्ध कराएगा। इसलिए संगठनों को CSA की एडवाइजरी पर तुरंत कार्रवाई करनी चाहिए और जहां विस्तृत स्रोत साझा नहीं किए जा सकते, वहां sanitized यानी साझा करने योग्य खतरे की जानकारी का उपयोग करना चाहिए।
राष्ट्रीय स्तर के अभ्यास भी इसी मॉडल का हिस्सा हैं। Critical Infrastructure Defence Exercise (CIDeX) में 11 महत्वपूर्ण क्षेत्रों के साथ AI-संचालित साइबर हमले के सिमुलेशन किए गए हैं। इन अभ्यासों का उद्देश्य राष्ट्रीय साइबर लचीलापन और विभिन्न संस्थाओं के बीच समन्वय बेहतर करना है।
फ्रंटियर AI साइबर सुरक्षा के बुनियादी सिद्धांतों को खत्म नहीं करता; वह उन्हें नजरअंदाज करने की कीमत बढ़ा देता है। सिंगापुर की निकट अवधि की सबसे मजबूत सुरक्षा तेज पैचिंग, MFA, least-privilege पहुंच, लगातार निगरानी, adversarial testing, सुरक्षित AI अपनाने और त्वरित सूचना-साझाकरण के मेल से बनेगी।
जो संगठन स्वचालित हमलावर से पहले अपनी कमजोरियां खोज लेंगे, उनके पास फ्रंटियर मॉडल की क्षमताओं के आगे बढ़ने के साथ सबसे बड़ा सुरक्षा लाभ होगा।