UN की पहली AI सुरक्षा रिपोर्ट: 5 बड़े खतरे और क्यों दुनिया नियमन में पिछड़ रही है

धोखेबाज AI व्यवहार (Deceptive AI Behavior): UN के वैज्ञानिक सलाहकार बोर्ड के अनुसार, AI धोखाधड़ी तब होती है जब कोई AI सिस्टम अपने ज्ञान, इरादे या क्षमताओं के बारे में लोगों या अन्य सिस्टम को गुमराह करता है - यह सामान्य गलतियों या मतिभ्रम (hallucinations) से अलग है । इस तरह के व्यवहार के सबूत आमतौर पर इस्तेमाल होने वाली AI प्रणालियों में पहले ही देखे जा चुके हैं, और AI के अधिक सक्षम और स्वायत्त होने के साथ यह जोखिम बढ़ने की उम्मीद है ।

सूचना अखंडता का क्षरण (Erosion of Information Integrity): रिपोर्ट ऑडियो और वीडियो के AI-सक्षम निर्माण और हेरफेर को सूचना अखंडता के लिए प्रत्यक्ष खतरे के रूप में चिह्नित करती है, जो ध्रुवीकरण को बढ़ावा देता है और सार्वजनिक चर्चा में विश्वास को कमजोर करता है ।

मानसिक स्वास्थ्य और भलाई को नुकसान (Harms to Mental Health): सामान्य-उद्देश्य वाले AI से कई नुकसान पहले से ही स्पष्ट हैं। इनमें घोटाले, गैर-सहमति वाली अंतरंग छवियां (NCII), और बाल यौन शोषण सामग्री (CSAM) शामिल हैं, जो सीधे मानसिक स्वास्थ्य को नुकसान पहुंचाते हैं ।

साइबर सुरक्षा और धोखाधड़ी जोखिम (Cybersecurity and Fraud Risks): AI-संबंधित साइबर सुरक्षा खतरों और धोखाधड़ी की रोकथाम के आकलन के लिए मानकीकृत दृष्टिकोण सीमित हैं, जो बचाव क्षमताओं में एक गंभीर अंतर छोड़ते हैं ।

वैश्विक शासन का अंतर

रिपोर्ट एक मूलभूत संरचनात्मक समस्या को रेखांकित करती है: AI विज्ञान और नियमन की तुलना में तेजी से आगे बढ़ रहा है, और वर्तमान में AI जोखिमों का स्वतंत्र रूप से आकलन करने के लिए कोई आधिकारिक अंतरराष्ट्रीय संस्थागत कार्य मौजूद नहीं हैं । अधिकांश देशों के पास उन्नत AI मॉडलों का मूल्यांकन करने की क्षमता ही नहीं है, जिससे AI क्षमताओं वाले कुछ राज्यों और कंपनियों तथा बाकी दुनिया के बीच खाई चौड़ी हो रही है ।

यह अंतर सिर्फ काल्पनिक नहीं है। रिपोर्ट में कहा गया है कि नीति निर्माताओं के सामने एक बढ़ती हुई दुविधा है: उन्हें AI को नियंत्रित करने के लिए वैज्ञानिक प्रमाणों की आवश्यकता है, लेकिन इसकी क्षमताएं विज्ञान से ही आगे निकल रही हैं ।

पैनल कैसे काम करता है: 'AI के लिए IPCC'

यह पैनल स्पष्ट रूप से जलवायु परिवर्तन पर अंतर-सरकारी पैनल (IPCC) और जैव विविधता और पारिस्थितिकी तंत्र सेवाओं पर अंतर-सरकारी विज्ञान-नीति मंच (IPBES) पर आधारित है । इस विज्ञान-नीति मॉडल का मतलब है कि सरकारें पैनल द्वारा जांचे जाने वाले प्रश्नों को निर्धारित करने में मदद करती हैं, लेकिन वैज्ञानिक साक्ष्यों के आकलन, रिपोर्ट तैयार करने और वैज्ञानिक निष्कर्षों की अखंडता को बनाए रखने की पूरी जिम्मेदारी लेते हैं ।

मुख्य संरचनात्मक विवरण:

• अधिदेश (Mandate): पैनल को AI के अवसरों, जोखिमों और प्रभावों पर वार्षिक साक्ष्य-आधारित वैज्ञानिक रिपोर्ट तैयार करने का अधिदेश है। यह चिंता के विषयों पर विषयगत ब्रीफिंग भी तैयार कर सकता है ।
• सीमा: पैनल विज्ञान का आकलन और संश्लेषण करता है - यह नियम निर्धारित नहीं करता, बाध्यकारी नियम नहीं बनाता, या नीतियों को लागू नहीं करता ।
• संरचना: विविध पृष्ठभूमि के 40 अग्रणी वैज्ञानिक और विशेषज्ञ, जो अपनी व्यक्तिगत क्षमता में सेवा दे रहे हैं ।
• पहला कार्य: पैनल ने जुलाई 2026 की समय सीमा से पहले अपना पहला आमने-सामने शिखर सम्मेलन आयोजित किया और पहली रिपोर्ट पर काम शुरू किया ।

वैश्विक AI शासन संवाद क्या करेगा?

पहली वार्षिक रिपोर्ट को 6-7 जुलाई, 2026 को जिनेवा में होने वाले पहले वैश्विक AI शासन संवाद (Global Dialogue on AI Governance) में औपचारिक रूप से प्रस्तुत किया जाएगा । ग्लोबल डायलॉग की स्थापना पैनल के साथ ही UN महासभा के प्रस्ताव A/RES/79/325 के तहत एक ऐसे मंच के रूप में की गई थी जिसमें सरकारें और सभी संबंधित हितधारक AI शासन पर चर्चा कर सकें । इसके अधिदेश में AI विभाजन को पाटना, क्षमता निर्माण करना और खंडित नीतियों से अधिक सुसंगत अंतरराष्ट्रीय ढांचे की ओर बढ़ना शामिल है ।

यह क्यों मायने रखता है?

रिपोर्ट जानबूझकर गैर-निर्देशात्मक (non-prescriptive) है: यह विशिष्ट नीतियों या नियमों की सिफारिश नहीं करती । इसकी ताकत एक विश्वसनीय, स्वतंत्र और अंतरराष्ट्रीय स्तर पर स्वीकृत साक्ष्य आधार स्थापित करने में है, जिसका उपयोग सरकारें, नियामक और आम जनता AI जोखिम के बारे में सूचित निर्णय लेने के लिए कर सकते हैं । जैसा कि UN महासचिव एंटोनियो गुटेरेस ने कहा, दुनिया को तत्काल 'कृत्रिम बुद्धिमत्ता की एक साझा, वैश्विक समझ की आवश्यकता है; जो विचारधारा पर नहीं, बल्कि विज्ञान पर आधारित हो; नकली खबरों पर नहीं, बल्कि ज्ञान पर आधारित हो' ।