मारिया रेसा की चेतावनी: AI पर अभी कानून बनाइए, वरना इंसानी निर्णय-क्षमता कमजोर पड़ सकती है

मारिया रेसा की ओस्लो में दी गई चेतावनी साफ थी: कृत्रिम बुद्धिमत्ता पर कानूनी सीमाएं अभी तय कीजिए, क्योंकि बाद में उसका प्रभाव इतना गहरा हो सकता है कि उसे नियंत्रित करना कठिन हो जाए। उनके मुताबिक, AI ने सोशल मीडिया के जरिए पहले ही मानव ध्यान और सामाजिक व्यवहार को प्रभावित किया है; अगला चरण लोगों की स्वतंत्र रूप से निर्णय लेने की क्षमता—यानी उनकी स्वायत्तता—को कमजोर कर सकता है। 2

रेसा AI नियमन को अभिव्यक्ति की स्वतंत्रता पर रोक का मामला नहीं, बल्कि जन-सुरक्षा और लोकतंत्र का प्रश्न मानती हैं। उनकी चिंता यह है कि क्या लोकतांत्रिक समाज ऐसे लागू होने वाले सुरक्षा-नियम समय रहते बना पाएंगे, जब उच्च-स्वायत्तता वाले सिस्टम इंसानों और दुनिया के बीच रोजमर्रा के मध्यस्थ बनते जा रहे हों। 23

AI प्रभाव की रेसा की ‘तीन लहरें’

रेसा ने समझाया कि तकनीक धीरे-धीरे इंसानी व्यवहार पर अधिक असर डाल सकती है:

1. सोशल मीडिया ने ध्यान को कब्जे में लिया। उनके अनुसार, जुड़ाव बढ़ाने के लिए बने प्लेटफॉर्मों ने समाज में ध्रुवीकरण और लोगों के अलगाव को बढ़ावा दिया। 26
2. चैटबॉट्स अंतरंगता की जरूरत का फायदा उठा सकते हैं। रेसा का तर्क है कि बातचीत करने वाला AI, साथ और भावनात्मक निकटता की मानव जरूरत के जरिए व्यवहार को प्रभावित कर सकता है। कुछ ‘कंपैनियन चैटबॉट’ उत्पाद खास तौर पर मानवीय साथ का अनुभव देने और कुछ मामलों में रोमांटिक रिश्ते जैसा संवाद बनाए रखने के लिए तैयार किए जाते हैं। 212
3. एजेंटिक AI लोगों की ओर से काम कर सकता है। तीसरी लहर ऐसे AI सिस्टमों की है जो उपयोगकर्ता के behalf पर कदम उठा सकें। रेसा की आशंका है कि यदि हम लगातार ज्यादा फैसले और काम ऐसे सिस्टमों को सौंपते गए, तो मानवीय विवेक और स्वायत्तता धीरे-धीरे पीछे छूट सकती है। 25

यह कहना नहीं है कि हर AI टूल का नतीजा एक जैसा होगा। चेतावनी उन प्रोत्साहनों को लेकर है जिनमें किसी सिस्टम का लक्ष्य जुड़ाव, भावनात्मक निर्भरता या काम पूरा कराने की दर को अधिकतम करना हो। ऐसे सिस्टम के पास उपयोगकर्ता क्या देखता, महसूस करता और करता है, इस पर बढ़ता प्रभाव हो सकता है।

‘नियम बनाने से चीन को फायदा होगा’ वाली दलील पर रेसा का जवाब

रेसा ने उस तर्क को खारिज किया कि अमेरिका या यूरोप में कड़े AI नियम लागू करने से चीन को प्रतिस्पर्धात्मक बढ़त मिल जाएगी। रॉयटर्स के अनुसार, उन्होंने इस तरह की दलील—जिसे अमेरिकी राष्ट्रपति डोनाल्ड ट्रंप समेत कुछ आलोचकों ने उठाया है—को बहस पेश करने का भ्रामक तरीका बताया। 28

उनकी तुलना यह थी कि चीन पहले ही तकनीक पर सिलिकॉन वैली की स्वीकार्य सीमाओं से काफी अधिक राज्य नियंत्रण लागू करता है। इसलिए लोकतंत्रों के सामने विकल्प केवल ‘नियमन बनाम आजादी’ का नहीं है। असल सवाल यह है कि वे जनहित और अधिकारों का सम्मान करने वाले नियम बनाते हैं या प्रभावशाली सिस्टमों को मुख्यतः कंपनियों के व्यावसायिक प्रोत्साहनों के भरोसे छोड़ देते हैं। 2

डारियो अमोदेई की ‘गति धीमी करने’ की अपील से संबंध

एंथ्रॉपिक के मुख्य कार्यकारी डारियो अमोदेई ने भी अत्याधुनिक AI क्षमताओं की वृद्धि की रफ्तार कम करने की बात कही है। सितंबर 2026 में प्रकाशित अपने लेख में उन्होंने कहा कि डेवलपर्स को क्षमता-वृद्धि की गति इस तरह तय करनी चाहिए कि सुरक्षा पर काम, स्वतंत्र मूल्यांकन और शासन-व्यवस्था उसके साथ चल सकें। 10

अमोदेई की चिंता तेजी से बढ़ती तकनीकी क्षमता और उसके दुरुपयोग के जोखिम पर अधिक केंद्रित है। उन्होंने आगाह किया कि अधिक सक्षम AI एजेंट ऑनलाइन बड़े पैमाने पर कामकाजी प्रभाव हासिल कर सकते हैं। उनका प्रस्ताव इस्तेमाल के दौरान मॉडलों की निगरानी की व्यवस्था और स्वतंत्र मूल्यांकन को मजबूत करने का है। 10

रेसा का फोकस इससे व्यापक नागरिक सरोकारों पर है—ध्यान, अंतरंगता, व्यवहार और लोकतांत्रिक आत्मनिर्णय पर AI-मध्यस्थ प्रणालियों के असर पर। फिर भी दोनों की बात एक बिंदु पर मिलती है: शक्तिशाली सिस्टमों के बड़े पैमाने पर इस्तेमाल के बाद सुरक्षा उपायों को टालना उचित नहीं है।

जवाबदेही व्यवहार में कैसी दिख सकती है?

रेसा का कहना है कि जब कंपनियां लत पैदा करने वाली डिजाइन विशेषताओं के साथ उत्पाद बनाती हैं, तब केवल स्वैच्छिक आश्वासन पर्याप्त नहीं हैं। उन्होंने कहा कि ऐसी विशेषताएं सिर्फ किशोरों के लिए नहीं, वयस्कों के लिए भी हटाई जानी चाहिए। 2

मेटा से जुड़ा हालिया अमेरिकी समझौता उस प्रकार की लागू होने वाली जवाबदेही का उदाहरण है जिसकी रेसा वकालत करती हैं। मेटा ने लगभग सभी अमेरिकी राज्यों के दावों को निपटाने के लिए अगले 10 वर्षों में अधिकतम 18 अरब डॉलर देने और फेसबुक व इंस्टाग्राम के किशोर उपयोग पर कड़े प्रतिबंध लगाने पर सहमति दी। दावों में आरोप था कि इन प्लेटफॉर्मों को युवा उपयोगकर्ताओं को बांधे रखने के लिए डिजाइन किया गया था। मेटा ने गलत काम स्वीकार नहीं किया।

समझौते में किशोर उपयोगकर्ताओं के लिए डिफॉल्ट दैनिक समय-सीमा और रात के समय उपयोग पर पाबंदी समेत कई सुरक्षा उपाय शामिल हैं।

रेसा के लिए सबक केवल सोशल मीडिया या कम उम्र के उपयोगकर्ताओं तक सीमित नहीं है। ध्यान और व्यवहार को व्यवस्थित रूप से अनुकूलित करने वाले उत्पाद बड़े पैमाने पर सार्वजनिक नुकसान पैदा कर सकते हैं। इसलिए AI नियमन की उनकी मांग तकनीक या भाषण पर प्रतिबंध नहीं, बल्कि उन स्थितियों में स्पष्ट कानूनी जिम्मेदारी तय करने की मांग है जहां तकनीक का डिजाइन या इस्तेमाल सुरक्षा, स्वायत्तता या लोकतांत्रिक जीवन को कमजोर करता हो। 23

मुख्य बात

रेसा का संदेश AI निगरानी को शुरुआती हस्तक्षेप का मुद्दा बनाता है। जब सिस्टम इस बात में गहराई से शामिल हो जाएं कि लोग जानकारी कैसे पाते हैं, रिश्ते कैसे बनाते हैं और फैसले किसे सौंपते हैं, तब प्रभावी नियंत्रण ज्यादा मुश्किल हो जाता है।

उनकी सलाह है कि उससे पहले कानून बनें: डेवलपर्स और प्लेटफॉर्मों से सार्थक जवाबदेही मांगी जाए, बढ़ती स्वायत्तता वाले सिस्टमों की कड़ी जांच हो, और सार्वजनिक संस्थानों के पास केवल निजी कंपनियों पर निर्भर रहने के बजाय तकनीक का आकलन और शासन करने की क्षमता हो। 210