योशुआ बेंजियो: हम ऐसी AI बना रहे हैं जिसे हम नियंत्रित करना नहीं जानते

ऑटोनॉमस एजेंट: "सबसे ख़तरनाक रास्ता"

हालांकि बेंजियो AI के मौजूदा परिदृश्य में कई ख़तरे देखते हैं, लेकिन उनकी सबसे कड़ी चेतावनी पूर्णतः ऑटोनॉमस एजेंटों के लिए है—ऐसे सिस्टम जो न्यूनतम मानवीय हस्तक्षेप के साथ लक्ष्यों का पीछा करने के लिए डिज़ाइन किए गए हैं। उन्होंने साफ तौर पर इन्हें वर्तमान में अपनाया जा रहा "सबसे ख़तरनाक रास्ता" कहा है ।

उनका तर्क सिहरन पैदा करने वाला है, लेकिन साफ है: "एजीआई (आर्टिफिशियल जनरल इंटेलिजेंस) या सुपरइंटेलिजेंस के सभी विनाशकारी परिदृश्य तभी घटित होते हैं जब हमारे पास एजेंट हों" । जब किसी AI को एक लक्ष्य और ऑटोनॉमस रूप से कार्य करने की शक्ति दे दी जाती है, तो उस लक्ष्य को पाने की इसकी तीव्र इच्छा अनपेक्षित और बेकाबू परिणामों को जन्म दे सकती है। इस ढांचे में नियंत्रण खोने का जोखिम कोई बग नहीं है; बल्कि यह एक संभावित रूप से सुपरइंटेलिजेंट सिस्टम को स्वतंत्र क्षमता देने का एक स्वाभाविक परिणाम है। वे चेतावनी देते हैं कि इससे "विनाशकारी परिदृश्य" पैदा हो सकते हैं, जिनमें ऑटोनॉमस सिस्टम पर से मानव नियंत्रण का अपरिवर्तनीय रूप से खो जाना भी शामिल है ।

एक व्यक्तिगत आत्म-मंथन और गहरा पश्चाताप

एक अग्रणी शोधकर्ता से वैश्विक चेतावनी देने वाले व्यक्ति में बदलाव, बेंजियो के लिए कोई नैदानिक निर्णय नहीं था। यह बहुत ही व्यक्तिगत था। उन्होंने अपने पश्चाताप के बारे में खुलकर बात की है। उन्होंने स्वीकार किया, "मुझे यह बहुत पहले ही भांप लेना चाहिए था, लेकिन मैंने संभावित विनाशकारी जोखिमों पर ज़्यादा ध्यान नहीं दिया" .

बेंजियो के लिए, दो घटनाओं ने अमूर्त जोखिम को एक असहनीय वास्तविकता में बदल दिया। पहला था ChatGPT का सार्वजनिक लॉन्च, जिसने उन्हें दिखाया कि भविष्य उनकी कल्पना से कहीं अधिक तेज़ी से आ रहा है। दूसरा बहुत ही निजी था: उस दुनिया के बारे में सोचना जो उनके पोते को विरासत में मिलेगी। उन्होंने समझाया, "मेरे लिए टर्निंग प्वाइंट तब आया जब ChatGPT आया, और अपने पोते के साथ भी, मुझे एहसास हुआ कि यह साफ नहीं था कि अब से 20 साल बाद उसका जीवन सुरक्षित होगा या नहीं, क्योंकि हम ऐसे AI सिस्टम देखना शुरू कर रहे हैं जो बंद किए जाने का विरोध कर रहे हैं" । इस अहसास ने उन्हें अस्तित्वगत जोखिमों को संबोधित करने वाले सबसे मुखर अधिवक्ताओं में से एक बना दिया, जो उनके शब्दों में "एक असहनीय भावना" से प्रेरित है ।

अमेरिका और चीन के नेतृत्व में एक नए वैश्विक ढाँचे की माँग

बेंजियो इस बात पर अडिग हैं कि कोई भी एक राष्ट्र अकेला इस समस्या का समाधान नहीं कर सकता। उन्होंने स्पष्ट रूप से तर्क दिया है कि कनाडा अलग-थलग रहकर AI को विनियमित नहीं कर सकता और यह कि अंतर्राष्ट्रीय समन्वय अपरिहार्य है । उन्नत AI की सुरक्षा पर अंतर्राष्ट्रीय वैज्ञानिक रिपोर्ट के अध्यक्ष के रूप में—एक सलाहकार पैनल जिसे 30 देशों, यूरोपीय संघ और संयुक्त राष्ट्र का समर्थन प्राप्त है—वे वैज्ञानिक साक्ष्य और वैश्विक नीति के बीच एक पुल बनाने का काम कर रहे हैं ।

गवर्नेंस के लिए उनका दृष्टिकोण व्यावहारिक और विशिष्ट है। उनके विचार में, विनियमों के तहत यह अनिवार्य होना चाहिए कि कंपनियाँ अपने AI सिस्टम की क्षमताओं, जिस डेटा पर उन्हें प्रशिक्षित किया गया है, उनके द्वारा उपभोग किए जाने वाले संसाधनों, उनसे उत्पन्न विशिष्ट जोखिमों, और उन मुद्दों से निपटने के लिए उनकी आंतरिक प्रक्रियाओं के बारे में पूरी तरह पारदर्शी रहें । महत्वपूर्ण बात यह है कि इस प्रयास के लिए दुनिया की AI महाशक्तियों के बीच जुड़ाव की आवश्यकता है। अमेरिका और चीन के नेतृत्व के बिना, इन सुरक्षा मानकों को अनिवार्य करने वाले बाध्यकारी नियम केवल आकांक्षाएँ बनकर रह जाएंगे। उनका तर्क है कि यह समस्या अब राष्ट्रीय और वैश्विक सुरक्षा, दोनों का मामला बन गई है ।

सुरंग के अंत में रोशनी: साइंटिस्ट AI और लॉज़ीरो

सालों तक, बेंजियो की चेतावनियाँ लगभग निराशाजनक अंतिमता लिए हुए लगती थीं। अब यह बदल गया है। जून 2025 में, उन्होंने लॉज़ीरो लॉन्च किया, जो मॉन्ट्रियल में स्थित एक गैर-लाभकारी अनुसंधान प्रयोगशाला है और जिसे जान टालिन, एरिक श्मिड्ट, फ्यूचर ऑफ लाइफ इंस्टिट्यूट और ओपन फिलैंथ्रोपी जैसे समर्थकों से लगभग 30 मिलियन डॉलर की फ़ंडिंग प्राप्त हुई है । यह नाम जानबूझकर आइज़क असिमोव के रोबोटिक्स के ज़ीरोथ नियम का संदर्भ है: एक ऐसा निर्देश जो मानवता की सुरक्षा को सबसे ऊपर रखता है । बेंजियो इसके सह-अध्यक्ष और वैज्ञानिक निदेशक के रूप में कार्य करते हैं ।

संगठन का मिशन एक ऐसे तकनीकी विकल्प को विकसित और प्रमाणित करना है जिसे बेंजियो "साइंटिस्ट AI" कहते हैं। आज के लक्ष्य-संचालित ऑटोनॉमस एजेंटों के विपरीत, एक साइंटिस्ट AI एक गैर-एजेंटिक प्रणाली है जो पूरी तरह से समझ, व्याख्या और सत्यापन पर केंद्रित है । यह दुनिया में स्वतंत्र कार्रवाइयां नहीं करता, बल्कि सत्य की खोज करने वाले एक संरक्षक के रूप में कार्य करता है, जो अन्य, अधिक एजेंटिक AI सिस्टम के भीतर धोखे, विसंगति और ख़तरनाक योजनाओं का पता लगाने के लिए डिज़ाइन किया गया है । इसका आउटपुट अपारदर्शी आदेशों के बजाय पारदर्शी तर्क और संभाव्यता आकलन होता है ।

"इंसानों की नकल करने वाली AI बनाने के बजाय, बेंजियो एक ऐसी AI चाहते हैं जो एक तटस्थ वैज्ञानिक की तरह काम करे—जो आत्म-संरक्षण और अनियंत्रित क्षमता के जोखिमों को कम करे" । यह प्रयोगशाला विश्व स्तरीय शोधकर्ताओं की एक टीम को इकट्ठा करती है जो व्यावसायिक अनिवार्यताओं पर सुरक्षा को प्राथमिकता देने के लिए समर्पित है, और इसका लक्ष्य अगली पीढ़ी के AI मॉडल को डिजाइन-दर-सुरक्षा की नींव पर बनाना है, न कि बाद में सुरक्षा उपाय जोड़ना ।

इस ढाँचे की शुरुआत ने बेंजियो के दृष्टिकोण को बदल दिया है। पहले वे उस बयान के प्रमुख हस्ताक्षरकर्ताओं में से एक थे जिसमें AI जोखिम को महामारियों और परमाणु युद्ध के समकक्ष बताया गया था, लेकिन अब उनका कहना है कि इस तकनीकी दृष्टिकोण ने उन्हें पहली बार "बहुत बड़े अंतर से" आशान्वित बना दिया है । दुःस्वप्न पूरी तरह से गायब नहीं हुए हैं, लेकिन उनका मानना है कि उन्होंने वह ठोस नींव खोज ली होगी जिस पर एक सुरक्षित भविष्य का निर्माण किया जा सकता है।