बिलाल चुघताई ने AI को लेकर इतनी गंभीर चेतावनी क्यों दी?

बिलाल चुघताई का बयान इस बात का दावा नहीं है कि AI का मानवता को नष्ट करना तय है। यह अस्तित्वगत जोखिम को लेकर एक कड़ी चेतावनी है। Google DeepMind छोड़ने के बाद उन्होंने कहा कि वहां वे AGI सुरक्षा और अलाइनमेंट पर काम करते थे, और उन्हें लगता है कि AI में “हम सभी को मारने” की क्षमता हो सकती है। उनके मुताबिक, इस नतीजे को रोकने का समय भी शायद तेजी से कम हो रहा है।

चुघताई की असल चिंता क्या है?

उनकी चिंता यह है कि AI की क्षमताएं इतनी तेजी से बढ़ सकती हैं कि उसे विश्वसनीय रूप से सुरक्षित और मानव नियंत्रण में रखने की क्षमता पीछे छूट जाए। उनका फोकस तकनीक की मौजूदा, या कहें ‘डिफॉल्ट’, दिशा पर है: कंपनियां अधिक शक्तिशाली सिस्टम बनाने की प्रतिस्पर्धा में हैं, जबकि पर्याप्त सुरक्षा उपाय, अलाइनमेंट शोध और सार्वजनिक निगरानी अभी तैयार नहीं हैं।

यहां अलाइनमेंट का मतलब है AI के लक्ष्यों और व्यवहार को इंसानों के इरादों, नियमों और सुरक्षा हितों के अनुरूप रखना। चुघताई का प्रस्ताव किसी एक कंपनी के अकेले रुक जाने का नहीं, बल्कि सामूहिक कदम उठाने का है। उन्होंने कहा कि कंपनियों को इस “बेकाबू दौड़” के बजाय आपसी समन्वय करना चाहिए और AI विकास की गति उतनी रखनी चाहिए, जितनी समाज सुरक्षित ढंग से संभाल सके। उभरते जोखिमों से निपटना बहुत बड़ा नुकसान होने से पहले जरूरी है।

दूसरे AI शोधकर्ताओं की चेतावनियों से संबंध

चुघताई का इस्तीफा ऐसे समय में सामने आया है जब उन्नत AI के जोखिमों पर शोधकर्ताओं और उद्योग प्रमुखों के सार्वजनिक बयान असामान्य रूप से सीधे हो गए हैं।

पूर्व Anthropic शोधकर्ता जैकब कॉक्सन ने कहा था कि उन्होंने इसलिए इस्तीफा दिया क्योंकि उन्हें लगा कि अग्रणी लैब्स खुद में सुधार करने वाली सुपरइंटेलिजेंस की ओर गैर-जिम्मेदार तरीके से बढ़ रही हैं। कॉक्सन के मुताबिक, AI बनाने वाले लोग ईमानदारी से मानते हैं कि यह दशक के अंत तक मानवता को नष्ट कर सकती है।

Anthropic के अलाइनमेंट शोधकर्ता इवान ह्यूबिंगर ने इस मूल चिंता से सहमति जताई थी। उनका निजी अनुमान था कि अगले दशक में AI से मानव विलुप्ति होने की संभावना 10% से अधिक है। हालांकि, उन्होंने यह भी कहा कि आज मौजूद मॉडल अपेक्षाकृत कम जोखिम वाले हैं।

ये किसी वैज्ञानिक सर्वसम्मति या अनुभवजन्य रूप से स्थापित संभावना के आंकड़े नहीं हैं, बल्कि अलग-अलग शोधकर्ताओं के निजी निर्णय हैं। फिर भी इन बयानों का सीमित लेकिन महत्वपूर्ण संदेश यह है कि अत्याधुनिक AI के बेहद खराब नतीजे इतने गंभीर हो सकते हैं कि क्षमताएं और बढ़ने से पहले ज्यादा सावधानी बरतना जरूरी है।

उन्नत AI की रफ्तार कम करने की मांग

चुघताई की बात Anthropic के CEO डारियो अमोदेई के रुख से मिलती है: सबसे उन्नत AI सिस्टम के विकास की गति को तब तक नियंत्रित रखा जाए, जब तक सुरक्षा उपाय और बाहरी निगरानी बेहतर न हो जाए। रिपोर्टों के अनुसार, OpenAI के CEO सैम ऑल्टमैन और एलन मस्क ने उद्योग-व्यापी रफ्तार कम करने के विचार का समर्थन किया है।

व्यावहारिक स्तर पर इसका अर्थ AI पर हमेशा के लिए प्रतिबंध लगाना नहीं है। Anthropic के Advanced AI Framework में सबसे सक्षम मॉडल बनाने वाली कंपनियों के लिए कुछ कदम सुझाए गए हैं, जिनमें शामिल हैं:

• विनाशकारी जोखिमों के लिए सिस्टम का परीक्षण;
• स्वतंत्र बाहरी मूल्यांकनकर्ताओं को शामिल करना;
• मूल्यांकन, जोखिम और सुरक्षा घटनाओं की नियमित जानकारी सार्वजनिक करना; और
• कंपनियों को सरकार के प्रति जवाबदेह बनाना, जिसमें खतरनाक तैनाती को रोकने या हतोत्साहित करने की शक्ति भी हो। 12

Anthropic की Responsible Scaling Policy भी ‘यदि-तो’ सिद्धांत पर आधारित है: यदि मॉडल में कुछ तय खतरनाक क्षमताएं दिखें, तो उचित सुरक्षा उपाय लागू होने तक उसे तैनात न किया जाए और उससे ज्यादा शक्तिशाली सिस्टम का प्रशिक्षण भी न बढ़ाया जाए। 8

विरोधी तर्क: क्या कड़े नियम अमेरिका की प्रतिस्पर्धा घटाएंगे?

इस बहस में तकनीकी मुद्दों के साथ भू-राजनीति भी जुड़ी है। विकास की रफ्तार कम करने के आलोचकों का कहना है कि बहुत कठोर सीमाएं प्रतिद्वंद्वी देशों या कम सतर्क कंपनियों को बढ़त दे सकती हैं।

अमेरिकी राष्ट्रपति डोनाल्ड ट्रंप ने माना कि AI के लिए कुछ सुरक्षा-नियमों की जरूरत पड़ सकती है, लेकिन उन्होंने सबसे गंभीर चेतावनियों को कम करके आंका। उनका कहना था कि उन्हें अमेरिका के चीन के मुकाबले अपनी बढ़त गंवाने की चिंता है।

यही इस विवाद का केंद्रीय तनाव है: क्या AI की अग्रिम सीमा पर गति कम करना अनिवार्य जोखिम-प्रबंधन है, या ऐसा रणनीतिक समझौता जिसे अमेरिका वहन नहीं कर सकता?

‘AI डूमरिज्म’ की बहस में क्या छिप जाता है?

“AI डूमरिज्म” शब्द अक्सर उस विचार के लिए इस्तेमाल होता है कि बहुत उन्नत AI मानव-विलुप्ति जैसा खतरा पैदा कर सकती है। मगर यह लेबल असल नीति-प्रश्न को धुंधला कर सकता है: किसी AI सिस्टम में किस तरह की खतरनाक क्षमता दिखने पर अतिरिक्त परीक्षण, तैनाती पर रोक या सरकारी हस्तक्षेप शुरू होना चाहिए?

चुघताई का तर्क यह साबित नहीं करता कि AI से तबाही निकट है। उनका कहना यह है कि सुरक्षा में गलती के परिणाम वापस न सुधारे जा सकें, और कंपनियों की प्रतिस्पर्धा अपने-आप जरूरी सावधानी पैदा नहीं करेगी। इसलिए उनका सुझाया रास्ता समन्वित शासन है—जहां जरूरत हो वहां धीमी तैनाती, कड़े मूल्यांकन और स्पष्ट जवाबदेही—ताकि सिस्टम को नियंत्रित करना मुश्किल होने से पहले जोखिम संभाले जा सकें। 1