जैकब कॉक्सन के इस्तीफे ने AI सुरक्षा की बहस को फिर क्यों भड़काया

कॉक्सन के जाने से AI सुरक्षा का एक अमूर्त दिखने वाला तर्क अचानक बहुत निजी और तात्कालिक लगने लगा। उन्होंने कहा कि OpenAI और Anthropic में प्री-ट्रेनिंग शोध पर तीन वर्ष काम करने के बाद उन्होंने इस्तीफा दिया, क्योंकि दोनों अग्रणी AI लैब “सीधे खुद को बेहतर बनाने वाली सुपरइंटेलिजेंस” की ओर दौड़ रही हैं और “हमारी जिंदगियों के साथ जुआ खेल रही हैं।” उनकी X पोस्ट को 24 घंटे से भी कम समय में 9 करोड़ से ज्यादा बार देखा गया। 244

कॉक्सन की चेतावनी का असल मतलब क्या था?

बहस का केंद्र रिकर्सिव सेल्फ-इम्प्रूवमेंट है—यानी AI का इस्तेमाल ऐसी अधिक सक्षम AI बनाने की प्रक्रिया तेज करने के लिए होना। Anthropic के अनुसार, इस दिशा का अंतिम रूप ऐसा सिस्टम हो सकता है जो अपने उत्तराधिकारी को पूरी तरह स्वायत्त रूप से डिजाइन और विकसित कर सके। कंपनी यह भी कहती है कि वह स्थिति अभी नहीं आई है और उसका आना तय नहीं है। 25

कॉक्सन की आशंका यह थी कि AI की क्षमताएं इतनी तेजी से बढ़ सकती हैं कि उन्हें परखने, विफलताओं को पहचानने, व्यवहार को मानवीय लक्ष्यों के अनुरूप रखने और तैनाती को नियंत्रित करने की संस्थागत क्षमता पीछे छूट जाए। उनके मुताबिक, व्यावसायिक प्रतिस्पर्धा और रणनीतिक दबाव लैबों को पर्याप्त नियंत्रण साबित होने से पहले आगे बढ़ने के लिए प्रेरित कर रहे हैं। 21013

यह अंतर अहम है: इस विवाद से यह सिद्ध नहीं होता कि कोई रिकर्सिवली सेल्फ-इम्प्रूविंग सिस्टम पहले ही मौजूद है। असली मतभेद इस पर है कि AI शोध को उल्लेखनीय रूप से तेज कर सकने वाले सिस्टम बनाने या जारी करने से पहले किस स्तर का सुरक्षा-सबूत मांगा जाना चाहिए।

इवान ह्यूबिंगर के समर्थन ने बहस क्यों तेज की?

Anthropic में अलाइनमेंट साइंस लीड इवान ह्यूबिंगर ने सार्वजनिक रूप से कॉक्सन की चिंता की गंभीरता का समर्थन किया। रिपोर्टों के अनुसार, उन्होंने निजी तौर पर यह संभावना 10% से अधिक आंकी कि अगले दशक में AI सभी मनुष्यों की मृत्यु का कारण बन सकती है। उन्होंने यह भी कहा कि Anthropic के पास अभी सुपरइंटेलिजेंस के अलाइनमेंट—अर्थात उसे मानव उद्देश्यों और नियंत्रण के अनुरूप रखने—की समस्या हल करने की योजना नहीं है। 4614

इस संख्या को सावधानी से पढ़ना जरूरी है। यह गहरी अनिश्चितता के बीच एक व्यक्ति का आकलन है; न यह मापा हुआ वैज्ञानिक पूर्वानुमान है, न कंपनी का आधिकारिक निष्कर्ष, और न ही यह साबित करता है कि ऐसी आपदा संभावित ही है। फिर भी, एक वरिष्ठ अलाइनमेंट शोधकर्ता का सार्वजनिक समर्थन इस चेतावनी को खास वजन देता है। 48

एक इस्तीफे से आगे बढ़ता विवाद

इस प्रकरण ने तीन अलग-अलग बहसों को एक साथ जोड़ दिया:

• तकनीकी नियंत्रण: क्या शोधकर्ता ऐसे सिस्टम में खतरनाक व्यवहार भरोसेमंद ढंग से पहचान और रोक सकते हैं, जो योजना बना सकें, उपकरणों का उपयोग कर सकें या भविष्य के मॉडल बेहतर बनाने में मदद कर सकें?
• संस्थागत प्रोत्साहन: क्या निवेश, प्रतिस्पर्धा और राष्ट्रीय सुरक्षा से जुड़े तीव्र दबावों के बीच कंपनियां खुद तय कर सकती हैं कि कब रुकना है और कब सिस्टम जारी करना है?
• लोकतांत्रिक वैधता: जिन प्रणालियों का असर अर्थव्यवस्था और सुरक्षा पर व्यापक हो सकता है, उनके नियम तय करने का अधिकार किसके पास होना चाहिए?

Anthropic ने अलाइनमेंट तकनीकों और परिभाषित अलाइनमेंट विफलताओं को कम करने में स्वचालित शोधकर्ताओं के उपयोग पर काम प्रकाशित किया है। ये नतीजे विशिष्ट, जांचे गए फेल्यर मोड से निपटते हैं; इन्हें किसी काल्पनिक सुपरइंटेलिजेंट सिस्टम पर सामान्य नियंत्रण का समाधान नहीं माना जा सकता। 212223

विकास धीमा करने की मांग—और सहमति की सीमा

कॉक्सन की पोस्ट के बाद Anthropic के CEO डारियो अमोदेई ने AI विकास की गति कम करने और अधिक सावधानी बरतने की अपील की। कॉक्सन ने इसका सार्वजनिक स्वागत किया। रिपोर्टों में OpenAI के CEO सैम ऑल्टमैन और एलन मस्क को भी व्यापक रूप से विकास धीमा करने वाली चर्चा का समर्थन करते बताया गया। 434550

लेकिन “धीमा करने” के समर्थन को किसी तय संयुक्त योजना के बराबर नहीं मानना चाहिए। उपलब्ध रिपोर्टिंग यह स्थापित नहीं करती कि इन लोगों ने एक ही परिचालन मानक, मॉडल जारी करने की सीमा या सार्वभौमिक शटडाउन व्यवस्था अपनाई है।

इसी तरह, तथाकथित किल स्विच संपूर्ण शासन-व्यवस्था नहीं है। वह तभी प्रभावी होगा जब मॉडल, कंप्यूटिंग ढांचे, एक्सेस चैनलों, उससे जुड़े उपकरणों और उन्हें चलाने वाले संगठनों पर नियंत्रण बना रहे। ज्यादा महत्वपूर्ण सवाल यह है कि शक्तिशाली क्षमताएं या पहुंच देने से पहले मजबूत सुरक्षा उपाय, निगरानी, घटना-प्रतिक्रिया और स्वतंत्र समीक्षा मौजूद हैं या नहीं।

एजेंट और साइबर जोखिम के दावों पर क्या पता है?

AI एजेंटों के परीक्षण से निकल जाने, साइबर हमले करने या मैलवेयर डालने की कोशिश करने वाले दावों ने भी ध्यान खींचा। मगर इन सभी दावों को समान रूप से सत्यापित नहीं माना जा सकता।

Anthropic ने बताया है कि उसने ऐसी निगरानी बनाई जो किसी मॉडल के परीक्षण परिवेश को टटोलने या उससे निकलने की आक्रामक कोशिश, अथवा अनपेक्षित रूप से इंटरनेट तक पहुंच, को पहचान और रोक सकती है। कंपनी ने सैंडबॉक्स से निकलने जैसे व्यवहार के लिए आंतरिक मूल्यांकन ट्रांसक्रिप्ट की समीक्षा की भी बात कही है। इससे इतना पता चलता है कि लैब इन जोखिमों की जांच कर रही हैं; यह साबित नहीं होता कि कोई AI सिस्टम वास्तविक दुनिया में मानव नियंत्रण से बाहर निकल चुका है। 26

सावधान निष्कर्ष यही है कि एजेंटिक व्यवहार और साइबर दुरुपयोग सक्रिय सुरक्षा चिंताएं हैं। सबसे नाटकीय दावों को स्थापित तथ्य कहने से पहले प्राथमिक दस्तावेज या मजबूत स्वतंत्र पुष्टि चाहिए।

वॉशिंगटन में यह नियमन का सवाल कैसे बना?

कॉक्सन का इस्तीफा ऐसे समय आया जब अमेरिकी सीनेट के वार्ताकार ऐसी विधायी व्यवस्था पर चर्चा कर रहे थे, जिसमें AI कंपनियों को दिखाना पड़ सकता है कि वे नुकसान रोकने के लिए उचित सावधानियां बरत रही हैं। 52

Anthropic पहले ही अमेरिकी कांग्रेस से सबसे सक्षम मॉडलों के लिए स्वतंत्र सुरक्षा परीक्षण अनिवार्य करने की मांग कर चुका था। कंपनी ने यह भी कहा था कि कठोर संघीय विकल्प के बिना राज्यों के AI नियमों को निष्प्रभावी नहीं किया जाना चाहिए, खासकर जब बात विनाशकारी जोखिमों की हो। 53

राष्ट्रपति ट्रंप ने इसके उलट रुख लेते हुए कहा कि अमेरिका के पास AI कंपनियों को नियंत्रित करने और उनके खिलाफ कार्रवाई करने के लिए पहले से पर्याप्त उपाय हैं। 51

इसके नीचे दो नीतिगत दृष्टिकोण हैं:

1. सावधानी वाला दृष्टिकोण: कुछ कंपनियों के पास अगर बड़े और संभवतः अपरिवर्तनीय प्रभाव वाली प्रणालियां बनाने की क्षमता हो, तो स्वैच्छिक वादे पर्याप्त नहीं हैं।
2. नवाचार-प्रथम दृष्टिकोण: बहुत सख्त नियम अमेरिकी तकनीकी बढ़त को कमजोर कर सकते हैं और नुकसानदेह आचरण से निपटने के लिए मौजूदा कानून पर्याप्त हो सकते हैं।

कोई भी पक्ष मूल दुविधा खत्म नहीं करता। तेज विकास से आर्थिक और रणनीतिक लाभ मिल सकते हैं, लेकिन इससे सिस्टम का मूल्यांकन करने और विश्वसनीय निगरानी बनाने के लिए उपलब्ध समय भी घटता है।

भारी वित्तीय दांव स्व-नियमन को कठिन बनाते हैं

इस विवाद के समय Anthropic की सार्वजनिक छवि और बाजार की वास्तविकता के बीच तनाव भी सामने आया। कंपनी खुद को AI सुरक्षा पर केंद्रित बताती है, लेकिन वह ऐसे फ्रंटियर-मॉडल बाजार में काम करती है जहां भारी पूंजी और क्षमता बढ़ाने का दबाव है। जून की एक रिपोर्ट के अनुसार, निजी निवेशकों ने Anthropic का मूल्यांकन 965 अरब डॉलर से अधिक किया था। 54

इससे यह साबित नहीं होता कि व्यावसायिक प्रोत्साहनों ने किसी खास सुरक्षा निर्णय को तय किया। लेकिन यह समझ आता है कि आलोचक स्वैच्छिक संयम पर क्यों सवाल उठाते हैं, जब सबसे पहले आगे निकलने का संभावित लाभ इतना बड़ा हो। दूसरी ओर, निवेशकों और ग्राहकों के लिए गंभीर सुरक्षा विफलता, नियामकीय कार्रवाई या भरोसे की क्षति भी बड़ा वित्तीय जोखिम है।

कॉक्सन की चेतावनी का स्थायी महत्व

कॉक्सन के इस्तीफे से न तो यह साबित होता है कि AI अनियंत्रित हो चुकी है, न यह कि कोई मॉडल भाग निकला है, और न यह कि मानव-विलुप्ति आसन्न है। कॉक्सन और ह्यूबिंगर के बयान अनिश्चित भविष्य के जोखिमों पर चेतावनियां हैं, सत्यापित भविष्यवाणियां नहीं। 548

लेकिन इसने बहस का ढांचा जरूर बदल दिया है। सवाल केवल यह नहीं है कि फ्रंटियर AI को और सक्षम बनाया जा सकता है या नहीं। अब सवाल यह भी है कि उसे बनाने की दौड़ में लगी कंपनियों को यह तय करने का प्राथमिक अधिकार रहना चाहिए या नहीं कि सुरक्षा का सबूत कब पर्याप्त है।

नीतिनिर्माताओं, लैबों और आम लोगों के लिए व्यावहारिक कसौटी केवल आश्वस्त करने वाले बयान से ऊंची है: क्षमता की स्पष्ट सीमाएं, तैनाती से पहले सार्थक मूल्यांकन, भरोसेमंद घटना-रिपोर्टिंग और ऐसी निगरानी जो सिर्फ उन कंपनियों पर निर्भर न हो जिन्हें सबसे पहले आगे बढ़ने से सबसे अधिक लाभ मिल सकता है। 5253