जैकब कॉक्सन ने Anthropic क्यों छोड़ा: AI रेस और नियंत्रण खोने का डर

कॉक्सन ने कहा कि उन्होंने Anthropic इसलिए छोड़ा क्योंकि उनके निष्कर्ष में समस्या सिर्फ किसी एक तकनीकी खामी या एक कंपनी की नहीं थी। उनका मानना था कि प्रमुख AI लैब्स के बीच की प्रतिस्पर्धा उन्हें तेजी से अधिक स्वायत्त और स्वयं को बेहतर बनाने वाले सिस्टम बनाने की ओर ले जा रही है, जबकि उन्हें नियंत्रित करने का भरोसेमंद तरीका अभी ज्ञात नहीं है। इक्विटी वेस्ट होने से कुछ समय पहले नौकरी छोड़ने का उनका फैसला इस बात का संकेत था कि वे इस जोखिम को आर्थिक नुकसान से अधिक गंभीर मानते हैं। 25

कॉक्सन का मुख्य आरोप क्या था?

X पर अपने पोस्ट में कॉक्सन ने कहा कि न Anthropic और न OpenAI जिम्मेदारी से काम कर रही है। उन्होंने दोनों पर “सीधे self-improving superintelligence की दौड़” में होने और “हमारी जिंदगियों के साथ जुआ खेलने” का आरोप लगाया। 38

उनका तर्क यह नहीं था कि आज के चैटबॉट तुरंत अपने-आप मानवता को नुकसान पहुंचाने वाले हैं। बल्कि, उनका कहना था कि उन्नत मॉडल बनाने वाले लोग खुद मानते हैं कि आने वाले सिस्टम साइबर घुसपैठ जैसे कामों में इंसानों से बेहतर हो सकते हैं। ऐसे सिस्टमों को वास्तविक संसाधन और शक्ति मिलने पर नियंत्रण खोने का खतरा पैदा हो सकता है। 38

BBC से बातचीत में कॉक्सन ने कहा कि AI क्षेत्र में काम करने वाले लोग प्रगति की रफ्तार से “वास्तव में डरे हुए” हैं। उन्होंने कहा कि यदि मौजूदा गति धीमी नहीं की गई तो निकट भविष्य में गंभीर विनाशकारी परिणाम की आशंका है। उनके मुताबिक, प्रभावी मंदी अंतरराष्ट्रीय समन्वय से ही संभव होगी—जिसमें चीन भी शामिल हो—क्योंकि एक देश का अकेले पीछे हटना तकनीकी दौड़ छोड़ने जैसा होगा। 1

क्या दूसरे AI शोधकर्ता भी सहमत हैं?

Anthropic के एलाइनमेंट शोधकर्ता इवान ह्यूबिंगर ने कॉक्सन की व्यापक चिंता का सार्वजनिक समर्थन किया। उन्होंने कहा कि मौजूदा मॉडलों से जोखिम कम है, लेकिन अगले दशक में AI के कारण सभी इंसानों की मौत की संभावना का उनका व्यक्तिगत अनुमान 10% से अधिक है। 13

जेफ्री हिंटन ने भी AI के नियंत्रण से बाहर होने या मानव-विनाश जैसे नतीजे को नगण्य नहीं माना है। हालांकि, ऐसे प्रतिशत मापे जा सकने वाले पूर्वानुमान नहीं हैं; वे विशेषज्ञों के व्यक्तिगत आकलन हैं। उपलब्ध रिपोर्टिंग यह नहीं दिखाती कि शोधकर्ताओं के बीच किसी एक निश्चित जोखिम-प्रतिशत पर सहमति है। 813

बहस का तात्कालिक आधार: साइबर दुरुपयोग और बढ़ती क्षमताएं

इस बहस में सामने रखे गए सबूत किसी स्वायत्त “AI हमले” के नहीं, बल्कि साइबर दुरुपयोग और तेजी से बढ़ती क्षमताओं के हैं। रिपोर्टों में उन्नत मॉडलों के साइबर ऑपरेशनों में इस्तेमाल या परीक्षण, जैविक हथियार बनाने की कोशिशों, यूक्रेन से जुड़ी जासूसी तथा OpenAI एजेंटों द्वारा Hugging Face को हैक करने के कथित मामले का उल्लेख हुआ है। लेकिन अंतिम दावे के सटीक तथ्य, अनुमति और खुलासे की स्थिति पर सावधानी जरूरी है, क्योंकि उपलब्ध सामग्री में हर विवरण की स्वतंत्र प्राथमिक-स्रोत पुष्टि नहीं मिलती। 263

अमोदेई का प्रस्ताव: AI पर रोक नहीं, रफ्तार पर लगाम

Anthropic के CEO डैरियो अमोदेई का निबंध We Must Pace the Frontier AI विकास को पूरी तरह रोकने की अपील नहीं था। प्रस्ताव का केंद्र सबसे उन्नत—या “फ्रंटियर”—मॉडलों की क्षमता बढ़ाने की रफ्तार कम करना, स्वतंत्र बाहरी निगरानी व मूल्यांकन, लोकतांत्रिक देशों के बीच साझा सुरक्षा मानक और अंततः चीन को शामिल करने वाली अंतरराष्ट्रीय व्यवस्था बनाना था। 12

OpenAI के सैम ऑल्टमैन और xAI के एलन मस्क ने इस व्यापक दिशा का सार्वजनिक समर्थन किया। मस्क ने लिखा, “Dario is right.” 113

आलोचना: सुरक्षा की भाषा या बड़ी कंपनियों की सुरक्षा?

इस मांग के आलोचकों का तर्क है कि अस्तित्वगत जोखिम की भाषा मौजूदा बड़ी कंपनियों को लाभ पहुंचाने का साधन भी बन सकती है। Hugging Face के क्लेमें डेलांग और Nvidia के जेन्सन हुआंग जैसे आलोचकों ने कहा कि बहुत कठोर फ्रंटियर-मॉडल नियम सबसे अधिक धन और संसाधनों वाली कंपनियों को और मजबूत कर सकते हैं, जिससे Anthropic और OpenAI एक संरक्षित द्वयाधिकार की स्थिति में आ जाएं। 3

यह आलोचना मुख्यतः प्रोत्साहनों और बाजार-संरचना को लेकर है; इससे कॉक्सन की निजी चिंताओं के असली या नकली होने का निष्कर्ष नहीं निकलता। संदेह इसलिए भी बढ़ा कि रिपोर्टों के अनुसार Anthropic ऐसे IPO की तैयारी कर रही थी, जिसका आकार SpaceX के रिकॉर्ड पेशकश के बराबर या उससे अधिक हो सकता था। 4

Anthropic का पक्ष यह है कि उसके पास उद्योग के कुछ सबसे मजबूत सुरक्षा उपाय हैं और स्वतंत्र निगरानी व साझा मानक पूरे उद्योग पर लागू होने चाहिए, न कि सिर्फ उसकी कंपनी को फायदा देने के लिए। 2

निष्कर्ष: कॉक्सन, ह्यूबिंगर, अमोदेई, ऑल्टमैन और मस्क इस बात पर सहमत हैं कि अधिक सक्षम AI के लिए ज्यादा समन्वय और सुरक्षा उपाय जरूरी हैं। लेकिन उनके बयान यह अनुभवजन्य प्रमाण नहीं देते कि मानव-विनाश आसन्न है। खतरे की गंभीरता, समयसीमा और सबसे कारगर नीति पर बहस अभी गहरी और अनिर्णीत है।