उत्तरप्रकाशित17 स्रोत
जैकब कॉक्सन ने Anthropic क्यों छोड़ा? AI की रफ्तार पर उनकी चेतावनी का मतलब
जैकब कॉक्सन ने कहा कि उन्होंने Anthropic इसलिए छोड़ा क्योंकि अग्रणी AI लैब्स की प्रतिस्पर्धा स्व सुधार करने वाली प्रणालियों की दिशा में सुरक्षा और नियंत्रण उपायों से तेज़ बढ़ रही है। Anthropic के शोधकर्ता इवान ह्यूबिंगर ने मौजूदा मॉडलों से जोखिम कम बताया, लेकिन अगले दशक में AI से मानव विनाश की संभावना 10% से अधिक हो...
प्रकाशितकर्ताGPT-5.6 Terra से संपादितGPT Image 2 से चित्र बनाए गए
शोध उत्तर
मुख्य निष्कर्ष
- जैकब कॉक्सन ने कहा कि उन्होंने Anthropic इसलिए छोड़ा क्योंकि अग्रणी AI लैब्स की प्रतिस्पर्धा स्व सुधार करने वाली प्रणालियों की दिशा में सुरक्षा और नियंत्रण उपायों से तेज़ बढ़ रही है।
- Anthropic के शोधकर्ता इवान ह्यूबिंगर ने मौजूदा मॉडलों से जोखिम कम बताया, लेकिन अगले दशक में AI से मानव विनाश की संभावना 10% से अधिक होने का अपना निजी आकलन साझा किया। यह वैज्ञानिक रूप से स्थापित पूर्वानुमान नहीं है।
- Anthropic के सीईओ डारियो अमोदेई ने उन्नत AI मॉडल विकास की गति सीमित करने और स्वतंत्र निगरानी का प्रस्ताव दिया; आलोचकों ने चेताया कि कड़े नियम बड़ी AI कंपनियों को ही लाभ पहुंचा सकते हैं।
AI संकेत
openai.comCreate a landscape editorial hero image for this Studio Global article: What prompted 27-year-old former Anthropic and OpenAI pretraining researcher Jacob Coxon to resign from Anthropic on September 8—two months. Article summary: Coxon said he resigned because he concluded that the leading labs’ competitive incentives—not merely individual technical failures—were driving them toward increasingly autonomous, self-improving systems before anyone kn. Topic tags: general, news, general web, user generated. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, charts wi
जैकब कॉक्सन का Anthropic से इस्तीफा किसी एक कथित सुरक्षा-उल्लंघन के विरोध में नहीं था। उनका कहना है कि सबसे उन्नत AI बनाने वाली कंपनियों के बीच प्रतिस्पर्धा ही मुख्य खतरा है: कंपनियां अधिक स्वायत्त और संभवतः खुद को बेहतर बनाने वाली प्रणालियां बनाने की दौड़ में हैं, जबकि उन्हें नियंत्रित और मानव लक्ष्यों के अनुरूप रखने के भरोसेमंद तरीके अभी पर्याप्त नहीं हैं। कॉक्सन ने कहा कि उन्होंने Anthropic और OpenAI, दोनों में प्री-ट्रेनिंग रिसर्च पर काम किया था। 2
3
कॉक्सन का आरोप: क्षमता की दौड़, नियंत्रण से आगे
X पर अपने सार्वजनिक पोस्टों में कॉक्सन ने Anthropic और OpenAI पर “सीधे स्व-सुधार करने वाली सुपरइंटेलिजेंस की दौड़” में उतरने और लोगों की जान के साथ जुआ खेलने का आरोप लगाया। उनका तात्पर्य यह नहीं था कि आज के चैटबॉट अपने-आप मानवता को खत्म करने वाले हैं। उनकी चिंता भविष्य की ऐसी प्रणालियों को लेकर है जो साइबर क्षमताओं जैसे प्रभावशाली कामों में इंसानों से बहुत बेहतर हो सकती हैं और मनुष्यों के विश्वसनीय नियंत्रण स्थापित होने से पहले वास्तविक संसाधन या शक्ति हासिल कर सकती हैं। 3
5
8
यहीं बहस का अहम अंतर है। कॉक्सन की दलील मुख्यतः क्षमता-वृद्धि और शासन को लेकर है: यदि AI की क्षमताएं तेज़ी से बढ़ें और सुरक्षा अनुसंधान पीछे रह जाए, तो भविष्य में विफलता के परिणाम बहुत गंभीर हो सकते हैं—भले ही मौजूदा मॉडल सीमित हों।
उन्होंने नौकरी क्यों छोड़ी?
BBC से बातचीत में कॉक्सन ने कहा कि उन्नत AI पर काम करने वाले लोग प्रगति की रफ्तार से “वास्तव में डरे हुए” हैं। उनका कहना था कि यदि मौजूदा गति धीमी नहीं की गई, तो निकट भविष्य में मानवता के खत्म हो जाने की “मजबूत संभावना” है। 1
उनके अनुसार, केवल एक कंपनी या एक देश के धीमा पड़ने से समस्या हल नहीं होगी। किसी टिकाऊ व्यवस्था के लिए चीन समेत अंतरराष्ट्रीय समन्वय चाहिए, ताकि सावधानी बरतने वाला देश तकनीकी विकास को सिर्फ कहीं और स्थानांतरित न कर दे। 1
इसलिए उनका इस्तीफा उस प्रोत्साहन-व्यवस्था के खिलाफ सार्वजनिक विरोध था जो फ्रंटियर AI—यानी सबसे सक्षम AI मॉडल—के विकास को आगे धकेलती है। उपलब्ध रिपोर्टिंग में ऐसा कोई दावा नहीं है कि उन्होंने Anthropic में कोई विशिष्ट सुरक्षा घटना स्वयं देखी थी। 2
दूसरे AI सुरक्षा शोधकर्ताओं की प्रतिक्रिया
Anthropic के अलाइनमेंट शोधकर्ता इवान ह्यूबिंगर ने कॉक्सन की व्यापक चिंता का समर्थन किया। ह्यूबिंगर ने कहा कि मौजूदा मॉडलों से जोखिम कम है, लेकिन उनका निजी अनुमान है कि अगले दशक में AI के सभी मनुष्यों को मार देने की संभावना 10% से अधिक है। 13
इस संख्या को सावधानी से समझना जरूरी है। यह कम-संभावना लेकिन अत्यंत गंभीर भविष्य-परिदृश्य पर एक विशेषज्ञ का व्यक्तिगत आकलन है, कोई मापकर सिद्ध किया गया पूर्वानुमान नहीं। कॉक्सन के इस्तीफे के आसपास की रिपोर्टिंग यह दिखाती है कि समय-सीमा, संभावना और सुरक्षा उपायों पर तेज़ मतभेद हैं; यह मानव-विनाश के आसन्न होने पर वैज्ञानिक सहमति स्थापित नहीं करती। 13
तात्कालिक चिंता: साइबर दुरुपयोग और बढ़ती क्षमताएं
इस बहस में व्यावहारिक चिंता किसी फिल्मी कहानी जैसी नहीं है, जिसमें AI अचानक अपने दम पर मानवता पर हमला कर दे। ज्यादा ठोस सवाल साइबर घुसपैठ, खतरनाक प्रयोगों में संभावित दुरुपयोग और लगातार अधिक सक्षम होते AI एजेंटों से जुड़े हैं।
रिपोर्टों में यह आशंका जताई गई कि उन्नत मॉडल साइबर घुसपैठ और अन्य गंभीर दुरुपयोग में मदद कर सकते हैं। OpenAI एजेंटों और Hugging Face से जुड़ी एक कथित घटना का भी उल्लेख हुआ, लेकिन उपलब्ध रिपोर्टिंग में इतने प्राथमिक-स्रोत विवरण नहीं हैं कि उस घटना की सटीक परिस्थितियों, अनुमति या दायरे की स्वतंत्र पुष्टि की जा सके। 2
63
व्यावहारिक निष्कर्ष यह है कि सुपरइंटेलिजेंस के दूरगामी दावों के साथ-साथ आज के जांचे जा सकने वाले प्रश्नों पर ध्यान रहना चाहिए: मॉडल वास्तव में क्या कर सकते हैं, रिलीज़ से पहले उनका परीक्षण कैसे होता है, दुरुपयोग का पता कैसे लगाया जाता है और लैब्स के सुरक्षा दावों का स्वतंत्र सत्यापन कौन कर सकता है।
अमोदेई का प्रस्ताव: AI रोकना नहीं, सबसे आगे की दौड़ को गति देना
कॉक्सन की चेतावनी के बाद Anthropic के सीईओ डारियो अमोदेई ने We Must Pace the Frontier शीर्षक निबंध में फ्रंटियर-मॉडल क्षमताओं की वृद्धि की रफ्तार धीमी करने की अपील की। यह AI विकास को पूरी तरह बंद करने का प्रस्ताव नहीं था। इसका उद्देश्य तेजी से बढ़ती क्षमताओं के साथ जोखिम-निवारण को कदम मिलाने का समय देना है। 1
रिपोर्ट किए गए ढांचे में ये बातें शामिल थीं:
- फ्रंटियर मॉडलों की स्वतंत्र निगरानी और मूल्यांकन;
- उद्योग तथा लोकतांत्रिक देशों के बीच साझा सुरक्षा मानक; और
- चीन के साथ संवाद सहित, AI शासन पर अंततः अंतरराष्ट्रीय समन्वय।
1
OpenAI के सीईओ सैम ऑल्टमैन ने इस व्यापक दिशा का सार्वजनिक समर्थन किया और कहा कि कर्मचारियों जैसे स्तर की पहुंच रखने वाले स्वतंत्र मूल्यांकनकर्ता अच्छा विचार हैं। एलन मस्क ने भी अमोदेई की अपील का समर्थन करते हुए लिखा, “Dario is right.” 1
आलोचकों को प्रतिस्पर्धा का सवाल क्यों दिखता है?
बड़ी फ्रंटियर AI लैब्स के सुरक्षा प्रस्तावों को समर्थन के साथ संदेह भी मिला है। Hugging Face के सीईओ क्लेमें डेलांग सहित आलोचकों ने तर्क दिया कि अत्यधिक कड़े फ्रंटियर-मॉडल नियम उन कंपनियों को लाभ दे सकते हैं जिनके पास अनुपालन लागत उठाने के लिए पहले से सबसे अधिक धन और संसाधन हैं। 1
3
यह आलोचना कॉक्सन की चिंताओं को बेईमान साबित नहीं करती। लेकिन यह अलग और जरूरी सवाल उठाती है: क्या सुरक्षा नियमन वास्तविक जोखिम घटाने के साथ-साथ कुछ स्थापित AI लैब्स के हाथों में शक्ति भी केंद्रित कर सकता है?
यही इस बहस का केंद्रीय तनाव है। विश्वसनीय शासन-व्यवस्था को सबसे सक्षम प्रणालियों की निगरानी मजबूत करनी होगी, लेकिन सुरक्षा शर्तों को कुछ कंपनियों के लिए कृत्रिम प्रतिस्पर्धी दीवार बनने से भी रोकना होगा।
निष्कर्ष
कॉक्सन ने Anthropic इसलिए छोड़ा क्योंकि उनके अनुसार अग्रणी AI कंपनियों की दौड़ ही खतरा बन गई है: क्षमताओं को आगे बढ़ाने का दबाव नियंत्रण, परीक्षण और अंतरराष्ट्रीय समन्वय के लिए जरूरी समय पर भारी पड़ सकता है। 2
3
उनके सबसे नाटकीय दावे अभी विवादित हैं। वे AI उद्योग के कुछ अंदरूनी लोगों की गंभीर चिंता को सामने लाते हैं, लेकिन मानव-विनाश के निकट होने का प्रमाण नहीं हैं। तत्काल नीतिगत चुनौती यह है कि बढ़ती AI क्षमताओं के लिए स्वतंत्र रूप से सत्यापित किए जा सकने वाले सुरक्षा उपाय बनाए जाएं—और यह भी सुनिश्चित हो कि वे उपाय उन्हीं कंपनियों का वर्चस्व मजबूत न कर दें जो ये मॉडल बना रही हैं। 1
13
Studio Global AI
अपना शोध जारी रखें
इस पृष्ठ में एक स्रोत-समर्थित उत्तर शामिल है जिसे आप Studio Global के अंदर जारी रख सकते हैं।
लोग पूछते भी हैं
"जैकब कॉक्सन ने Anthropic क्यों छोड़ा? AI की रफ्तार पर उनकी चेतावनी का मतलब" का संक्षिप्त उत्तर क्या है?
जैकब कॉक्सन ने कहा कि उन्होंने Anthropic इसलिए छोड़ा क्योंकि अग्रणी AI लैब्स की प्रतिस्पर्धा स्व सुधार करने वाली प्रणालियों की दिशा में सुरक्षा और नियंत्रण उपायों से तेज़ बढ़ रही है।
सबसे पहले सत्यापित करने योग्य मुख्य बिंदु क्या हैं?
जैकब कॉक्सन ने कहा कि उन्होंने Anthropic इसलिए छोड़ा क्योंकि अग्रणी AI लैब्स की प्रतिस्पर्धा स्व सुधार करने वाली प्रणालियों की दिशा में सुरक्षा और नियंत्रण उपायों से तेज़ बढ़ रही है। Anthropic के शोधकर्ता इवान ह्यूबिंगर ने मौजूदा मॉडलों से जोखिम कम बताया, लेकिन अगले दशक में AI से मानव विनाश की संभावना 10% से अधिक होने का अपना निजी आकलन साझा किया। यह वैज्ञानिक रूप से स्थापित पूर्वानुमान नहीं है।
मुझे अभ्यास में आगे क्या करना चाहिए?
Anthropic के सीईओ डारियो अमोदेई ने उन्नत AI मॉडल विकास की गति सीमित करने और स्वतंत्र निगरानी का प्रस्ताव दिया; आलोचकों ने चेताया कि कड़े नियम बड़ी AI कंपनियों को ही लाभ पहुंचा सकते हैं।