उत्तरप्रकाशित4 घंटे पहलेLast edited 4 घंटे पहले19 स्रोत

Amodei का तर्क: AI की दौड़ में आगे रहना सुरक्षा से समझौता करना नहीं

Amodei ने कहा कि उन्नत AI मॉडल बनाने की दौड़ में बने रहना अपने आप में सुरक्षा से पीछे हटना नहीं है। Calvin ने Anthropic की बड़ी कंप्यूटिंग प्रतिबद्धताओं, Claude की AI विकास में बढ़ती भूमिका और सुरक्षा नीति में बदलाव पर सवाल उठाए। Amodei ने कैलिफ़ोर्निया के SB 53 का समर्थन, जैविक दुरुपयोग रोकने के कड़े उपाय और Mythos...

प्रकाशितकर्ताGPT-6 Luna से संपादितGPT Image 2 से चित्र बनाए गए

Studio Global AI के साथ खोजें और तथ्यों की जांच करें और ट्रेंडिंग पेज देखें

शोध उत्तर

मुख्य निष्कर्ष

Amodei ने कहा कि उन्नत AI मॉडल बनाने की दौड़ में बने रहना अपने आप में सुरक्षा से पीछे हटना नहीं है।
Calvin ने Anthropic की बड़ी कंप्यूटिंग प्रतिबद्धताओं, Claude की AI विकास में बढ़ती भूमिका और सुरक्षा नीति में बदलाव पर सवाल उठाए।
Amodei ने कैलिफ़ोर्निया के SB 53 का समर्थन, जैविक दुरुपयोग रोकने के कड़े उपाय और Mythos मॉडल की व्यापक रिलीज़ में देरी को सुरक्षा के लिए उठाए गए कदम बताया।
जवाब के बाद भी यह विवाद अनसुलझा रहा कि Anthropic की सुरक्षा नीतियां और सरकारी हस्तक्षेप की प्रस्तावित सीमाएं पर्याप्त हैं या नहीं।

Editorial illustration representing the debate over Anthropic’s AI development strategy and safety commitments — How did Anthropic CEO Dario Amodei’s nearly 2,000-word reply on X on October 20 respond to Encode AI chief strategy officer Nathan Calvin’sThe exchange centered on whether Anthropic can keep competing at the AI frontier while maintaining meaningful safety constraints.
AI संकेत
Create a landscape editorial hero image for this Studio Global article: How did Anthropic CEO Dario Amodei’s nearly 2,000-word reply on X on October 20 respond to Encode AI chief strategy officer Nathan Calvin’s. Article summary: Amodei’s reply defended continued frontier competition rather than accepting Calvin’s claim that pursuing more powerful AI necessarily meant abandoning safety; he paired that defense with nine decisions he said had cost . Topic tags: general, general web, user generated, government. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, cha
openai.com

Anthropic के CEO Dario Amodei ने AI-सुरक्षा संगठन Encode AI के रणनीति प्रमुख Nathan Calvin की आलोचना का जवाब देते हुए कंपनी की AI विकास रणनीति का बचाव किया। Calvin का आरोप था कि Anthropic अधिक शक्तिशाली AI बनाने की होड़ में अपनी सुरक्षा प्रतिबद्धताओं को कमजोर कर रही है। Amodei ने इसके उलट ऐसे कदम गिनाए जिनके बारे में उनका कहना था कि उनसे कंपनी को व्यावसायिक नुकसान हुआ, लेकिन सुरक्षा मजबूत हुई। 4 5

हालांकि, दोनों के बीच मूल मतभेद खत्म नहीं हुआ: AI क्षमताएं बढ़ने के साथ Anthropic के सुरक्षा उपाय और नीतिगत फैसले क्या पर्याप्त हैं?

Calvin ने किन बातों पर सवाल उठाए?

Calvin की नौ-बिंदु आलोचना का केंद्र यह था कि Anthropic के फैसले उसकी घोषित सुरक्षा प्रतिबद्धताओं से मेल खाते हैं या नहीं। रिपोर्टों में कंपनी की बड़ी कंप्यूटिंग प्रतिबद्धताओं का उल्लेख है। एक रिपोर्ट के अनुसार, AI विकास के कामों में Claude की हिस्सेदारी मार्च में शून्य से बढ़कर अगस्त तक 26% हो गई थी। 1 9

कंपनी की Responsible Scaling Policy (RSP)—यानी AI क्षमताएं बढ़ने पर जोखिमों के अनुरूप सुरक्षा उपाय तय करने वाली नीति—भी विवाद का विषय बनी। रिपोर्टिंग के मुताबिक, इसके संशोधित संस्करण में कुछ हालात में विकास को एकतरफा रोकने या धीमा करने की प्रतिबद्धता हटा दी गई। Amodei ने इस बदलाव का बचाव किया; उन्होंने इसे वापस लेने की घोषणा नहीं की। 1 3

Calvin ने Anthropic से जुड़ी एक संघीय AI सुरक्षा विधेयक की मसौदा-प्रस्तावना पर भी आपत्ति जताई। रिपोर्टों के अनुसार, उसमें सरकारी हस्तक्षेप की सीमा ऊंची रखी गई थी: किसी मॉडल से 50 से अधिक लोगों की मौत या गंभीर चोट का आसन्न जोखिम, या एक अरब डॉलर से अधिक के नुकसान का जोखिम। ये अनुमानित जोखिम के आधार पर हस्तक्षेप की शर्तें थीं—ऐसा नहीं कि सरकार को कार्रवाई से पहले नुकसान वास्तव में होने तक इंतजार करना पड़ता। यह प्रस्ताव मसौदा था, लागू कानून नहीं। 10 25

Amodei का जवाब: दौड़ में बने रहना, साथ में सुरक्षा उपाय

Amodei ने “race to the top”—यानी सुरक्षा के बेहतर मानक स्थापित करने की होड़—की बात रखी। उनका तर्क था कि AI के सबसे उन्नत मोर्चे पर प्रतिस्पर्धा करना और सुरक्षा को गंभीरता से लेना एक-दूसरे के विरोध में नहीं हैं। उन्होंने ऐसे फैसलों के उदाहरण दिए जिनके बारे में उनका कहना था कि उनसे Anthropic को व्यावसायिक कीमत चुकानी पड़ी। 4 9

इन उदाहरणों में कैलिफ़ोर्निया के SB 53 सुरक्षा कानून का समर्थन, जैविक दुरुपयोग रोकने के सख्त उपाय और Mythos श्रेणी के मॉडल व्यापक रूप से उपलब्ध कराने में देरी शामिल थी। रिपोर्टों के अनुसार, Anthropic ने फरवरी में ऐसे मॉडल तैयार होने के बाद जून तक उनकी आम उपलब्धता टाली, ताकि साइबर सुरक्षा के मजबूत उपाय बनाए जा सकें। इस दौरान सीमित संख्या में साइबर-रक्षा साझेदारों को ही उन तक पहुंच मिली। 5 11

इन उदाहरणों से पता चलता है कि Amodei ने सुरक्षा को केवल सार्वजनिक वादे के तौर पर नहीं, बल्कि कुछ व्यावसायिक समझौतों के रूप में पेश किया। हालांकि, उपलब्ध रिपोर्टिंग से यह पूरी तरह स्पष्ट नहीं होता कि फ्रंटियर पर बने रहने से पूरी इंडस्ट्री के सुरक्षा मानक बेहतर होंगे—इस तर्क को उन्होंने विस्तार से कैसे समझाया। 4 5

सुरक्षा की कीमत कंपनी से आगे भी पड़ सकती है

Amodei ने यह भी माना कि उन्नत AI तक पहुंच रोकने या सीमित करने की कीमत सिर्फ कंपनी के राजस्व तक सीमित नहीं रहती। उनके मुताबिक, इससे संभावित सार्वजनिक लाभ भी देर से मिल सकते हैं—जैसे जीवविज्ञान के क्षेत्र में प्रगति। 11

रिपोर्टों में यह भी कहा गया कि उन्होंने संवाद से जुड़ी कुछ गलतियां स्वीकार कीं, लेकिन Anthropic के व्यापक सुरक्षा रिकॉर्ड और संशोधित नीति का बचाव जारी रखा। कमियों को मानना, पर कंपनी के समग्र रास्ते से पीछे न हटना—इससे मुख्य नीतिगत सवाल खुले ही रहे। 4 24

बहस का नतीजा क्या रहा?

Amodei ने Calvin के इस आरोप का जवाब दिया कि प्रतिस्पर्धा में आगे निकलने की कोशिश सुरक्षा को पीछे धकेल रही है। उनका कहना था कि Anthropic ने कुछ मौकों पर सुरक्षा के लिए पहुंच सीमित की या अतिरिक्त उपाय अपनाए, भले ही उससे व्यावसायिक नुकसान हुआ हो। लेकिन RSP में विराम संबंधी प्रतिबद्धताओं और सरकारी हस्तक्षेप की प्रस्तावित सीमाओं पर Calvin की आपत्तियों का जवाब इन उदाहरणों से अपने-आप नहीं मिलता। 1 3 5 10

उपलब्ध रिपोर्टिंग दोनों पक्षों की पूरी सूचियां प्रकाशित नहीं करती, इसलिए हर बिंदु की स्वतंत्र पुष्टि यहां संभव नहीं है। फिलहाल सबसे स्पष्ट तस्वीर यही है: Amodei ने सुरक्षा उपायों के साथ AI के सबसे उन्नत मोर्चे पर प्रतिस्पर्धा जारी रखने का बचाव किया, जबकि Calvin ने पूछा कि क्या वे उपाय और नीतिगत प्रतिबद्धताएं पर्याप्त मजबूत हैं।

Studio Global AI

अपना शोध जारी रखें

इस पृष्ठ में एक स्रोत-समर्थित उत्तर शामिल है जिसे आप Studio Global के अंदर जारी रख सकते हैं।

Studio Global AI के साथ खोजें और तथ्यों की जांच करें

लोग पूछते भी हैं