उत्तरप्रकाशित2 माह पहलेLast edited 2 माह पहले22 स्रोत

AI विलुप्ति बहस: चेतावनियां तेज, लेकिन पुख्ता सबूत की मांग भी उतनी ही मजबूत

Evan Hubinger का अगले दशक में AI से मानव विलुप्ति की 10% से अधिक आशंका वाला आंकड़ा निजी आकलन है, कोई मापा हुआ वैज्ञानिक पूर्वानुमान नहीं। Jacob Coxon और Bilal Chughtai की चेतावनियों ने चिंता बढ़ाई है, लेकिन आलोचकों का कहना है कि डिजिटल AI क्षमता को वास्तविक दुनिया में नुकसान पहुंचाने के लिए कई भौतिक और संस्थागत बाधा...

प्रकाशितकर्ताGPT-5.6 Terra से संपादितGPT Image 2 से चित्र बनाए गए

Studio Global AI के साथ खोजें और तथ्यों की जांच करें और ट्रेंडिंग पेज देखें

शोध उत्तर

मुख्य निष्कर्ष

Evan Hubinger का अगले दशक में AI से मानव विलुप्ति की 10% से अधिक आशंका वाला आंकड़ा निजी आकलन है, कोई मापा हुआ वैज्ञानिक पूर्वानुमान नहीं।
Jacob Coxon और Bilal Chughtai की चेतावनियों ने चिंता बढ़ाई है, लेकिन आलोचकों का कहना है कि डिजिटल AI क्षमता को वास्तविक दुनिया में नुकसान पहुंचाने के लिए कई भौतिक और संस्थागत बाधाएं पार करनी होंगी।
उभरता व्यावहारिक रास्ता स्वतंत्र मूल्यांकन, जोखिम आधारित सीमाएं, कंपनियों के बीच समन्वय और मौजूदा AI दुरुपयोग पर कार्रवाई का है।

Editorial illustration representing the debate over advanced AI safety and human control — How is the current debate over whether advanced artificial intelligence could cause human extinction unfolding, including Jacob Coxon’s resiThe AI extinction debate centers on uncertain future capabilities, real-world constraints, and the safeguards required before frontier systems advance further.
AI संकेत
Create a landscape editorial hero image for this Studio Global article: How is the current debate over whether advanced artificial intelligence could cause human extinction unfolding, including Jacob Coxon’s resi. Article summary: The debate is becoming less about whether AI poses any danger and more about what kind of evidence and governance threshold should apply before frontier systems become substantially more capable. There is no empirical ba. Topic tags: general, news, general web, user generated. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, charts w
openai.com

AI से मानव-विलुप्ति की मौजूदा बहस को केवल “AI सुरक्षित है” बनाम “AI खतरनाक है” के रूप में समझना अधूरा होगा। असली विवाद तीन सवालों पर है: क्षमताएं कितनी तेजी से बढ़ सकती हैं, किसी मॉडल को अपरिवर्तनीय नुकसान पहुंचाने लायक बनने के लिए किन चरणों से गुजरना होगा, और अधिक कड़े नियम लगाने से पहले समाज को कितने ठोस सबूत मांगने चाहिए।

अग्रणी AI लैब में काम कर चुके शोधकर्ताओं की हालिया चेतावनियों ने मुद्दे को तेज कर दिया है। फिर भी, मानव-विलुप्ति वाले दावों के कई आलोचक परीक्षण और सुरक्षा उपायों के पक्ष में हैं। नीति के स्तर पर अहम सवाल अब यह बन रहा है कि जैसे-जैसे मॉडल ज्यादा सक्षम हों, क्या उन्हें बनाने वाली कंपनियां नियंत्रण और सुरक्षित तैनाती को स्वतंत्र रूप से साबित कर सकती हैं?

अंदर से आई चेतावनियां: ऐसी प्रणाली की दौड़ जिसे नियंत्रित करना मुश्किल हो सकता है

Anthropic के पूर्व शोधकर्ता Jacob Coxon ने सितंबर 2026 में इस्तीफा दिया। उन्होंने कहा कि उन्होंने OpenAI में भी काम किया था और दोनों कंपनियां जिम्मेदार विकास से अधिक प्रतिस्पर्धा को तरजीह दे रही हैं। उनके अनुसार, वे “खुद को बेहतर बनाने वाली सुपरइंटेलिजेंस” की दिशा में दौड़ रही हैं। 49

Anthropic में एलाइनमेंट साइंस लीड Evan Hubinger ने Coxon की चेतावनी का सार्वजनिक समर्थन किया। Hubinger ने कहा कि उनके निजी आकलन में अगले दशक में AI के सभी इंसानों को मार देने की संभावना 10% से अधिक है। साथ ही, उन्होंने यह भी कहा कि सुपरइंटेलिजेंस को मानव मूल्यों और निर्देशों के अनुरूप रखने—यानी alignment—की समस्या हल करने की कोई योजना Anthropic के पास अभी नहीं है। 16 उनकी यह संख्या निजी अनुमान है, न कि वैज्ञानिक सहमति या अनुभवजन्य आंकड़ों से निकाला गया विलुप्ति-जोखिम प्रतिशत। 12

Google DeepMind के पूर्व शोधकर्ता Bilal Chughtai ने भी ऐसी ही आशंका जताई। उनका कहना था कि AI में सभी लोगों को मारने की क्षमता हो सकती है और इस परिणाम को रोकने का समय खत्म होता जा रहा हो सकता है। 2

इन दावों का मतलब आम तौर पर यह नहीं है कि आज के चैटबॉट अचानक अपने-आप खतरनाक हो जाएंगे। चिंता एक संभावित श्रृंखला को लेकर है: भविष्य के सिस्टम AI शोध को बहुत तेज कर दें, अधिक स्वायत्त ढंग से काम करें, इंसानी निगरानी से बच निकलें, या साइबर, जैविक और संस्थागत क्षमताओं तक पहुंच को सुरक्षा तरीकों की प्रगति से तेज बढ़ा दें। यही श्रृंखला कितनी संभव है और कितनी जल्दी बन सकती है, बहस का केंद्रीय बिंदु है।

10% का अनुमान स्थापित पूर्वानुमान क्यों नहीं है

Hubinger का आंकड़ा इसलिए खासा चर्चित हुआ क्योंकि वह एक वरिष्ठ AI-सुरक्षा शोधकर्ता से आया है। लेकिन उसे सही संदर्भ में देखना जरूरी है: यह गहरी अनिश्चितता के बीच किसी व्यक्ति का निर्णय है। यह इतिहास के आंकड़ों से सत्यापित संभावना नहीं है और न ही ऐसा मॉडल है जो मानव-विलुप्ति के जोखिम को माप सकता हो। 12

इस आकलन के पीछे कई अनसुलझी शर्तें हैं:

AI को आज के मॉडलों से बहुत अधिक सक्षम बनना होगा।
इन क्षमताओं को स्थायी रणनीतिक स्वायत्तता या वास्तविक दुनिया में नुकसान पहुंचाने वाली ताकत में बदलना होगा।
तकनीकी नियंत्रण, मानव ऑपरेटर, संस्थान और अन्य बचाव-उपाय विफल होने होंगे।
सुरक्षा व एलाइनमेंट शोध को क्षमता-वृद्धि की रफ्तार से पीछे रह जाना होगा।

इनमें से हर कड़ी पर अलग से बहस हो सकती है। इसका अर्थ यह नहीं कि चिंता महत्वहीन है; बस यह कि 10% वाली सुर्खी को साबित भविष्यवाणी मान लेना गलत होगा।

संशयवादी पक्ष: डिजिटल बुद्धिमत्ता और भौतिक दुनिया की ताकत अलग चीजें हैं

आलोचक इस धारणा पर सवाल उठाते हैं कि सॉफ्टवेयर और भाषा के कामों में बेहतरीन प्रदर्शन अपने-आप विलुप्ति-स्तर की भौतिक क्षति पहुंचाने की क्षमता दे देता है। जैविक जोखिम इसका प्रमुख उदाहरण है। Eric Xing ने तर्क दिया कि किसी भाषा मॉडल से वायरस के जीनोम का काल्पनिक खाका बनवाना और सचमुच एक जीवक्षम वायरस बनाना दो बिल्कुल अलग काम हैं। सामग्री जुटाना, निर्माण, जैविक व्यवहार्यता, प्रयोगशाला कार्य और परीक्षण—सब अलग बाधाएं हैं। 46

मॉडल जानकारी या डिजाइन दे सकता है, लेकिन उसे वास्तविक नुकसान में बदलने के लिए विशेष लैब, व्यावहारिक विशेषज्ञता, आपूर्ति शृंखला, नियंत्रित सामग्री तक पहुंच और बार-बार प्रयोग की जरूरत हो सकती है। इसका मतलब यह नहीं कि जैव-सुरक्षा का जोखिम शून्य है। लेकिन यह धारणा जरूर चुनौती में आती है कि डिजिटल क्षमता अकेले और तुरंत निर्णायक भौतिक शक्ति बन जाती है।

Nvidia के CEO Jensen Huang मानवता के अंत वाले दावों के मुखर आलोचकों में रहे हैं; उन्होंने इसे “पूरी तरह बकवास” कहा है। 33 वहीं Mark Cuban का तर्क है कि AI एजेंटों के समूह से भी बड़ा खतरा लोगों की डरावनी ऑनलाइन चेतावनियों पर प्रतिक्रिया हो सकता है। 43

इसलिए संशयवादी रुख का अर्थ हमेशा यह नहीं कि अत्याधुनिक AI को किसी सुरक्षा उपाय की जरूरत नहीं। उनका मुख्य बिंदु यह है कि निकट भविष्य में मानव-विलुप्ति जैसे असाधारण दावों के लिए आज के मॉडल प्रदर्शन और अनुमानित भविष्य-पथों से ज्यादा मजबूत प्रमाण चाहिए।

उभरता व्यावहारिक रास्ता: क्षमता की रफ्तार घटाइए, सुरक्षा को परखिए

एक अधिक कार्योन्मुख दृष्टिकोण उन नेताओं से आया है जो न तो विलुप्ति को तय मानते हैं और न उसे पूरी तरह खारिज करते हैं। Anthropic के CEO Dario Amodei ने AI मॉडल क्षमताओं में सुधार की गति कम करने की अपील की है, ताकि सुरक्षा कार्य के लिए समय मिले। उनके प्रस्ताव में कंपनी के भीतर कर्मचारी-जैसी पहुंच वाले स्वतंत्र मूल्यांकनकर्ता और अग्रणी AI कंपनियों के बीच समन्वय शामिल है। 18

Reuters की रिपोर्ट के अनुसार, OpenAI के CEO Sam Altman उन नेताओं में थे जिन्होंने समन्वित धीमापन चाहा, हालांकि उद्योग इस बात पर बंटा रहा कि बाजार-आधारित सुरक्षा उपायों पर कितना भरोसा किया जाए। 19 रिपोर्टिंग के मुताबिक Altman ने भी प्रस्तावित ढांचे के हिस्से के रूप में बाहरी मूल्यांकनकर्ताओं का समर्थन किया। 20

यह तरीका बहस को अमूर्त आशंकाओं से हटाकर जांचे जा सकने वाले उपायों पर ले जाता है:

स्वतंत्र मूल्यांकन: योग्य बाहरी समीक्षकों को सुरक्षा दावों की जांच के लिए वास्तविक पहुंच दी जाए; केवल कंपनी के बयानों पर निर्भर न रहा जाए। 18
क्षमता-आधारित सीमाएं: साइबर ऑपरेशन या स्वायत्त एजेंट जैसे खतरनाक क्षेत्रों में मॉडल की क्षमता बढ़ने पर जांच कड़ी की जाए या तैनाती सीमित हो।
लैब के बीच समन्वय: कंपनियों को प्रतिद्वंद्वियों से पीछे न रहने के दबाव में सुरक्षा मानक घटाने से रोका जाए। 18
अंतरराष्ट्रीय सहयोग: सरकारों और प्रमुख AI डेवलपर्स के बीच ऐसे मानक बनें जो पर्याप्त सुरक्षा के बिना उत्पाद जारी करने की प्रतिस्पर्धी मजबूरी कम करें। 27
सुरक्षा में समानांतर प्रगति: अधिक शक्तिशाली सिस्टम के साथ नियंत्रण, निगरानी और घटना-प्रतिक्रिया की सिद्ध क्षमता भी बढ़ना अनिवार्य हो।

क्या दीर्घकालिक डर मौजूदा नुकसान से ध्यान हटा रहा है?

एक दूसरी आलोचना प्राथमिकताओं को लेकर है। भले ही विनाशकारी जोखिम पर शोध और आकस्मिक तैयारी जरूरी हो, केवल अनुमानित विलुप्ति पर केंद्रित रहना उन नुकसानों को छिपा सकता है जो उन्नत AI के इस्तेमाल से अभी जुड़े हुए हैं।

तत्काल एजेंडे में AI-सक्षम साइबर दुरुपयोग, धोखाधड़ी, निगरानी, गलत सूचना, भेदभावपूर्ण स्वचालित फैसले, रोजगार पर असर और शक्ति का कुछ बड़ी संस्थाओं में केंद्रित होना शामिल है। Amodei ने भी विकास की रफ्तार घटाने के पक्ष में हथियार-विकास, साइबर हमलों और निगरानी जैसे दुरुपयोग जोखिमों का उल्लेख किया है। 29

यह जरूरी नहीं कि मौजूदा नुकसान और दूरगामी विनाशकारी जोखिम में से सिर्फ एक को चुना जाए। बेहतर पहुंच-नियंत्रण, मजबूत मूल्यांकन, सावधानीपूर्ण तैनाती नीतियां, स्वतंत्र निगरानी, घटना-रिपोर्टिंग और स्पष्ट जवाबदेही—ये सभी उपाय आज के दुरुपयोग को कम करने के साथ अधिक सक्षम AI के लिए तैयारी भी बेहतर कर सकते हैं।

इस बहस का व्यावहारिक निष्कर्ष

सबसे मजबूत निष्कर्ष यह नहीं है कि मानव-विलुप्ति साबित हो चुकी है, न ही यह कि पूरी विनाशकारी श्रृंखला अभी प्रदर्शित नहीं हुई इसलिए उसे खारिज कर दिया जाए। इस बहस से निकला व्यावहारिक मानक यह है: तेजी से सक्षम होती प्रणालियों की सुरक्षा के दावे जांचे जा सकने वाले, स्वतंत्र समीक्षा के लिए खुले और संभावित नुकसान के पैमाने के अनुरूप होने चाहिए।

Coxon, Hubinger और Chughtai अनिश्चितता में एहतियात का पक्ष रखते हैं। Huang और Xing जैसे संशयवादी पूछते हैं कि क्या उपलब्ध सबूत निकट भविष्य के कयामत-संबंधी निष्कर्षों के लिए पर्याप्त हैं। Amodei और Altman एक ऐसा नीतिगत रास्ता सुझाते हैं जिसके लिए हर दार्शनिक मतभेद सुलझाना जरूरी नहीं: अत्याधुनिक AI की दौड़ को संतुलित कीजिए, खतरनाक क्षमताओं को मापिए, विश्वसनीय बाहरी समीक्षा को जगह दीजिए और प्रतिस्पर्धी दबाव को अप्रमाणित सुरक्षा दावों के आधार पर तैनाती कराने से पहले समन्वय कीजिए। 49 16 33 18 19

Studio Global AI

अपना शोध जारी रखें

इस पृष्ठ में एक स्रोत-समर्थित उत्तर शामिल है जिसे आप Studio Global के अंदर जारी रख सकते हैं।

Studio Global AI के साथ खोजें और तथ्यों की जांच करें

लोग पूछते भी हैं