उत्तरप्रकाशित25 स्रोत
एंड्रयू एनजी ने AI से मानव-विलुप्ति की आशंकाओं को बताया ‘साइंस फिक्शन’, कहा—असल जोखिमों पर हो फोकस
एंड्रयू एनजी ने 17 सितंबर के Bloomberg TV साक्षात्कार में कहा कि AI से मानव विलुप्ति की आशंकाएं “विज्ञान से कहीं अधिक साइंस फिक्शन” हैं। उनका तर्क है कि व्यापक स्तर पर AI विकास धीमा करने के बजाय टेस्टिंग, सुरक्षा उपाय, गार्डरेल और निरंतर इंजीनियरिंग सुधार पर ध्यान देना चाहिए। डारियो एमोडेई, सैम ऑल्टमैन, जैकब कॉक्सन...
प्रकाशितकर्ताGPT-5.6 Terra से संपादितGPT Image 2 से चित्र बनाए गए
शोध उत्तर
मुख्य निष्कर्ष
- एंड्रयू एनजी ने 17 सितंबर के Bloomberg TV साक्षात्कार में कहा कि AI से मानव विलुप्ति की आशंकाएं “विज्ञान से कहीं अधिक साइंस फिक्शन” हैं।
- उनका तर्क है कि व्यापक स्तर पर AI विकास धीमा करने के बजाय टेस्टिंग, सुरक्षा उपाय, गार्डरेल और निरंतर इंजीनियरिंग सुधार पर ध्यान देना चाहिए।
- डारियो एमोडेई, सैम ऑल्टमैन, जैकब कॉक्सन और जेफ्री हिंटन उन्नत ‘फ्रंटियर’ AI की गति नियंत्रित करने के पक्ष में हैं, जबकि एनजी का फोकस आज के पहचाने जा सकने वाले जोखिमों पर है।
AI संकेत
openai.comCreate a landscape editorial hero image for this Studio Global article: What did AI pioneer Andrew Ng say in his September 17 Bloomberg TV interview about warnings that artificial intelligence could cause human e. Article summary: Andrew Ng rejected the claim that AI is likely to cause human extinction as “much more science fiction than science.” He argued that uncertainty in AI behavior is an engineering problem to manage—not evidence that societ. Topic tags: general, news, general web. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, charts with fake numbers
एंड्रयू एनजी का कहना यह नहीं है कि AI पूरी तरह जोखिम-मुक्त है। उनका मुख्य तर्क यह है कि निकट भविष्य में AI के कारण मानवता के समाप्त हो जाने का दावा इतना अनुमान-आधारित है कि उसी के आधार पर पूरी AI नीति तय नहीं की जानी चाहिए। 17 सितंबर को Bloomberg TV को दिए साक्षात्कार में Google Brain के सह-संस्थापक ने इन आशंकाओं को “विज्ञान से कहीं अधिक साइंस फिक्शन” बताया और कहा कि AI सुरक्षा को इंजीनियरिंग की समस्या की तरह लेना चाहिए: सिस्टम की जांच करें, सुरक्षा-उपाय लगाएं और अनुभव के साथ उन्हें बेहतर बनाते जाएं। 2
मानव-विलुप्ति के जोखिम पर एनजी ने क्या कहा
एनजी के मुताबिक AI सिस्टम कभी भी पूरी तरह पूर्वानुमेय नहीं होंगे। लेकिन केवल यह तथ्य कि वे पूर्णतः पूर्वानुमेय नहीं हैं, विकास रोक देने का पर्याप्त कारण नहीं बनता। उनके अनुसार परीक्षण, सुरक्षा-उपाय और इंजीनियरिंग के जरिए इन्हें समय के साथ अधिक सुरक्षित बनाया जा सकता है। उन्होंने यह भी चेताया कि पूरे क्षेत्र की गति धीमी करने से सुरक्षा पर होने वाली प्रगति भी धीमी पड़ सकती है। 2
यह दृष्टिकोण उन दलीलों से अलग है जिनमें कहा जाता है कि तेजी से सक्षम होते सिस्टम जल्द ही मानव नियंत्रण से बाहर हो सकते हैं। एनजी मानते हैं कि सुरक्षा का उपयोगी एजेंडा उन विफलताओं से शुरू होना चाहिए जिन्हें देखा, मापा और सुधारा जा सकता है—न कि केवल काल्पनिक विलुप्ति परिदृश्यों से।
‘डूम्सडे’ विमर्श पर उनका सवाल
एनजी ने कहा कि AI के अस्तित्वगत जोखिम की चेतावनियां समाज को तकनीक का अधिकतम लाभ दिलाने में बाधा बन सकती हैं। उनका यह भी कहना था कि AI उछाल के शुरुआती दौर में तकनीक उद्योग ने विनाशकारी नुकसान की आशंकाओं को प्रचार पाने और नियमन को प्रभावित करने के लिए बढ़ावा दिया था। 1
यह तर्क जोखिम के साथ-साथ प्रोत्साहनों का भी है: नाटकीय दावे ध्यान खींचते हैं, और नियमन पर बहस यह तय कर सकती है कि अनुपालन की लागत कौन उठाएगा। एनजी ने सुरक्षा-कार्य बंद करने की बात नहीं कही; उनका विरोध विलुप्ति के दावों को स्थापित विज्ञान मान लेने या व्यापक रोक का आधार बनाने से है।
एनजी किन सुरक्षा उपायों को प्राथमिकता देना चाहते हैं
एनजी का विकल्प व्यावहारिक जोखिम-घटाने पर आधारित है। साक्षात्कार पर आई रिपोर्टिंग में साइबर सुरक्षा और अन्य ठोस सुरक्षा उपायों को प्राथमिकता बताया गया। 5
व्यावहारिक रूप से उनके दृष्टिकोण में शामिल हैं:
- तैनाती से पहले और तैनाती के दौरान कठोर परीक्षण
- गार्डरेल और सुरक्षा-उपाय, जो ज्ञात विफलताओं की सीमा तय करें
- दोहराव वाला इंजीनियरिंग सुधार, ताकि नई कमियां सामने आने पर विश्वसनीयता बढ़ाई जा सके
- अनुमानित नुकसान पर ध्यान, जिनमें साइबर सुरक्षा के जोखिम भी शामिल हैं, बजाय इसके कि नीति केवल मानव-विलुप्ति की आशंकाओं पर केंद्रित रहे।
2
5
यह दृष्टि पूर्ण नियंत्रण का वादा नहीं करती। इसका तर्क है कि दूसरी इंजीनियरिंग विधाओं की तरह लगातार आकलन और सुधार के जरिए उपयोगी तकनीक को स्वीकार्य स्तर तक भरोसेमंद बनाया जा सकता है।
AI की रफ्तार धीमी करने वाले पक्ष से मतभेद
कई प्रमुख AI हस्तियां सुरक्षा को ज्यादा महत्व देने पर सहमत हैं, लेकिन सबसे उन्नत मॉडलों के विकास की रफ्तार पर उनका निष्कर्ष एनजी से काफी अलग है।
जैकब कॉक्सन: खतरे का आकलन कहीं अधिक गंभीर
Anthropic और OpenAI के पूर्व शोधकर्ता जैकब कॉक्सन ने Anthropic से इस्तीफा दिया और चेतावनी दी कि खुद को बेहतर बनाने वाले सिस्टम की दिशा में तेज विकास विनाशकारी हो सकता है। उन्होंने विकास धीमा करने की जरूरत बताई और बाद में Anthropic के गति-नियंत्रण प्रस्ताव का स्वागत किया। 33
43
डारियो एमोडेई: सुरक्षा उपायों के लिए समय खरीदने की दलील
Anthropic के CEO डारियो एमोडेई ने कंपनियों से AI क्षमताओं में सुधार की गति घटाने की अपील की। उनका घोषित उद्देश्य जोखिमों को संभालने के लिए समय बनाना है, जिसमें स्वतंत्र मूल्यांकनकर्ताओं को शामिल करने वाला ढांचा भी है। 18
सैम ऑल्टमैन: फ्रंटियर AI की गति नियंत्रित करने का समर्थन
OpenAI के CEO सैम ऑल्टमैन ने एमोडेई के प्रस्ताव के मूल विचार का समर्थन किया और OpenAI को उसके एक सुरक्षा उपाय के लिए प्रतिबद्ध किया: सुरक्षा प्रक्रियाओं का आकलन करने हेतु सार्थक पहुंच वाले बाहरी मूल्यांकनकर्ता। 19
24
जेफ्री हिंटन: नियंत्रण खोने की चिंता
जेफ्री हिंटन कह चुके हैं कि AI के मानव नियंत्रण से बाहर निकलने का “महत्वपूर्ण जोखिम” है। उन्होंने विकास की गति कम करने और नए चैटबॉट जारी होने से पहले परीक्षण जैसे कदमों का समर्थन किया है; उनका कहना है कि सरकारें बहुत धीमी रही हैं। 20
इसलिए असली मतभेद संभावना और नीति—दोनों पर है। कॉक्सन, एमोडेई, ऑल्टमैन और हिंटन मानते हैं कि नियंत्रण खोने का जोखिम इतना विश्वसनीय है कि सबसे उन्नत सिस्टम की गति जानबूझकर नियंत्रित की जाए। एनजी के अनुसार विलुप्ति के दावों का आधार पर्याप्त ठोस नहीं है और सुरक्षा प्रयासों को ठोस, सुलझाए जा सकने वाले जोखिमों पर केंद्रित होना चाहिए। 2
18
20
व्यापक मंदी का विरोध करने वालों से एनजी की समानता और अंतर
एनजी का व्यापक धीमापन का विरोध करने का अर्थ यह नहीं कि वे उन राजनीतिक नेताओं और उद्योग अधिकारियों की हर दलील से सहमत हैं जो इसका विरोध करते हैं।
- जेनसन हुआंग: Nvidia के CEO ने कहा कि उद्योग को नए कानूनों या नियमों की जरूरत नहीं है।
53
- मार्क ज़करबर्ग: Meta के CEO ने कहा कि पूरे उद्योग में विकास धीमा करना जरूरी नहीं है, क्योंकि प्रतिस्पर्धा और बाजार की प्रेरणाएं कंपनियों को मॉडल सुरक्षित बनाने की ओर धकेलेंगी।
55
- राष्ट्रपति डोनाल्ड ट्रंप: ट्रंप ने बेकाबू AI के डर को “धोखा” बताया और कहा कि अमेरिका के पास AI कंपनियों को नियंत्रित करने और उन पर कार्रवाई करने के लिए पहले से साधन हैं।
49
50
- चीनी अधिकारी: चीन के विदेश मंत्रालय के एक प्रवक्ता ने फ्रंटियर AI विकास धीमा करने की मांगों का विरोध किया।
इन सभी का निष्कर्ष व्यापक रोक के विरोध में मिलता-जुलता है, लेकिन वजहें अलग हैं। एनजी की दलील मुख्यतः तकनीकी है: मापे जा सकने वाले नुकसान पहचानिए और बेहतर नियंत्रण बनाइए। हुआंग, ज़करबर्ग, ट्रंप और चीनी अधिकारियों ने अलग-अलग स्तरों पर नए प्रतिबंधों का विरोध, बाजार प्रोत्साहनों, प्रतिस्पर्धा और राष्ट्रीय रणनीति पर जोर दिया है। 2
50
52
53
55
साइबर जोखिम पर सीमित साझा आधार
बहस को ‘सुरक्षा के पक्ष’ और ‘सुरक्षा के विरोध’ के दो खेमों में बांटना सही नहीं होगा। उदाहरण के लिए Cohere के CEO एडन गोमेज ने कहा कि AI मॉडल बहुत शक्तिशाली साइबर हथियार बन चुके हैं, क्योंकि वे बड़े पैमाने पर कमजोरियां खोज और उनका फायदा उठा सकते हैं। 62 यह चिंता एनजी के ठोस साइबर सुरक्षा जोखिमों पर ध्यान देने के आग्रह के ज्यादा निकट है, हालांकि उपलब्ध रिपोर्टिंग से उद्योग-व्यापी मंदी या अंतरराष्ट्रीय AI शासन पर गोमेज का पूरा रुख स्थापित नहीं होता।
इसी तरह, उपलब्ध स्रोत निवेशक स्टीव आइज़मैन के रुख को विकास-गति नीति, सुरक्षा शोध, नियमन और अंतरराष्ट्रीय शासन के सभी पहलुओं पर तय करने के लिए पर्याप्त नहीं हैं।
निष्कर्ष
एनजी की दखलअंदाजी AI सुरक्षा पर बहस का केंद्र बदलने की कोशिश है। सवाल यह नहीं कि AI को सुरक्षित बनाया जाना चाहिए या नहीं; सवाल यह है कि क्या अनुमान-आधारित मानव-विलुप्ति परिदृश्यों को नीति का मुख्य आधार बनाया जाए। एनजी का जवाब ‘नहीं’ है: मौजूदा और पहचाने जा सकने वाले जोखिमों के विरुद्ध परीक्षण, सुरक्षा-उपाय और इंजीनियरिंग को प्राथमिकता दी जाए—और ऐसी व्यापक मंदी से बचा जाए जो, उनके अनुसार, नवाचार के साथ सुरक्षा की प्रगति भी रोक सकती है। 1
2
Studio Global AI
अपना शोध जारी रखें
इस पृष्ठ में एक स्रोत-समर्थित उत्तर शामिल है जिसे आप Studio Global के अंदर जारी रख सकते हैं।
लोग पूछते भी हैं
"एंड्रयू एनजी ने AI से मानव-विलुप्ति की आशंकाओं को बताया ‘साइंस फिक्शन’, कहा—असल जोखिमों पर हो फोकस" का संक्षिप्त उत्तर क्या है?
एंड्रयू एनजी ने 17 सितंबर के Bloomberg TV साक्षात्कार में कहा कि AI से मानव विलुप्ति की आशंकाएं “विज्ञान से कहीं अधिक साइंस फिक्शन” हैं।
सबसे पहले सत्यापित करने योग्य मुख्य बिंदु क्या हैं?
एंड्रयू एनजी ने 17 सितंबर के Bloomberg TV साक्षात्कार में कहा कि AI से मानव विलुप्ति की आशंकाएं “विज्ञान से कहीं अधिक साइंस फिक्शन” हैं। उनका तर्क है कि व्यापक स्तर पर AI विकास धीमा करने के बजाय टेस्टिंग, सुरक्षा उपाय, गार्डरेल और निरंतर इंजीनियरिंग सुधार पर ध्यान देना चाहिए।
मुझे अभ्यास में आगे क्या करना चाहिए?
डारियो एमोडेई, सैम ऑल्टमैन, जैकब कॉक्सन और जेफ्री हिंटन उन्नत ‘फ्रंटियर’ AI की गति नियंत्रित करने के पक्ष में हैं, जबकि एनजी का फोकस आज के पहचाने जा सकने वाले जोखिमों पर है।