उत्तरप्रकाशित22 स्रोत
एंड्रयू एनजी का AI बहस पर जवाब: विलुप्ति का डर नहीं, ठोस सुरक्षा खतरों पर ध्यान दें
एंड्रयू एनजी ने AI से मानव विलुप्ति की आशंकाओं को “साइंस फिक्शन” के ज्यादा करीब बताया। [10] उनके मुताबिक AI पूरी तरह पूर्वानुमेय कभी नहीं होगा, लेकिन परीक्षण, सुरक्षा उपायों और इंजीनियरिंग से इसे पर्याप्त रूप से भरोसेमंद बनाया जा सकता है। [10] एनजी ने चेताया कि व्यापक स्तर पर AI विकास धीमा करने से सुरक्षा में होने व...
प्रकाशितकर्ताGPT Image 2 से चित्र बनाए गए
शोध उत्तर
मुख्य निष्कर्ष
- एंड्रयू एनजी ने AI से मानव विलुप्ति की आशंकाओं को “साइंस फिक्शन” के ज्यादा करीब बताया। [10]
- उनके मुताबिक AI पूरी तरह पूर्वानुमेय कभी नहीं होगा, लेकिन परीक्षण, सुरक्षा उपायों और इंजीनियरिंग से इसे पर्याप्त रूप से भरोसेमंद बनाया जा सकता है। [10]
- एनजी ने चेताया कि व्यापक स्तर पर AI विकास धीमा करने से सुरक्षा में होने वाली प्रगति भी धीमी पड़ सकती है। [10]
- उन्होंने तात्कालिक और देखे जा सकने वाले जोखिमों—खासकर साइबर सुरक्षा जैसे मामलों—के लिए कठोर परीक्षण और गार्डरेल्स को प्राथमिकता दी। [10]
AI संकेत
openai.comCreate a landscape editorial hero image for this Studio Global article: What did AI pioneer Andrew Ng say in his September 17 Bloomberg TV interview about warnings that artificial intelligence could cause human e. Article summary: Andrew Ng rejected the claim that AI is likely to cause human extinction as “much more science fiction than science.” He argued that uncertainty in AI behavior is an engineering problem to manage—not evidence that societ. Topic tags: general web, ai safety, openai, ai, security. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, charts
एआई अग्रणी एंड्रयू एनजी ने 17 सितंबर को ब्लूमबर्ग टीवी के साथ बातचीत में इस दावे को खारिज किया कि कृत्रिम बुद्धिमत्ता से मानवता के विलुप्त होने की आशंका है। उनके शब्दों में, ऐसी आशंकाएं विज्ञान की तुलना में “साइंस फिक्शन” ज्यादा हैं। एनजी का तर्क था कि एआई सिस्टम का व्यवहार कभी पूरी तरह अनुमानित नहीं होगा, लेकिन यह विकास रोकने का आधार नहीं है; इसे परीक्षण, सुरक्षा उपायों और बेहतर इंजीनियरिंग के जरिए संभाला जा सकता है। 10
‘कयामत’ वाली भाषा पर एनजी की आपत्ति
एनजी ने कहा कि अस्तित्वगत खतरे की चेतावनियां समाज को एआई के संभावित लाभों से भटका सकती हैं। ब्लूमबर्ग की रिपोर्ट के अनुसार, उन्होंने यह भी इशारा किया कि तकनीकी क्षेत्र में पहले भी भय-आधारित कथानक प्रचार पाने और नियमन को प्रभावित करने के लिए इस्तेमाल हुए हैं। 8
उनकी चिंता यह है कि यदि नियम मुख्यतः सबसे बड़े और सबसे उन्नत, यानी फ्रंटियर एआई, मॉडलों के इर्द-गिर्द बनाए जाएं, तो भारी अनुपालन लागत उठाने में सक्षम बड़े मौजूदा एआई लैब्स को फायदा मिल सकता है। एनजी का जोर व्यापक रोक या मंदी के बजाय व्यावहारिक जोखिम-नियंत्रण पर है। 8
10
एनजी किस तरह की सुरक्षा चाहते हैं?
एनजी सुरक्षा की जरूरत से इनकार नहीं करते। उनका कहना है कि ध्यान उन विफलताओं पर होना चाहिए जिन्हें पहचाना और मापा जा सकता है—मसलन साइबर सुरक्षा तथा दूसरे अनुमानित नुकसान। उनके प्रस्तावित तरीके हैं:
- रिलीज से पहले और बाद में कठोर परीक्षण;
- सिस्टम में सुरक्षा-गार्डरेल्स;
- खराबी सामने आने पर सुधार की क्रमिक इंजीनियरिंग प्रक्रिया;
- मॉडल की क्षमताओं के साथ-साथ सुरक्षा उपायों को बेहतर बनाना।
उनके अनुसार, एआई को पूर्णतः त्रुटिहीन या पूरी तरह पूर्वानुमेय बनाना लक्ष्य नहीं है; लक्ष्य यह होना चाहिए कि वह वास्तविक उपयोग में स्वीकार्य रूप से सुरक्षित और भरोसेमंद हो। उन्होंने यह भी चेताया कि एआई विकास को बहुत व्यापक रूप से धीमा करने पर सुरक्षा-तकनीकों की प्रगति भी रुक सकती है। 10
धीमी रफ्तार की मांग करने वाले नेताओं से अंतर
एआई उद्योग में दूसरी राय यह है कि उन्नत मॉडलों की क्षमता इतनी तेजी से बढ़ रही है कि पहले गति कम करना जरूरी है।
- जैकब कॉक्सन, जो OpenAI और Anthropic में काम कर चुके हैं, ने Anthropic छोड़ने के बाद चेतावनी दी कि अनियंत्रित प्रगति, खासकर खुद को बेहतर बनाने वाले सिस्टमों की दिशा में दौड़, गंभीर तबाही का जोखिम पैदा कर सकती है। उन्होंने रफ्तार धीमी करने की अपील की।
2
14
- डारियो अमोदेई, Anthropic के CEO, ने उन्नत मॉडलों की क्षमता-वृद्धि की गति घटाने और जोखिम प्रबंधन के लिए समय बनाने का प्रस्ताव रखा। उनके ढांचे में स्वतंत्र मूल्यांकन को भी जगह दी गई है।
3
- सैम ऑल्टमैन, OpenAI के CEO, ने भी धीमी गति और सुरक्षा उपायों की मूल दलील का समर्थन किया है।
1
9
- जेफ्री हिंटन का मानना है कि एआई के मानव नियंत्रण से बाहर जाने का जोखिम महत्वपूर्ण है। वे धीमी प्रगति और सार्वजनिक रिलीज से पहले परीक्षण जैसे उपायों के पक्ष में हैं।
16
यानी असहमति मुख्यतः जोखिम की संभावना और नीति की प्राथमिकता पर है। कॉक्सन, अमोदेई, ऑल्टमैन और हिंटन नियंत्रण खोने के खतरे को इतना संभावित मानते हैं कि फ्रंटियर क्षमताओं को जानबूझकर धीमा किया जाए। एनजी इसे अधिक अटकलबाजी मानते हुए नजदीकी, प्रमाणित जोखिमों पर इंजीनियरिंग आधारित सुरक्षा चाहते हैं। 3
10
16
विकास और प्रतिस्पर्धा को प्राथमिकता देने वाला पक्ष
एनजी का उद्योग-व्यापी मंदी का विरोध कुछ अन्य नेताओं की स्थिति से मिलता-जुलता दिखता है, हालांकि उनके कारण अलग हैं।
- जेन्सन हुआंग, Nvidia के CEO, ने नए एआई-विशिष्ट कानूनों का विरोध किया है।
17
- डोनाल्ड ट्रंप ने एआई विकास धीमा करने की मांग को खारिज किया और कहा कि अमेरिका के पास कंपनियों को नियंत्रित करने या गलत काम पर कार्रवाई करने के लिए पहले से साधन हैं। उन्होंने अमेरिकी प्रतिस्पर्धा, खासकर चीन के संदर्भ में, बनाए रखने पर जोर दिया।
5
- चीन के विदेश मंत्रालय के एक प्रवक्ता ने भी फ्रंटियर एआई की गति कम करने की अपीलों का विरोध किया।
एनजी का तर्क हालांकि प्रतिस्पर्धा से अधिक तकनीकी है: वे ठोस विफलताओं को मापकर, सुरक्षा-उपाय लगाकर और लगातार सुधार कर जोखिम घटाने की बात करते हैं। 10
उपलब्ध रिपोर्टिंग में एडन गोमेज़ और स्टीव आइज़मैन की उद्योग-व्यापी मंदी, सुरक्षा अनुसंधान, नियमन और अंतरराष्ट्रीय शासन पर विस्तृत, स्पष्ट स्थिति के लिए पर्याप्त प्रमाण नहीं हैं। इसलिए उनके विचारों को इस बहस में निश्चित रूप से रखना उचित नहीं होगा।
Studio Global AI
अपना शोध जारी रखें
इस पृष्ठ में एक स्रोत-समर्थित उत्तर शामिल है जिसे आप Studio Global के अंदर जारी रख सकते हैं।
लोग पूछते भी हैं
"एंड्रयू एनजी का AI बहस पर जवाब: विलुप्ति का डर नहीं, ठोस सुरक्षा खतरों पर ध्यान दें" का संक्षिप्त उत्तर क्या है?
एंड्रयू एनजी ने AI से मानव विलुप्ति की आशंकाओं को “साइंस फिक्शन” के ज्यादा करीब बताया। [10]
सबसे पहले सत्यापित करने योग्य मुख्य बिंदु क्या हैं?
एंड्रयू एनजी ने AI से मानव विलुप्ति की आशंकाओं को “साइंस फिक्शन” के ज्यादा करीब बताया। [10] उनके मुताबिक AI पूरी तरह पूर्वानुमेय कभी नहीं होगा, लेकिन परीक्षण, सुरक्षा उपायों और इंजीनियरिंग से इसे पर्याप्त रूप से भरोसेमंद बनाया जा सकता है। [10]
मुझे अभ्यास में आगे क्या करना चाहिए?
एनजी ने चेताया कि व्यापक स्तर पर AI विकास धीमा करने से सुरक्षा में होने वाली प्रगति भी धीमी पड़ सकती है। [10]
सूत्र