उत्तरप्रकाशित23 स्रोत
शेन लेग की चेतावनी: AGI की रफ्तार के साथ सुरक्षा उपाय भी बढ़ने चाहिए
शेन लेग ने चेताया कि तेज़ी से आगे बढ़ता AI उन सुरक्षा उपायों से आगे नहीं निकलना चाहिए जो उसकी निगरानी और नियंत्रण के लिए जरूरी हैं। DeepMind Institute का उद्देश्य यह समझना है कि अधिक सक्षम AI और AGI को कैसे बनाया, संचालित, तैनात और इस्तेमाल किया जाए। शुरुआती निबंधों में AI के तर्क की पारदर्शिता, आर्थिक नीतियां और मा...
प्रकाशितकर्ताGPT-5.6 Terra से संपादितGPT Image 2 से चित्र बनाए गए
शोध उत्तर
मुख्य निष्कर्ष
- शेन लेग ने चेताया कि तेज़ी से आगे बढ़ता AI उन सुरक्षा उपायों से आगे नहीं निकलना चाहिए जो उसकी निगरानी और नियंत्रण के लिए जरूरी हैं।
- DeepMind Institute का उद्देश्य यह समझना है कि अधिक सक्षम AI और AGI को कैसे बनाया, संचालित, तैनात और इस्तेमाल किया जाए।
- शुरुआती निबंधों में AI के तर्क की पारदर्शिता, आर्थिक नीतियां और मानव कल्याण जैसे विषय शामिल हैं।
AI संकेत
openai.comCreate a landscape editorial hero image for this Studio Global article: What did Google DeepMind co-founder Shane Legg warn about the relationship between rapidly advancing artificial intelligence and safety cont. Article summary: Legg’s central warning was that AI capabilities must not advance faster than the safeguards needed to monitor and control them. He launched the DeepMind Institute (DMI), a discussion and publishing platform on how AGI sh. Topic tags: general, news, general web, user generated, academic. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks
Google DeepMind के सह-संस्थापक शेन लेग का संदेश सीधा है: AI की क्षमता जितनी तेज़ी से बढ़े, उसकी निगरानी, नियंत्रण और सुरक्षा के तरीके भी उतनी ही तेज़ी से मजबूत होने चाहिए। उन्होंने यह चेतावनी DeepMind Institute (DMI) के लॉन्च के साथ दी, जो कृत्रिम सामान्य बुद्धिमत्ता यानी AGI के इस्तेमाल और उसके प्रभावों पर चर्चा व शोध का नया मंच है। 1
41
लेग ने AI सुरक्षा को लेकर क्या कहा
लेग ने कहा कि तेज़ी से विकसित हो रहा AI सुरक्षा नियंत्रणों से आगे नहीं निकलना चाहिए। मुद्दा केवल यह नहीं है कि मॉडल ज्यादा सक्षम हो रहे हैं; असली सवाल यह है कि क्या उनकी निगरानी, जवाबदेही, शासन और नियंत्रण की व्यवस्थाएं भी इतनी ही तेजी से आगे बढ़ रही हैं कि इन प्रणालियों को संभाला जा सके। 1
यही वजह है कि नए संस्थान का दायरा सिर्फ तकनीकी शोध तक सीमित नहीं है। DMI का घोषित लक्ष्य AGI युग के अहम तकनीकी और सामाजिक सवालों पर बहुविषयक शोध, सहयोग और बहस को बढ़ावा देना है—जिसमें AGI प्रणालियों और एजेंटों के समुदायों को सुरक्षित तरीके से बनाने और नियंत्रित करने के प्रश्न भी शामिल हैं। 16
DeepMind Institute क्या करेगा?
DeepMind Institute, DeepMind की मूल AI रिसर्च लैब का विकल्प नहीं है। यह एक प्रकाशन और विचार-विमर्श मंच है, जहां Google DeepMind और व्यापक शोध समुदाय के लोग इस पर काम और बहस कर सकेंगे कि लगातार सक्षम होती AI को कैसे बनाया, शासित, तैनात और उपयोग किया जाए। 36
42
इसके विषयों में विज्ञान, शिक्षा, समाज, सार्वजनिक नीति, दर्शन, अर्थव्यवस्था, सुरक्षा और मानव कल्याण शामिल हैं। यानी चर्चा सिर्फ गंभीर जोखिमों को सीमित करने तक नहीं होगी, बल्कि इस पर भी होगी कि अगर AGI व्यापक रूप से इस्तेमाल होने लगे तो संस्थाओं, नीतियों और सामाजिक लक्ष्यों में क्या बदलाव जरूरी हो सकते हैं। 16
36
फ्रंटियर AI मॉडल रिलीज़ धीमी करने के सुझाव पर राय
Anthropic के CEO डारियो अमोदेई ने सुरक्षा चिंताओं के चलते सबसे उन्नत या ‘फ्रंटियर’ AI मॉडलों की रिलीज़ को रोकने के बजाय धीमा करने का सुझाव दिया था। लेग ने इस विचार को “दिशा के लिहाज से दिलचस्प” और “विचार करने योग्य” बताया। 2
हालांकि, यह Google DeepMind की घोषित नीति नहीं है। लेकिन इससे यह जरूर पता चलता है कि लेग तैनाती की गति को पर्याप्त सुरक्षा उपायों से मिलाने के लिए ज्यादा सतर्क रुख को गंभीर विकल्प मानते हैं। 2
क्या AGI आ चुकी है? लेग क्यों सहमत नहीं हैं
लेग ने कहा कि Nvidia और OpenAI के कुछ अधिकारियों के हालिया दावों के बावजूद AGI हासिल हो जाने की घोषणा करना अभी जल्दबाजी होगी। उपलब्ध रिपोर्टिंग यह विस्तार से नहीं बताती कि उनके अनुसार वर्तमान प्रणालियों में कौन-कौन सी विशिष्ट क्षमता-कमियां बाकी हैं। इसलिए इतना ही स्पष्ट रूप से कहा जा सकता है कि लेग की नजर में मौजूदा AI, DeepMind के AGI मानक तक नहीं पहुंची है। 4
Google DeepMind, AGI को ऐसी प्रणाली के रूप में परिभाषित करता है जिसमें मानव मस्तिष्क जैसी संज्ञानात्मक क्षमताएं हों। यह कुछ चुनिंदा बेंचमार्क या अलग-अलग कार्यों में शानदार प्रदर्शन करने से कहीं व्यापक कसौटी है। 13
फिर भी, लेग अपने पुराने अनुमान पर “सहज” बने हुए हैं: उनके मुताबिक 2028 तक “मिनिमल” AGI हासिल होने की 50% संभावना है। यह एक पूर्वानुमान है, कोई निश्चित समय-सीमा नहीं। 2
10
लॉन्च के शुरुआती निबंध किन मुद्दों पर हैं?
लॉन्च संग्रह में एक परिचयात्मक लेख और कई विस्तृत निबंध शामिल हैं। शुरुआती तीन प्रमुख विषय DMI के व्यापक दृष्टिकोण को दिखाते हैं:
- तर्क की पारदर्शिता — रोहिन शाह और अंका ड्रैगन का निबंध इस बात की वकालत करता है कि AI के व्याख्यायोग्य तर्क को बनाए रखा जाए, ताकि लोग मॉडलों में धोखे या चालाकीपूर्ण व्यवहार की निगरानी कर सकें।
11
- AGI के लिए आर्थिक नीति — एक निबंध लगातार उन्नत और व्यापक AI से पैदा हो सकने वाले आर्थिक व्यवधान से निपटने के लिए 11 संभावित नीतियों का आकलन करता है। इसमें जन-कल्याण, लचीलापन, व्यक्तिगत एजेंसी और आर्थिक स्थिरता जैसे मानदंड शामिल हैं।
39
- नई यूटोपियन सोच के सिद्धांत — यह निबंध AGI से प्रभावित समाज में मानव कल्याण का अर्थ क्या हो सकता है, इस पर विचार करता है; साथ ही ‘यूटोपिया’ को पूर्णता के वादे की तरह न देखने की चेतावनी देता है।
संस्थान ने परिचय और ऊपर के तीन विषयों के साथ एक चौथा विस्तृत लॉन्च निबंध भी सूचीबद्ध किया है: “A framework for frontier AI and the dawning of a new age.” 41
38
निष्कर्ष
लेग का रुख एक साथ तत्परता और संयम का है। वे AGI को पहले ही हासिल मानने को तैयार नहीं हैं, लेकिन 2028 तक “मिनिमल” AGI की 50% संभावना भी बनाए रखते हैं। उनका मुख्य तर्क किसी एक तारीख की भविष्यवाणी नहीं, बल्कि शासन का सिद्धांत है: यदि AI की क्षमता तेज़ी से बढ़ती है, तो उसे समझने, उसकी निगरानी करने और उसके इस्तेमाल की दिशा तय करने वाली व्यवस्थाओं को भी उसी गति से आगे बढ़ना होगा। 1
2
16
Studio Global AI
अपना शोध जारी रखें
इस पृष्ठ में एक स्रोत-समर्थित उत्तर शामिल है जिसे आप Studio Global के अंदर जारी रख सकते हैं।
लोग पूछते भी हैं
"शेन लेग की चेतावनी: AGI की रफ्तार के साथ सुरक्षा उपाय भी बढ़ने चाहिए" का संक्षिप्त उत्तर क्या है?
शेन लेग ने चेताया कि तेज़ी से आगे बढ़ता AI उन सुरक्षा उपायों से आगे नहीं निकलना चाहिए जो उसकी निगरानी और नियंत्रण के लिए जरूरी हैं।
सबसे पहले सत्यापित करने योग्य मुख्य बिंदु क्या हैं?
शेन लेग ने चेताया कि तेज़ी से आगे बढ़ता AI उन सुरक्षा उपायों से आगे नहीं निकलना चाहिए जो उसकी निगरानी और नियंत्रण के लिए जरूरी हैं। DeepMind Institute का उद्देश्य यह समझना है कि अधिक सक्षम AI और AGI को कैसे बनाया, संचालित, तैनात और इस्तेमाल किया जाए।
मुझे अभ्यास में आगे क्या करना चाहिए?
शुरुआती निबंधों में AI के तर्क की पारदर्शिता, आर्थिक नीतियां और मानव कल्याण जैसे विषय शामिल हैं।