उत्तरप्रकाशित3 घंटे पहलेLast edited 2 घंटे पहले19 स्रोत

सुपरइंटेलिजेंस को नियंत्रित करने के तीन संभावित रास्ते

रिपोर्ट के मुताबिक, ऑल्टमैन ने सुपरइंटेलिजेंस के लिए तीन संभावित रास्ते गिनाए: अंतरराष्ट्रीय निगरानी, बड़ी AI लैब्स का साझा संगठन, या ऐसा एक डेवलपर जो प्रतिद्वंद्वियों की कंप्यूटिंग क्षमता रोक सके। ऑल्टमैन को पहले विकल्प का समर्थन करते और तीसरे को बेहद खराब नतीजा बताते हुए रिपोर्ट किया गया। ये संभावित परिदृश्य थे, O...

प्रकाशितकर्ताGPT-6 Luna से संपादितGPT Image 2 से चित्र बनाए गए

Studio Global AI के साथ खोजें और तथ्यों की जांच करें और ट्रेंडिंग पेज देखें

शोध उत्तर

मुख्य निष्कर्ष

रिपोर्ट के मुताबिक, ऑल्टमैन ने सुपरइंटेलिजेंस के लिए तीन संभावित रास्ते गिनाए: अंतरराष्ट्रीय निगरानी, बड़ी AI लैब्स का साझा संगठन, या ऐसा एक डेवलपर जो प्रतिद्वंद्वियों की कंप्यूटिंग क्षमता रोक सके।
ऑल्टमैन को पहले विकल्प का समर्थन करते और तीसरे को बेहद खराब नतीजा बताते हुए रिपोर्ट किया गया। ये संभावित परिदृश्य थे, OpenAI की घोषित नीतियां नहीं।

Editorial illustration for a story about AI governance and superintelligence. — What did Sam Altman reportedly tell OpenAI employees about three possible superintelligence endgames—an IAEA-style international watchdog enIllustration: competing approaches to governing advanced AI.
AI संकेत
Create a landscape editorial hero image for this Studio Global article: What did Sam Altman reportedly tell OpenAI employees about three possible superintelligence endgames—an IAEA-style international watchdog en. Article summary: Altman reportedly presented OpenAI employees with three possible ways to govern superintelligence: international oversight, consolidation of the major labs, or unilateral dominance by one developer; he favored the first . Topic tags: general, general web, user generated, news. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, charts w
openai.com

OpenAI के प्रमुख सैम ऑल्टमैन ने कथित तौर पर कर्मचारियों के सामने सुपरइंटेलिजेंस—यानी इंसानी क्षमताओं से कहीं आगे जा सकने वाली AI—के विकास को नियंत्रित करने के तीन संभावित रास्ते रखे: अंतरराष्ट्रीय निगरानी, बड़ी AI लैब्स का साझा संगठन, या एक डेवलपर का इतना ताकतवर हो जाना कि वह दूसरों को रोक सके। रिपोर्टों के मुताबिक, ऑल्टमैन पहले रास्ते की ओर झुके और तीसरे को बेहद खराब नतीजा बताया। ये संभावित भविष्य के परिदृश्य थे, OpenAI की अपनाई हुई नीतियां नहीं। 1 4 6

तीन संभावित रास्ते

1. अंतरराष्ट्रीय निगरानी निकाय

पहला विकल्प अंतरराष्ट्रीय परमाणु ऊर्जा एजेंसी (IAEA) की तर्ज पर एक वैश्विक निकाय बनाना है। उसका काम उन्नत AI प्रणालियों के लिए सुरक्षा मानक तय करना या लागू करवाना हो सकता है। रिपोर्टों में इस मॉडल के तहत शक्तिशाली AI प्रणालियों की निगरानी, निरीक्षण या ऑडिट की बात है। 1 4 6

हालांकि, उपलब्ध रिपोर्टिंग से इस निकाय की पूरी रूपरेखा या अधिकार स्पष्ट नहीं होते। खास तौर पर, यह पक्के तौर पर स्थापित नहीं है कि प्रस्ताव में कंप्यूटिंग क्षमता और ऊर्जा-खपत—दोनों की निगरानी शामिल थी, या यह चर्चा सीधे मई 2023 के किसी विशिष्ट प्रस्ताव की अगली कड़ी थी।

2. “Demis Plan”

दूसरे विकल्प को “Demis Plan” कहा गया। इसमें बड़ी AI लैब्स को CERN जैसे साझा संगठन में जोड़ने, या किसी साझा निकाय के तहत उनसे मिलकर काम कराने की कल्पना है। CERN कण-भौतिकी का अंतरराष्ट्रीय शोध केंद्र है। इस योजना का नाम Google DeepMind के Demis Hassabis के नाम पर पड़ा; पत्रकार Amir Efrati ने इसे लगभग 2017 के एक प्रस्ताव से जोड़ा। 5 23

एक रिपोर्ट के मुताबिक, इस साझा संगठन से सहयोग करने वाले देशों को AI मॉडल उपलब्ध कराने की बात भी इस विचार का हिस्सा थी। 5 इसका मूल जोर अलग-अलग लैब्स के बीच होड़ के बजाय साझा संचालन और समन्वय पर है।

3. “Eliezer Plan”

तीसरे परिदृश्य का नाम AI सुरक्षा शोधकर्ता Eliezer Yudkowsky के नाम पर रखा गया। ऑल्टमैन की चर्चा से जोड़े गए इस परिदृश्य में एक डेवलपर ऐसी AI बना लेता है जो खुद को बेहतर करती जाती है। इससे मिली निर्णायक बढ़त के बाद वह प्रतिद्वंद्वियों की कंप्यूटिंग क्षमता तक पहुंच रोकने लायक आर्थिक ताकत हासिल कर लेता है। इसे “बाकी सबके GPU पिघला देना” कहकर संक्षेप में बताया गया। रिपोर्टों के अनुसार, ऑल्टमैन ने इस नतीजे को खारिज किया। 3 5 6

Yudkowsky के विचार का अर्थ—और उसकी सीमा

इस नाम से दो अलग विचार आपस में गड्डमड्ड हो सकते हैं। Yudkowsky की 2022 की लिखाई के विवरण में “pivotal act” की बात है: एक aligned AGI ऐसा निर्णायक कदम उठाए जो दूसरों को unaligned AGI बनाने से रोक दे। 7 10 यह उस परिदृश्य से अलग है जिसमें कोई कंपनी अपनी बढ़त का इस्तेमाल प्रतिद्वंद्वी डेवलपर्स पर वर्चस्व जमाने के लिए करे।

एक अलग रिपोर्ट के मुताबिक, Yudkowsky ने बाद में स्पष्ट किया कि GPU “जला देने” वाला उनका उदाहरण कोई प्रस्ताव नहीं था। 34 उपलब्ध स्रोतों में उनकी पूरी प्रतिक्रिया नहीं है, इसलिए उसकी सभी शर्तों और बारीकियों को यहां दोहराना संभव नहीं। इतना फर्क स्पष्ट है: एक काल्पनिक हस्तक्षेप का उद्देश्य unaligned AGI को बनने से रोकना है; दूसरे परिदृश्य का केंद्र एक डेवलपर का कंप्यूटिंग संसाधनों पर एकाधिकार है।

उपलब्ध रिपोर्टिंग यह भी साबित नहीं करती कि OpenAI के कर्मचारियों ने “Eliezer Plan” नाम को Anthropic पर तंज समझा था। किसी परिदृश्य का Yudkowsky के नाम पर होना न तो यह दिखाता है कि Anthropic उसका समर्थन करती है, न ही यह कि नाम उस कंपनी को निशाना बनाकर रखा गया था।

असल सवाल: ताकत किसके हाथ में होगी?

तीनों रास्तों का बुनियादी फर्क यह है कि नियंत्रण किसके पास होगा: अंतरराष्ट्रीय निगरानी निकाय के पास, प्रमुख लैब्स के साझा संगठन के पास, या एक ही प्रभावशाली डेवलपर के पास। ऑल्टमैन की कथित पसंद पहले विकल्प की ओर और तीसरे के प्रति उनकी असहमति इस चर्चा का मुख्य संकेत है—साझा निगरानी बनाम किसी एक के हाथ में केंद्रित ताकत। 1 4 6

Studio Global AI

अपना शोध जारी रखें

इस पृष्ठ में एक स्रोत-समर्थित उत्तर शामिल है जिसे आप Studio Global के अंदर जारी रख सकते हैं।

Studio Global AI के साथ खोजें और तथ्यों की जांच करें

लोग पूछते भी हैं