सैम ऑल्टमैन की AI को लेकर दो बड़ी चेतावनियां: नियंत्रण खोना और सत्ता का केंद्रीकरण

शक्तिशाली AI समाज के लिए दो अलग-अलग रास्तों से गंभीर समस्या बन सकती है। OpenAI के सीईओ सैम ऑल्टमैन के अनुसार, पहला खतरा यह है कि इंसान लगातार अधिक सक्षम होती प्रणालियों पर अपना नियंत्रण खो दें। दूसरा, AI की असाधारण शक्ति कुछ गिने-चुने लोगों के हाथों में सिमट जाए। उनकी चेतावनी तकनीकी सुरक्षा और राजनीतिक शासन—दोनों को एक ही बहस में रखती है: सुरक्षित AI केवल इस बात का प्रश्न नहीं है कि मॉडल क्या कर सकते हैं, बल्कि यह भी कि उन्हें दिशा देने का अधिकार किसके पास है। 1316

ऑल्टमैन के बताए दो खतरनाक रास्ते

पहला: इंसानों का नियंत्रण खत्म होना। ऑल्टमैन ने कहा कि मानवता AI के हाथों “भविष्य का नियंत्रण” खो सकती है और इसे उन्होंने अस्वीकार्य बताया। उनके मुताबिक AI को लोगों की सेवा करनी चाहिए, न कि लोग ऐसी प्रणालियों पर निर्भर या उनके अधीन हो जाएं जिनकी पर्याप्त निगरानी वे न कर सकें। 216

दूसरा: AI शक्ति का केंद्रीकरण। उन्होंने उस स्थिति से भी आगाह किया जिसमें बेहद शक्तिशाली AI किसी एक व्यक्ति, कंपनी या देश के नियंत्रण में हो और उसका उपयोग सभी पर उसका विश्वदृष्टिकोण थोपने के लिए किया जाए। ऑल्टमैन ने ऐसे नतीजे को “बेहद डिस्टोपियन” बताया—अर्थात ऐसा भविष्य जो दमनकारी और भयावह हो। 113

दोनों जोखिम जुड़े हुए हैं, लेकिन एक जैसे नहीं हैं। पहला सवाल है कि क्या मनुष्य शक्तिशाली AI को समझ, सीमित और जरूरत पड़ने पर रोक पाएंगे। दूसरा सवाल है कि अगर AI तकनीकी रूप से नियंत्रित भी हो, तो क्या उसे चलाने वाली संस्था के पास बिना पर्याप्त जवाबदेही के बहुत ज्यादा ताकत होगी।

ऑल्टमैन किन सुरक्षा उपायों के पक्ष में हैं?

ऑल्टमैन का सार्वजनिक रुख AI विकास पूरी तरह रोक देने का नहीं है। उनका तर्क है कि AI क्षमताएं, अलाइनमेंट (AI के व्यवहार को मानवीय उद्देश्यों के अनुरूप रखने की तकनीक) और निगरानी से आगे नहीं निकलनी चाहिए। प्रतिस्पर्धा के दबाव को लापरवाह तैनाती का बहाना नहीं बनाया जा सकता। 213

उन्होंने जिन उपायों पर जोर दिया है, उनमें शामिल हैं:

• क्षमता बढ़ने के साथ अलाइनमेंट और निगरानी भी आगे बढ़े। डेवलपर्स के पास यह परखने और नियंत्रित करने की वास्तविक क्षमता होनी चाहिए कि अधिक सक्षम मॉडल क्या कर रहे हैं। 213
• AI हमेशा लोगों की सेवा में रहे। नियंत्रण खोने के खतरे पर उनकी चेतावनी का मूल सिद्धांत यही है। 216
• फ्रंटियर AI के लिए एकसमान संघीय नियम। “फ्रंटियर AI” से आशय सबसे उन्नत और शक्तिशाली मॉडलों से है। ऑल्टमैन ने केवल बिखरे हुए स्वैच्छिक वादों पर निर्भर रहने के बजाय इनके जोखिमों के लिए संघीय स्तर के एकसमान ढांचे का समर्थन किया। 1316
• स्वतंत्र जांच-पड़ताल। उन्होंने स्वतंत्र ऑडिटरों को एक उपयोगी व्यवस्था बताया है, जो अधिक सक्षम मॉडल बनाने वाली कंपनियों पर जनता का भरोसा बढ़ा सकती है। 16

व्यावहारिक अर्थ यह है कि सबसे सक्षम मॉडलों के लिए प्रमाण का स्तर ऊंचा होना चाहिए। तैनाती से पहले सुरक्षा उपायों का परीक्षण और उनकी विश्वसनीयता दिखनी चाहिए; उन्हें क्षमताएं बढ़ जाने के बाद का अतिरिक्त काम नहीं माना जा सकता।

Anthropic की चेतावनियां बहस को और तीखा बनाती हैं

उसी सप्ताह Anthropic के पूर्व शोधकर्ता जैकब कॉक्सन ने चेतावनी दी कि प्रमुख लैब खुद को बेहतर बनाने वाली AI की दौड़ में “हमारी जिंदगियों के साथ जुआ” खेल रही हैं। उनके इस्तीफे पर हुई रिपोर्टिंग के अनुसार, उनका मानना था कि इन प्रणालियों को विकसित करने वाले शोधकर्ताओं को भी गंभीर डर है कि वे मानव नियंत्रण से बाहर जा सकती हैं। 17

उनकी भाषा ऑल्टमैन की तुलना में अधिक सीधी है, लेकिन चिंता का आधार मिलता-जुलता है: AI की क्षमता, उसे भरोसेमंद ढंग से नियंत्रित करने की मानवीय क्षमता से तेज गति से आगे बढ़ सकती है। Anthropic के अलाइनमेंट प्रमुख इवान ह्यूबिंगर से जुड़े एक सार्वजनिक संवाद में मानव विलुप्ति का कारण AI बनने की अगले दशक में 10% से अधिक संभावना का उनका निजी आकलन सामने आया। उन्होंने यह भी कहा कि सुपरइंटेलिजेंस के अलाइनमेंट की पूरी समस्या का समाधान अभी मौजूद नहीं है। यह किसी व्यक्ति का जोखिम आकलन है, कोई स्थापित पूर्वानुमान या वैज्ञानिक सहमति नहीं। 17

मुख्य बात यह नहीं है कि मानव-विलुप्ति की कोई निश्चित समयसीमा साबित हो चुकी है—ऐसा नहीं हुआ है। अहम यह है कि फ्रंटियर AI पर काम करने वाले शोधकर्ता ही सार्वजनिक रूप से बहस कर रहे हैं कि क्या मौजूदा सुरक्षा व्यवस्थाएं विकास की गति के साथ पर्याप्त तेजी से आगे बढ़ रही हैं।

उद्योग की असली असहमति: पहले क्षमता या पहले सुरक्षा?

इस उभरते मतभेद को अक्सर AI की रफ्तार बढ़ाने और AI को धीमा करने वालों की लड़ाई कहा जाता है, लेकिन तस्वीर इतनी सरल नहीं है। अधिकतर पक्ष मानते हैं कि AI बड़े लाभ दे सकता है। असली विवाद क्रम और नियमों को लागू कराने की क्षमता पर है।

एक पक्ष मानता है कि फ्रंटियर AI का विकास ऐसी गति से हो कि सुरक्षा शोध, मूल्यांकन, शासन व्यवस्था और दुरुपयोग से निपटने के उपायों को परिपक्व होने का समय मिले। Anthropic के सीईओ डारियो अमोदेई ने मॉडल क्षमताओं की प्रगति धीमी करने की अपील की है। उन्होंने स्वतंत्र मूल्यांकनकर्ताओं को कंपनियों के भीतर पहुंच देने, फ्रंटियर लैबों के बीच समन्वय और अंतरराष्ट्रीय सहयोग जैसे उपाय सुझाए।

दूसरी ओर व्यावसायिक और भू-राजनीतिक दबाव भी वास्तविक है। कंपनियों और सरकारों को चिंता है कि प्रतिद्वंद्वियों से धीमी रफ्तार आर्थिक या रणनीतिक बढ़त गंवा सकती है। फिर भी ऑल्टमैन का तर्क है कि प्रतिस्पर्धा, अलाइनमेंट और निगरानी से आगे निकलती क्षमताओं को सही नहीं ठहरा सकती। 13

Reuters ने रिपोर्ट किया कि कुछ शोधकर्ताओं का मानना है कि मॉडल क्षमताएं अपेक्षा से तेज गति से आ रही हैं, जबकि इंसानों की इन प्रणालियों के भीतर की समझ और उन पर संभावित पकड़ कम हो रही है। यही चिंता नीति-निर्माताओं के सामने केंद्रीय सवाल रखती है: क्या लैब सुरक्षा उपायों के पीछे रहने पर भी लगातार अधिक स्वायत्त मॉडल जारी करती रहें, या पहले उन्हें दिखाना चाहिए कि सुरक्षा उपाय पर्याप्त हैं?

AI शासन के लिए इसका मतलब

ऑल्टमैन की दो चेतावनियां बताती हैं कि फ्रंटियर AI के शासन को तकनीकी नियंत्रण और शक्ति के वितरण—दोनों से निपटना होगा। बेहतर मॉडल परीक्षण, अलाइनमेंट शोध, निगरानी और स्वतंत्र पर्यवेक्षण पहले प्रश्न से जुड़े हैं। एकसमान नियम, पारदर्शिता और एकतरफा नियंत्रण पर सीमाएं दूसरे प्रश्न से।

न तो विनाशकारी भविष्यवाणियों को और न ही उनकी सटीक समयसीमाओं को स्थापित तथ्य मानना चाहिए। लेकिन विफलता की संभावित गंभीरता ही वह वजह है कि कड़े मूल्यांकन, बाहरी जांच और सुरक्षा शर्तों की मांग अब AI उद्योग की मुख्य बहस बन गई है। 13