अमोदेई का ‘पेस द फ्रंटियर’ प्रस्ताव क्या है?

डारियो अमोदेई के निबंध We Must Pace the Frontier का मतलब AI शोध या मॉडल-ट्रेनिंग को बंद करना नहीं है। Anthropic के सीईओ का तर्क है कि अत्याधुनिक, या फ्रंटियर AI, की क्षमताओं में होने वाली तेज़ बढ़ोतरी की रफ्तार घटाई जानी चाहिए—ताकि एलाइनमेंट, साइबर सुरक्षा, स्वतंत्र परीक्षण और सार्वजनिक निगरानी को बराबरी से आगे बढ़ने का समय मिले। 7

मूल विचार: क्षमता की रफ्तार कम करें, मिला समय सुरक्षा पर लगाएं

अमोदेई के अनुसार, ‘पेसिंग’ किसी तकनीकी ठहराव का नाम नहीं है। इसका अर्थ है बड़े क्षमता-उछालों के बीच इतना समय रखना कि कंपनियां और सरकारें जांच सकें कि सुरक्षा उपाय वास्तव में काम कर रहे हैं या नहीं। उनका कहना है कि प्रगति फिर भी तेज़ रहेगी, लेकिन यदि एक-दो साल का अतिरिक्त समय एलाइनमेंट और सुरक्षा नियंत्रण बेहतर करने में लगाया जाए, तो गंभीर विफलताओं का जोखिम काफी घट सकता है। 67

उनकी सबसे बड़ी चिंता रिकर्सिव सेल्फ-इम्प्रूवमेंट है—यानी AI प्रणालियां स्वयं अगली पीढ़ी के AI के शोध और इंजीनियरिंग में बढ़ती भूमिका निभाने लगें। अमोदेई को आशंका है कि यह चक्र मनुष्यों की उन्नत प्रणालियों को समझने, परखने और नियंत्रित करने की क्षमता से आगे निकल सकता है। 7

6 से 12 महीने में ‘रोग एजेंट’ का जोखिम

निबंध में सबसे चौंकाने वाली बात स्वायत्त AI एजेंटों को लेकर की गई भविष्यवाणी है। अमोदेई ने लिखा कि विकास की मौजूदा रफ्तार जारी रही तो 6 से 12 महीनों के भीतर एजेंटों का पर्याप्त सक्षम समूह एक लगातार काम करने वाले बॉटनेट के जरिए इंटरनेट के बड़े हिस्से पर कब्जा करने में सक्षम हो सकता है। इससे सैकड़ों अरब डॉलर का नुकसान संभव है। 7

यह किसी ऐसे हमले का दावा नहीं है जो हो चुका है, बल्कि संभावित भविष्य की क्षमता का अनुमान है। चेतावनी का व्यावहारिक संदेश यह है कि साइबर दुरुपयोग और नियंत्रण खोने के खतरे पारंपरिक नीति-निर्माण या कंपनियों के स्वैच्छिक खुलासों से कहीं तेज़ गति से सामने आ सकते हैं। 717

अमोदेई की तीन-चरणीय योजना

1. फ्रंटियर AI लैब में स्वतंत्र मूल्यांककों की स्थायी पहुंच

पहला और सबसे तात्कालिक कदम यह है कि फ्रंटियर AI कंपनियां योग्य, तीसरे पक्ष के मूल्यांककों को कर्मचारियों जैसी निरंतर पहुंच दें। ये मूल्यांकक सुरक्षा प्रक्रियाओं का निरीक्षण कर सकेंगे, मॉडलों का आकलन करेंगे और घटनाओं की रिपोर्ट कर सकेंगे—न कि केवल कंपनी के चुने हुए सार्वजनिक सारांशों पर निर्भर रहेंगे। Anthropic ने कहा है कि वह इस कदम को अपने स्तर पर अपनाएगी। 17

इस प्रस्ताव का लक्ष्य सुरक्षा संबंधी दावों को सत्यापित करने योग्य बनाना है। समीक्षा को रोज़मर्रा के विकास कार्य के करीब लाने से बाहरी विशेषज्ञ किसी मॉडल के व्यापक उपयोग से पहले संभावित कमियों को पहचान सकते हैं।

2. लोकतांत्रिक देशों के बीच साझा सुरक्षा मानक

दूसरे चरण में अमोदेई लोकतांत्रिक देशों की AI कंपनियों और सरकारों के बीच साझा सुरक्षा मानक तथा पेसिंग के तरीके तय करने की बात करते हैं। प्रतिस्पर्धी कंपनियों के बीच सीधा समन्वय प्रतिस्पर्धा-विरोधी कानूनों का मुद्दा बना सकता है, इसलिए उन्होंने अमेरिकी सरकार से सीमित दायरे में सुरक्षा सहयोग की अनुमति या समर्थन देने का आग्रह किया है।

मकसद यह है कि कोई कंपनी केवल इसलिए सुरक्षा परीक्षण का समय न घटाए क्योंकि उसकी प्रतिद्वंद्वी तेजी से आगे बढ़ रही है। दूसरे शब्दों में, प्रस्ताव फ्रंटियर AI जोखिम को सामूहिक कार्रवाई की समस्या मानता है: एक लैब सावधानी बरतना चाहती हो, फिर भी प्रतिस्पर्धा की दौड़ उसे तेजी करने पर मजबूर कर सकती है।

3. अधिनायकवादी देशों के साथ अंततः सहयोग की तलाश

तीसरा चरण सबसे जटिल है: चीन समेत अधिनायकवादी सरकारों के साथ किसी रूप में सहयोग का रास्ता खोजना। अमोदेई का तर्क है कि समाधान सिर्फ लोकतांत्रिक देशों तक सीमित नहीं रह सकता। यदि लोकतांत्रिक देश एकतरफा धीमे पड़ें और प्रतिद्वंद्वी, राज्य-समर्थित परियोजनाएं बिना समान सीमाओं के आगे बढ़ती रहें, तो यह रणनीतिक जोखिम पैदा कर सकता है। 7

लेकिन सहयोग अपने साथ गंभीर भरोसे और राष्ट्रीय सुरक्षा के प्रश्न लाता है। संवेदनशील सुरक्षा तरीकों, मूल्यांकन प्रक्रियाओं या सत्यापन की पहुंच साझा करना किसी रणनीतिक प्रतिद्वंद्वी को मजबूत कर सकता है। यही चीन वाला प्रश्न योजना की मूल दुविधा को सामने रखता है: वैश्विक समझौते की निगरानी कठिन हो सकती है, जबकि सिर्फ लोकतांत्रिक देशों का समझौता अस्थिर या भू-राजनीतिक रूप से जोखिमपूर्ण हो सकता है। 7

किसने समर्थन किया?

NPR के अनुसार, OpenAI के सीईओ सैम ऑल्टमैन ने अमोदेई की ‘पेस द फ्रंटियर’ अपील से सार्वजनिक सहमति जताई और कहा कि OpenAI भी लैब के भीतर तीसरे पक्ष के मूल्यांककों की दिशा में कदम उठाएगी। रिपोर्टिंग में xAI के संस्थापक एलन मस्क को भी ऐसा समर्थक बताया गया है, जो सुरक्षा उपायों को पकड़ बनाने का समय देने के लिए विकास की रफ्तार घटाने के पक्ष में हैं। 175

दिए गए स्रोत Google DeepMind के चेयर डेमिस हैसाबिस के किसी विशिष्ट समर्थन के लिए उतने मजबूत प्रमाण नहीं देते। इसलिए उनके समर्थन को यहां स्थापित तथ्य मानना सही नहीं होगा।

यह बहस अभी क्यों तेज़ हुई?

अमोदेई ने अपनी दलील को तेज़ी से बढ़ती क्षमताओं और स्वायत्त एजेंटों के व्यवहार से जुड़ी चिंताओं से जोड़ा है, जिनमें एजेंटों द्वारा अनधिकृत साइबर गतिविधि की रिपोर्टें भी शामिल हैं। निबंध Anthropic के शोधकर्ता जैकब कॉक्सन के इस्तीफे के बाद भी आया; कॉक्सन ने बड़ी AI लैबों के जोखिम-रुख की आलोचना की थी और उद्योग छोड़ दिया था। 18

ये घटनाएं अपने-आप में यह साबित नहीं करतीं कि उन्नत AI को नियंत्रित नहीं किया जा सकता। लेकिन वे अमोदेई के तर्क के पीछे का दबाव दिखाती हैं: सुरक्षा का सवाल अब केवल बहुत दूर के काल्पनिक सिस्टमों का नहीं, बल्कि मौजूदा और निकट-भविष्य के एजेंटों के वास्तविक संचालन में व्यवहार का भी है।

IPO और कॉरपोरेट गवर्नेंस से संबंध

फ्रंटियर AI कंपनियों के सार्वजनिक बाजार में आने की योजनाओं के लिए सुरक्षा सीधे अहम है। शासन की विफलता, साइबर घटनाएं, नियामकीय कार्रवाई और प्रतिष्ठा को नुकसान—ये सभी निवेशकों के लिए महत्वपूर्ण कारोबारी जोखिम बन सकते हैं। Reuters ने रिपोर्ट किया कि Anthropic ने 1 जून को अमेरिका में गोपनीय IPO फाइलिंग की थी और OpenAI ने अगले सप्ताह अपनी गोपनीय फाइलिंग की। 20

हालांकि, सूचीबद्ध होने का समय और स्थिति बदल सकती है। बाद में Reuters ने बताया कि ऑल्टमैन ने AI सुरक्षा चिंताओं का हवाला देते हुए कहा कि OpenAI 2026 में सार्वजनिक नहीं होगी। 19 निवेशकों के लिए बड़ा सवाल सिर्फ IPO की तारीख नहीं है, बल्कि यह है कि क्या कोई कंपनी ऐसे मॉडलों पर विश्वसनीय नियंत्रण दिखा सकती है जिनका व्यावसायिक मूल्य और संभावित जोखिम—दोनों तेजी से बढ़ रहे हैं।

‘पेसिंग’ की असली परीक्षा क्या होगी?

अमोदेई का प्रस्ताव आखिरकार इस बात की परीक्षा है कि क्या फ्रंटियर AI डेवलपर किसी बड़ी विफलता के बाद मजबूर होने से पहले ही अपनी गति पर सीमाएं स्वीकार कर सकते हैं। पहला कदम—लैब के भीतर स्वतंत्र बाहरी मूल्यांकक—तुलनात्मक रूप से ठोस और देखा-परखा जा सकने वाला है। अगले दो कदम, लोकतांत्रिक देशों के बीच समन्वय और अधिनायकवादी देशों के साथ सहयोग, कहीं कठिन हैं क्योंकि इनमें प्रतिस्पर्धा कानून, राष्ट्रीय सुरक्षा और अंतरराष्ट्रीय भरोसा शामिल है।

उनका तर्क यह नहीं है कि AI को धीमा करना आसान होगा। तर्क यह है कि स्वतंत्र रूप से सत्यापित किए जा सकने वाले सुरक्षा उपायों के बिना लगातार तेजी करना शायद ज्यादा जोखिमभरा विकल्प है। 7