जब एआई, एआई बनाने लगे: तेज़ी से बदलते शोध पर निगरानी की मांग क्यों

एआई के जोखिम पर हाल की चेतावनी सिर्फ इस बात को लेकर नहीं है कि नए मॉडल पहले से ज़्यादा सक्षम हो सकते हैं। चिंता यह भी है कि एआई अगली पीढ़ी के एआई को विकसित करने में मदद करे—और फिर वे अधिक सक्षम सिस्टम शोध का और बड़ा हिस्सा संभालें। ऐसा चक्र शोध और विकास की रफ्तार बढ़ा सकता है। OpenAI, Anthropic, Meta और Microsoft से जुड़े शोधकर्ता चाहते हैं कि नीति-निर्माता देखें कि यह स्वचालन कितना आगे बढ़ा है, ताकि निगरानी बदलावों से पीछे न रह जाए। 23

इस संभावित तेज़ी को कभी-कभी “इंटेलिजेंस एक्सप्लोजन” कहा जाता है। यह एक जोखिम-परिदृश्य है, इस बात का प्रमाण नहीं कि एआई अभी बिना मानवीय दिशा के खुद को बेहतर बना रहा है। नीतिगत सवाल यह है कि एआई शोध में एआई की बढ़ती भूमिका को कैसे मापा और नियंत्रित किया जाए। 114

एआई से एआई शोध तेज़ कैसे हो सकता है?

एआई भविष्य के मॉडल बनाने से जुड़े शोध और विकास के काम में योगदान दे सकता है। अगर उस मदद से अधिक सक्षम सिस्टम बनते हैं और वे सिस्टम फिर शोध का अधिक काम करने लगते हैं, तो हर नया चक्र अगले चक्र को तेज़ कर सकता है। इसी प्रक्रिया को रिकर्सिव सेल्फ-इम्प्रूवमेंट कहा जाता है—यानी एआई सिस्टम, एआई सिस्टम बनाने की प्रक्रिया को बेहतर बनाने में मदद करें। 15

चेतावनी का केंद्र सिर्फ यह नहीं कि सिस्टम क्या कर पाएंगे, बल्कि यह भी है कि बदलाव कितनी तेज़ी से होंगे। शोधपत्र पर आई एक रिपोर्ट में दिए गए एक परिदृश्य के मुताबिक, जिस प्रगति में सामान्यतः एक साल लग सकता है, वह कुछ हफ्तों में हो सकती है। यह एक अनुमानित स्थिति है, मापा हुआ नतीजा नहीं; उपलब्ध स्रोत यह नहीं बताते कि विकास की रफ्तार इस स्तर तक पहुंच चुकी है। 314

इससे पहले सीमांत एआई कंपनियों और अकादमिक जगत के 25 शोधकर्ताओं के साक्षात्कार पर आधारित एक अध्ययन में कई लोगों ने कहा था कि एआई, एआई शोध को स्वचालित कर सकता है और एक सकारात्मक फीडबैक चक्र बना सकता है। इससे समझ आता है कि इस संभावना को क्षेत्र के भीतर गंभीरता से क्यों लिया जा रहा है—लेकिन यह साबित नहीं होता कि ऐसा तेज़ उछाल होना तय है। 1

नीति-निर्माताओं से क्या जानने को कहा जा रहा है?

फिलहाल शोधकर्ताओं की मांग है कि कंपनियां अपने शोध और विकास में एआई का इस्तेमाल कितनी व्यापकता से कर रही हैं, इस पर अधिक स्पष्ट जानकारी मिले। 20 से अधिक एआई नेताओं और शोधकर्ताओं ने नीति-निर्माताओं से इस प्रगति की पड़ताल करने और तकनीक के लिए सुरक्षा उपायों पर विचार करने को कहा है। 2

यह फर्क अहम है: निगरानी की मांग इस बात का सबूत नहीं कि एआई कंपनियों ने शोध का नियंत्रण एआई को सौंप दिया है। लेकिन एआई विकास-प्रक्रिया का अधिक हिस्सा संभालने लगे, तो वह कहां और कैसे इस्तेमाल हो रहा है—इसकी बेहतर जानकारी से नीति-निर्माता परख सकते हैं कि मौजूदा निगरानी पर्याप्त है या नहीं। 23

विकास की रफ्तार कम करने की मांग क्यों?

सहमति से विकास धीमा करने पर सुरक्षा परीक्षण, स्वतंत्र मूल्यांकन और बेहतर निगरानी के लिए समय मिल सकता है—इससे पहले कि सिस्टम की क्षमताएं फिर बदलें। OpenAI और Anthropic के शोधकर्ताओं ने सार्वजनिक रूप से धीमे विकास की मांग की है, जबकि उद्योग के कुछ अन्य नेता बाज़ार-आधारित रास्ते के पक्ष में रहे हैं। इससे साफ है कि उद्योग में इस बात पर एकमत राय नहीं है कि रफ्तार कितनी कम होनी चाहिए या विराम को व्यवहार में कैसे लागू किया जाए। 818

इसमें व्यावहारिक सवाल भी हैं: किन सिस्टमों या गतिविधियों पर रोक लागू होगी, नियमों के पालन पर नज़र कौन रखेगा और प्रतिस्पर्धी कंपनियों के बीच इसे कैसे समन्वित किया जाएगा? उपलब्ध रिपोर्टिंग के मुताबिक, विराम का अर्थ और उसे लागू कराने का तरीका—दोनों अब भी स्पष्ट नहीं हैं।

आपात स्थिति में सिस्टम बंद करने का प्रस्ताव

Microsoft के अध्यक्ष ब्रैड स्मिथ ने कहा है कि एआई मॉडल बनाने वालों, क्लाउड ढांचे के प्रदाताओं और एआई एजेंटों पर नियंत्रण रखने वालों के पास सिस्टम बंद करने की क्षमता होनी चाहिए। यह प्रस्ताव आपात स्थिति में काम आने वाले संभावित “इमरजेंसी ब्रेक” की तरह है—न कि पहले से जोखिम रोकने या लगातार निगरानी करने का विकल्प।

ऐसे नियंत्रण की अपनी सीमाएं भी हैं। एआई सिस्टम अलग-अलग हिस्सों वाले वितरित ढांचे पर चल सकते हैं, इसलिए एक स्विच से हर घटक के रुकने की गारंटी नहीं मिलती। विशेषज्ञों ने लगातार निगरानी और मानवीय हस्तक्षेप की जरूरत की ओर भी ध्यान दिलाया है।

सुरक्षा और व्यावसायिक हितों के बीच संतुलन

डेवलपर और क्लाउड प्रदाता—दोनों को निगरानी में भूमिका देने से शासन का एक सवाल उठता है: कंपनियां सिस्टम बनाने या होस्ट करने के साथ उनकी देखरेख में भी शामिल हो सकती हैं। Microsoft एआई मॉडल विकास से जुड़ा है और स्मिथ की टिप्पणी के अनुसार क्लाउड सेवाएं भी देता है। यह दोहरी भूमिका स्वतंत्र जांच और स्पष्ट नियमों की अहमियत बढ़ाती है; अपने आप में यह साबित नहीं करती कि किसी कंपनी की सुरक्षा संबंधी चिंता ईमानदार नहीं है। 2

समन्वय की चुनौती भी है। उद्योग के नेता विकास की रफ्तार पर बंटे हुए हैं और एआई धीमा करने की चर्चा तेज़ प्रतिस्पर्धा के बीच हो रही है। अगर एक कंपनी खुद संयम बरते, जबकि दूसरी तेज़ी से आगे बढ़ती रहे, तो उस संयम को बनाए रखना कठिन हो सकता है। स्रोत उद्योग में मतभेद और प्रतिस्पर्धा का दबाव दिखाते हैं, लेकिन यह साबित नहीं करते कि किसी खास शोधकर्ता की राय उसके निवेश-संबंधी हितों से तय होती है। 1218

नीति-निर्माताओं के सामने इसलिए दो जुड़े हुए सवाल हैं: एआई को एआई विकसित करने में कहां तक इस्तेमाल किया जा रहा है, और सुरक्षा उपायों को कंपनियों के अपने आश्वासन पर निर्भर रहने के बजाय जांचने योग्य कैसे बनाया जाए। ये चेतावनियां इन सवालों पर अभी विचार करने की वजह देती हैं; लेकिन वे यह तय नहीं करतीं कि इंटेलिजेंस एक्सप्लोजन कितना संभावित है या कौन-सा नीतिगत कदम सबसे कारगर होगा। 123