फ्रंटियर AI की रफ्तार और जोखिमों के बीच सुरक्षा शोधकर्ताओं पर बढ़ता मानसिक दबाव

कुछ फ्रंटियर-AI सुरक्षा शोधकर्ताओं के लिए समस्या केवल काम का दबाव नहीं है। उनके सामने एक साथ दो चिंताएं हैं: शक्तिशाली मॉडलों से जैविक या साइबर नुकसान की आशंका, और उन्हें जल्दी जारी करने की प्रतिस्पर्धी दौड़। रिपोर्टों के अनुसार, ब्रिटेन के AI Safety Institute (AISI)—जो उन्नत AI मॉडलों का स्वतंत्र आकलन करता है—के कुछ कर्मचारियों ने मानसिक तनाव के कारण चिकित्सकीय अवकाश लिया या काउंसलिंग कराई। कड़ी परीक्षण समय-सीमाओं से कम मनोबल और बर्नआउट की भी बात सामने आई है। बड़ी AI लैब्स के शोधकर्ताओं में भी ऐसी बेचैनी की खबरें हैं, लेकिन हर संस्था में इसकी व्यापकता कितनी है, इस पर सार्वजनिक साक्ष्य पर्याप्त नहीं हैं। 15

जोखिम किस बात का है?

• खतरे निकट अवधि के भी हैं और बहुत बड़े भी। शोधकर्ताओं को आशंका है कि मॉडल साइबर हमलों या जैविक दुरुपयोग को आसान बना सकते हैं। साथ ही, अधिक स्वायत्त प्रणालियों के मानव नियंत्रण से सार्थक रूप से बाहर हो जाने का दीर्घकालिक डर भी है। जैकब कॉक्सन ने AI-सक्षम जैविक खतरों और साइबर हथियारों को संभावित विनाशकारी रास्तों के रूप में रेखांकित किया। 15

• काम में निजी भागीदारी का भाव जुड़ जाता है। सुरक्षा कर्मी किसी दूर के, सैद्धांतिक खतरे पर ही चर्चा नहीं कर रहे होते; वे उन्हीं प्रणालियों का परीक्षण, प्रशिक्षण या परिनियोजन-संबंधी काम करते हैं। जब समय-सीमा तंग हो और व्यावसायिक प्रतिस्पर्धा जारी रहे, तो जोखिम पहचानने तथा किसी मॉडल की रिलीज रोक सकने की वास्तविक क्षमता के बीच का अंतर असहायता, बर्नआउट और नैतिक चोट का कारण बन सकता है। 15

• कॉक्सन के इस्तीफे ने अंदर की चिंता को सार्वजनिक रूप दिया। OpenAI और Anthropic, दोनों में प्रीट्रेनिंग पर काम कर चुके कॉक्सन ने Anthropic छोड़ा और कहा कि कंपनियां जिम्मेदारी से काम किए बिना स्वयं को बेहतर बनाने वाली सुपरइंटेलिजेंस की ओर दौड़ रही हैं। 14 BBC से उन्होंने कहा कि प्रमुख लैब्स के लोग प्रगति की गति और उसके मानवता पर असर को लेकर “वास्तव में डरे हुए” हैं। 9

केवल व्यक्तिगत तनाव नहीं, शासन की समस्या भी

स्टैनफोर्ड के विचार-विमर्श में यह रेखांकित हुआ कि AI क्षमताओं की व्यापक गति-धीमी करना कठिन होगा। इसके बजाय सरकार या योग्य तीसरे पक्ष द्वारा किए जाने वाले स्वतंत्र मूल्यांकन को AI व्यवस्था का मानक हिस्सा बनाने पर जोर दिया गया। 3 मूल सवाल यही है कि कोई एक कर्मचारी या एक लैब प्रतिस्पर्धी दौड़ को सुरक्षित ढंग से अकेले नियंत्रित नहीं कर सकती।

दूसरी ओर, Anthropic के डारियो अमोदेई, OpenAI के सैम ऑल्टमैन और Google DeepMind के डेमिस हसाबिस सहित कुछ शीर्ष अधिकारियों ने अलग-अलग स्तरों पर फ्रंटियर AI की रफ्तार कम करने की जरूरत का समर्थन किया है। 2 आलोचकों का तर्क है कि यदि मौजूदा बड़ी कंपनियां ही किसी “AI फ्रीज” को तय या नियंत्रित करें, तो इससे उनका दबदबा और मजबूत हो सकता है तथा छोटे प्रतिद्वंद्वियों के लिए रास्ता कठिन हो सकता है। 11

इसलिए भरोसे की असली कसौटी बयान नहीं, बल्कि ऐसे कदम हैं जिन्हें परखा जा सके—जैसे रिलीज टालना, स्वतंत्र ऑडिट, लागू होने योग्य क्षमता-सीमाएं, व्हिसलब्लोअर सुरक्षा और बाहरी निगरानी स्वीकार करना।

AI द्वारा AI शोध: समय-रेखा पर नियंत्रण कम होने की आशंका

चिंता यह नहीं है कि पूरी तरह की रिकर्सिव सेल्फ-इम्प्रूवमेंट—यानी AI का लगातार खुद को बेहतर बनाते जाना—पहले ही हासिल हो चुकी है; ऐसा नहीं हुआ है। 6 चिंता यह है कि AI प्रणालियां शोध और इंजीनियरिंग के कुछ हिस्सों को स्वचालित करने में सक्षम होती जा रही हैं। इससे प्रयोग और सुधार के चक्र छोटे हो सकते हैं, जबकि मानव मूल्यांकनकर्ता क्षमताओं को समझने, जांचने और नियंत्रित करने में पीछे रह जाएं।

CSET के अनुसार, AI अनुसंधान एवं विकास के बढ़ते स्वचालन से प्रगति तेज हो सकती है और मानव समझ व नियंत्रण कमजोर पड़ सकते हैं। 4 एक हालिया अध्ययन में एजेंटों ने शोध-इंजीनियरिंग का काफी काम बिना मानवीय मदद के पूरा किया, लेकिन खुले-अंत वाले वैज्ञानिक प्रश्नों पर सार्थक प्रगति नहीं कर सके। 5

निष्कर्ष यह नहीं है कि मानव-विलुप्ति निकट है। बल्कि उपलब्ध रिपोर्टें दिखाती हैं कि फ्रंटियर AI के कुछ निकटतम कामगार तेज होती क्षमताओं, दोहरे उपयोग के जोखिमों, प्रतिस्पर्धी प्रोत्साहनों और कमजोर बाहरी नियंत्रण के इस मेल को मनोवैज्ञानिक व नैतिक रूप से असहनीय मान रहे हैं।