एआई किल स्विच क्यों उन्नत सिस्टम पर इंसानी नियंत्रण की गारंटी नहीं है

एआई के लिए ‘किल स्विच’ पर बहस अब केवल इस सवाल तक सीमित नहीं है कि कोई लैब अपने मॉडल को बंद कर सकती है या नहीं। असल चुनौती यह है कि जब शक्तिशाली एआई बड़े, वितरित ढांचे में तैनात हो जाए—या इतनी स्वायत्तता हासिल कर ले कि वह एक नियंत्रित वातावरण से बाहर फैल सके—तो क्या उसे बंद करने का तंत्र तब भी काम करेगा?

कॉक्सन की चेतावनी: आज काम कर सकता है, हमेशा नहीं

Anthropic और OpenAI के पूर्व शोधकर्ता जैकब कॉक्सन ने NBC News के Meet the Press में कहा कि किल स्विच फिलहाल कई एआई सिस्टमों पर काम कर सकता है। लेकिन इसका अर्थ एक बटन दबाना नहीं होगा: बड़े डेटा सेंटरों और तैनात सिस्टमों में अनेक घटकों को बंद करने के लिए कई अलग-अलग कदम उठाने पड़ेंगे। यह आसान नहीं है, फिर भी जब तक सिस्टम किसी एक भौतिक स्थान तक सीमित हो, इसे संभव माना जा सकता है। 8

उनकी चिंता अगला चरण है। कॉक्सन ने चेताया कि यदि एआई एक वितरित, स्वायत्त ‘स्वॉर्म’—यानी कई जगहों पर फैले और स्वयं काम करने वाले घटकों के समूह—की तरह काम करने लगे, तो केंद्रीय शटडाउन आदेश तकनीकी रूप से बेअसर हो सकता है। मूल सवाल पहुंच का है: नियंत्रण तभी कारगर होगा, जब वह सिस्टम की हर सक्रिय प्रतिलिपि तक पहुंच सके।

Anthropic छोड़ने के बाद कॉक्सन की व्यापक चेतावनी यह थी कि प्रमुख लैब स्व-सुधार करने वाले एआई सिस्टमों की दिशा में तेज दौड़ लगा रही हैं, जबकि ऐसे सिस्टम इंसानी नियंत्रण से बाहर हो सकते हैं। 150

लैब के ऑफ-स्विच से सत्यापित सुरक्षा उपायों तक

Anthropic के सह-संस्थापक जैक क्लार्क का तर्क है कि खतरनाक एआई सिस्टम को निष्क्रिय करने की क्षमता अंततः कानूनी अनिवार्यता बन सकती है, न कि केवल उसे बनाने वाली कंपनी का स्वैच्छिक वादा। BBC से बातचीत में उन्होंने कहा कि Anthropic समेत अधिकतर बड़ी लैब के पास अपने सिस्टम बंद करने के तरीके हैं। लेकिन उन्होंने यह अहम सवाल उठाया कि क्या किसी तीसरे, स्वतंत्र पक्ष को किल स्विच की जांच और सत्यापन करने की क्षमता होनी चाहिए। 33

यह अंतर महत्वपूर्ण है। किसी लैब का यह कहना कि उसके पास शटडाउन प्रक्रिया है, और किसी बाहरी मूल्यांकनकर्ता का यह पुष्टि कर पाना कि वह प्रक्रिया मौजूद है, पर्याप्त रूप से डिजाइन की गई है और आपातकाल में सचमुच इस्तेमाल हो सकती है—दो अलग बातें हैं।

अमोदेई का ‘पेसिंग द फ्रंटियर’ प्रस्ताव

Anthropic के सीईओ डैरियो अमोदेई ने ऐसा ढांचा प्रस्तावित किया है, जिसका उद्देश्य अग्रणी एआई क्षमताओं की रफ्तार को सुरक्षा उपायों की प्रगति के अनुरूप रखना है। इसके तीन हिस्से हैं:

1. कंपनियों के भीतर स्वतंत्र मूल्यांकनकर्ता: फ्रंटियर एआई कंपनियां बाहरी मूल्यांकनकर्ताओं को संबंधित सिस्टमों और सुरक्षा प्रक्रियाओं तक कर्मचारियों जैसी निरंतर पहुंच दें, ताकि वे प्रतिबद्धताओं की जांच कर सकें और चिंताएं रिपोर्ट कर सकें।
2. लोकतांत्रिक देशों के बीच साझा मानक: अग्रणी डेवलपर समान सुरक्षा मानकों और अनियंत्रित क्षमता-वृद्धि पर सीमाओं के लिए समन्वय करें।
3. अंतरराष्ट्रीय सहयोग: ऐसे जोखिमों पर सरकारें सीमापार सहयोग करें जिन्हें कोई एक कंपनी या देश भरोसेमंद तरीके से नियंत्रित नहीं कर सकता। 17

यह एआई अनुसंधान पूरी तरह रोकने की मांग नहीं है। इसका उद्देश्य यह सुनिश्चित करना है कि प्रगति उन सुरक्षा नियंत्रणों के साथ हो, जिनकी जांच एआई बनाने वाली कंपनियों के बाहर भी की जा सके।

प्रस्ताव को किसका समर्थन मिला?

Reuters के अनुसार, OpenAI के सीईओ सैम ऑल्टमैन और xAI प्रमुख एलन मस्क ने अमोदेई की व्यापक दिशा का सार्वजनिक रूप से समर्थन किया। ऑल्टमैन ने कहा कि OpenAI कर्मचारी-जैसी पहुंच वाले स्वतंत्र मूल्यांकनकर्ताओं के विचार को अपनाएगा, जबकि मस्क ने कहा, “Dario is right.” 17

रिपोर्टिंग में Google DeepMind के सीईओ डेमिस हैसाबिस को भी प्रस्ताव की दिशा का समर्थक बताया गया। 30 हालांकि उपलब्ध रिपोर्टिंग में Microsoft के सीईओ सत्य नडेला की कोई स्पष्ट और प्रत्यक्ष प्रतिक्रिया स्थापित नहीं होती; इसलिए उनके रुख को समर्थन या विरोध के रूप में पेश करना जल्दबाजी होगी।

प्रस्तावित अमेरिकी AI Kill Switch Act में क्या है?

H.R. 9917, प्रस्तावित AI Kill Switch Act, Homeland Security Act में संशोधन का प्रस्ताव है। इसके तहत कुछ दायरे में आने वाली संस्थाओं को ऐसी तकनीकी क्षमता बनाए रखनी होगी, जिससे वे एआई तकनीक का इन्फरेंस रोक सकें, उपयोगकर्ताओं की पहुंच समाप्त कर सकें और उस तकनीक को बंद कर सकें। 49

यह विधेयक एक प्रस्ताव है, हर एआई-नियंत्रण समस्या का सिद्ध समाधान नहीं। इसका व्यावहारिक महत्व इस पर निर्भर करेगा कि गंभीर घटना की स्थिति में डेवलपर संबंधित सिस्टम की पहचान कर सकता है या नहीं, उस तक पहुंच सकता है या नहीं, और उसे निष्क्रिय कर सकता है या नहीं। संभावित रूप से वितरित भविष्य के सिस्टमों के संदर्भ में यही वह चुनौती है जिस पर कॉक्सन ने जोर दिया।

विलुप्ति-जोखिम के अनुमान: पूर्वानुमान नहीं, निजी आकलन

Anthropic के शोधकर्ता इवान ह्यूबिंगर ने कहा कि उनके निजी आकलन में अगले दशक के भीतर एआई के कारण मानव विलुप्ति का जोखिम 10% से अधिक है। कंप्यूटर वैज्ञानिक जेफ्री हिंटन ने BBC से कहा कि 10% संभावना को “अनुचित नहीं” कहा जा सकता। 57

ये अनिश्चित भविष्य के बारे में विशेषज्ञों के आकलन हैं, न कि मापी गई संभावनाएं या वैज्ञानिक सहमति। फिर भी ये बताते हैं कि शटडाउन पर बहस अब सामान्य उत्पाद-सुरक्षा से आगे बढ़ चुकी है। मजबूत नियंत्रण के समर्थकों का कहना है कि अपरिवर्तनीय तबाही की कम संभावना भी ठोस सुरक्षा इंतजामों को उचित ठहरा सकती है।

सरकारें अनिवार्य शटडाउन और धीमी रफ्तार का विरोध क्यों करती हैं?

ब्रिटेन सरकार ने राष्ट्रीय एआई किल-स्विच प्रस्ताव खारिज करते हुए कहा कि देश “एआई को बस बंद नहीं कर सकता।” उसका व्यावहारिक तर्क है कि ब्रिटेन में मॉडलों की पहुंच रोकने से वे दूसरे देशों में विकसित या दुरुपयोग होने से नहीं रुकेंगे। 51

यही भू-राजनीतिक समस्या का केंद्र है। कोई एक देश अपने अधिकार-क्षेत्र में कंपनियों और बुनियादी ढांचे पर नियम लागू कर सकता है, लेकिन एआई विकास अंतरराष्ट्रीय है। प्रतिस्पर्धा को लेकर चिंतित सरकारों को आशंका हो सकती है कि एकतरफा पाबंदियों से निवेश, तकनीकी क्षमता और रणनीतिक बढ़त कम नियंत्रित प्रतिद्वंद्वियों के पास चली जाएगी।

वहीं, अधिक सख्त शासन-व्यवस्था के समर्थकों का तर्क है कि यही कारण है कि केवल स्वैच्छिक कॉर्पोरेट प्रतिबद्धताएं और राष्ट्रीय नियम पर्याप्त नहीं हैं। यदि जोखिम सीमाओं के पार जाते हैं, तो निगरानी और सुरक्षा वादों को भी अंतरराष्ट्रीय स्तर पर विश्वसनीय बनना होगा।

असली टकराव: रफ्तार बनाम नियंत्रण

यह बहस सीधे तौर पर एआई समर्थकों और एआई विरोधियों के बीच बंटी हुई नहीं है।

• सुरक्षा समर्थक स्वतंत्र रूप से जांचे जा सकने वाले सुरक्षा उपाय, प्रभावी शटडाउन क्षमता और ऐसी सीमाएं चाहते हैं जिनसे क्षमताएं मूल्यांकन और नियंत्रण से आगे न निकल जाएं।
• कड़े प्रतिबंधों के संशयवादी कहते हैं कि वैश्विक स्तर पर किसी विराम को लागू कराना मुश्किल हो सकता है और इससे उपयोगी नवाचार धीमा होगा, जबकि विकास दूसरे स्थानों पर जारी रहेगा।
• सशर्त विकास का दृष्टिकोण, जिसका प्रतिनिधित्व कॉक्सन, क्लार्क और अमोदेई करते हैं, एआई की प्रगति जारी रखने के पक्ष में है—लेकिन ऐसे सुरक्षा उपायों के साथ जिन्हें केवल वादे के रूप में नहीं, बल्कि जांच के जरिए परखा जा सके। 83317

इसलिए किल स्विच को व्यापक सुरक्षा व्यवस्था की केवल एक परत के रूप में देखना चाहिए, उसका विकल्प नहीं। यदि उन्नत सिस्टम इतने वितरित हो जाएं कि एक स्विच उनकी हर सक्रिय प्रतिलिपि तक न पहुंच सके, तो तैनाती से पहले निगरानी, स्वतंत्र मूल्यांकन और अंतरराष्ट्रीय समन्वय की जरूरत कम नहीं, बल्कि अधिक होगी।