एआई एजेंट जैविक, साइबर और युद्ध के जोखिम कैसे बढ़ा सकते हैं?

फ्रंटियर एआई से जुड़ी चिंता यह नहीं है कि एक मशीन अचानक हर तरह की तबाही अकेले अंजाम दे देगी। अधिक ठोस जोखिम यह है कि सक्षम मॉडल खतरनाक जानकारी का इस्तेमाल आसान बनाएं और सॉफ्टवेयर टूल इस्तेमाल करने वाले एआई एजेंट किसी कार्रवाई के कई चरण तेज कर दें। इससे लोगों के पास हस्तक्षेप का समय घट सकता है। लेकिन एआई की मदद, दुरुपयोग की कोशिश और साबित नुकसान को एक नहीं मानना चाहिए।182258

जैविक खतरे: सलाह मिलना, हथियार बन जाना नहीं है

सामान्य चैटबॉट वैज्ञानिक जानकारी समझने में मदद कर सकते हैं। जीवविज्ञान के लिए बने एआई टूल शोध और प्रयोगों की योजना बनाने में भी सहायक हैं। OpenAI के अनुसार, उसका GPT-Rosalind जैविक विश्लेषण और प्रयोग-संबंधी काम में मदद करता है। Nature ने AlphaFold जैसे टूल के संभावित लाभों के साथ उनके दुरुपयोग की चिंता भी दर्ज की है।1019

चिंता के पीछे रिपोर्ट किए गए उदाहरण हैं। The New York Times ने ऐसे चैटबॉट संवाद प्रकाशित किए जिनमें जैविक हथियारों से जुड़ी सलाह और पकड़ से बचने पर चर्चा थी।21 Anthropic ने कहा कि उसने Claude के इस्तेमाल से जुड़ी पांच संभावित घटनाओं में हस्तक्षेप किया, जो जैविक हथियारों के विकास में मदद कर सकती थीं। Axios के अनुसार, इनमें दो मामलों में खतरनाक वायरस पर ‘गेन-ऑफ-फंक्शन’ शोध से जुड़ी मदद मांगी गई थी—यानी ऐसा शोध जिसमें किसी जीव के जैविक गुण बदले जाते हैं। इन रिपोर्टों से यह साबित नहीं होता कि कोई काम करने वाला हथियार बना।25

मॉडल का जवाब विशेषज्ञता, सामग्री और प्रयोगशाला के काम की जगह नहीं ले सकता। ये व्यावहारिक बाधाएं अभी भी महत्वपूर्ण हैं, भले ही बेहतर टूल इनमें से कुछ को कम कर सकते हों।1926 OpenAI ने अपने एहतियाती ढांचे में GPT-5 की जैविक क्षमता को उच्च जोखिम मानकर सुरक्षा उपाय लागू किए, लेकिन यह भी कहा कि उसके पास निर्णायक प्रमाण नहीं था कि मॉडल किसी नौसिखिए को गंभीर जैविक नुकसान पहुंचाने में सार्थक मदद कर सकता है। यह सावधानी बरतने का फैसला था—न पूर्ण सुरक्षा का प्रमाण, न आसन्न आपदा का।31

साइबर हमले: रफ्तार बढ़ सकती है, नतीजे जांचने होंगे

टूल इस्तेमाल करने वाले एजेंट किसी घुसपैठ के कई चरणों में मदद कर सकते हैं। इससे हमलावर की पहुंच बढ़ने और बचाव करने वालों को प्रतिक्रिया के लिए कम समय मिलने की आशंका है। Anthropic से जुड़े दुरुपयोग के खुलासों पर रिपोर्टिंग में साइबर अभियानों और डेटा चोरी में एआई की मदद का वर्णन है।5053

एक रिपोर्ट में एआई टूल इस्तेमाल करने वाले हमलावर द्वारा मेक्सिको की नौ सरकारी एजेंसियों को निशाना बनाने का मामला दर्ज है।54 कुछ अन्य विवरणों में लगभग 40 करोड़ रिकॉर्ड उजागर होने का अनुमान है, लेकिन उपलब्ध सामग्री से उस आंकड़े की स्वतंत्र पुष्टि नहीं होती।5657 इसी तरह, लगभग 50 संगठनों पर समन्वित एआई-एजेंट हमलों के दावे को यहां पुष्ट घटना नहीं माना जा सकता।

कमजोरी खोजने की क्षमता दोतरफा है: हमलावर उसका फायदा उठा सकता है, जबकि रक्षक उसे ठीक कर सकता है। हालांकि, उपलब्ध साक्ष्य इस खास दावे की पुष्टि नहीं करते कि GPT-5.6-Cyber ने Chrome की ऐसी खामियां खोजीं जिन्हें बाद में ठीक किया गया।

दुष्प्रचार और स्वायत्त हथियार: संकट और उलझ सकता है

Anthropic के रिपोर्ट किए गए दुरुपयोग मामलों में लोगों की राय प्रभावित करने वाले अभियान भी शामिल हैं।2250 किसी साइबर हमले या संघर्ष के दौरान फर्जी संदेश और किसी विश्वसनीय व्यक्ति की नकल भ्रम बढ़ा सकते हैं। मगर उद्धृत मामलों से यह साबित नहीं होता कि बड़े पैमाने के दुष्प्रचार ने मानव अस्तित्व के लिए खतरा पैदा किया।

युद्ध के संदर्भ में Anthropic ने कहा कि रूस में मौजूद डेवलपरों ने Claude की मदद से हमलावर ड्रोन के झुंड के लिए ऐसा सॉफ्टवेयर विकसित किया जिसमें दिशा-निर्देशन, आपसी समन्वय और लक्ष्य चयन शामिल थे।5160 सॉफ्टवेयर विकसित होना, युद्धक्षेत्र में उसका इस्तेमाल साबित होना नहीं है। ड्रोन में एआई होने भर से यह भी स्पष्ट नहीं होता कि घातक निर्णयों पर इंसान का कितना नियंत्रण था। अंतरराष्ट्रीय रेड क्रॉस समिति ने चेताया है कि जिन स्वायत्त हथियारों के व्यवहार को इंसान पर्याप्त रूप से समझ, भांप या नियंत्रित नहीं कर सकता, वे नागरिकों के लिए खतरा और संघर्ष बढ़ने का जोखिम पैदा करते हैं।58

सुरक्षा उपाय: सिर्फ चैटबॉट का ‘नहीं’ कहना काफी नहीं

हानिकारक अनुरोध ठुकराना उपयोगी है, पर अकेले उससे पूरी सुरक्षा नहीं मिलती। जैव प्रौद्योगिकी पर शोध में उच्च-जोखिम वाले कामों पर रोक की चर्चा है; RAND का तर्क है कि दृढ़ इरादे वाले व्यक्ति को रोकने के लिए सुरक्षा की कई परतें चाहिए।1729 Anthropic का कहना है कि उसने दुरुपयोग पहचाना और रोका है तथा संवेदनशील जैविक शोध से जुड़े सुरक्षा उपाय मजबूत किए हैं।2223

व्यावहारिक प्राथमिकता यह है कि एआई प्रणालियों को कई चरणों वाले कामों पर परखा जाए, एजेंटों को सीमित टूल और अनुमतियां दी जाएं, दुरुपयोग पर नजर रखी जाए और कार्रवाई रोकने की क्षमता बनी रहे। हथियारों के मामले में घातक बल के इस्तेमाल पर इंसान का वास्तविक नियंत्रण होना चाहिए—सिर्फ प्रक्रिया में कहीं एक व्यक्ति का नाम दर्ज होना पर्याप्त नहीं। संयुक्त राष्ट्र और रेड क्रॉस ने घातक स्वायत्त हथियारों के लिए मजबूत अंतरराष्ट्रीय नियमों की मांग की है; इसे पहले से लागू सार्वभौमिक प्रतिबंध नहीं समझना चाहिए।5558

उपलब्ध साक्ष्य रोकथाम की जरूरत दिखाते हैं, तबाही की अनिवार्यता नहीं। खतरनाक सलाह और जैविक, साइबर तथा हथियार-संबंधी गतिविधियों में एआई के इस्तेमाल की कोशिशें रिपोर्ट हुई हैं। विनाशकारी या मानव अस्तित्व को खतरे में डालने वाले परिणाम का दावा इससे आगे की बात है; उसके लिए सफल नुकसान के प्रमाण चाहिए, केवल सक्षम मॉडल या चिंताजनक योजना नहीं।212246