ज़ापोरिज़्झिया ड्रोन हमला स्वायत्त एआई हथियारों के बारे में क्या बताता है?

ज़ापोरिज़्झिया में reported रूसी ड्रोन हमला युद्ध में एआई के इस्तेमाल की एक महत्वपूर्ण सीमा को सामने लाता है। यह ड्रोन केवल उड़ान को स्थिर करने, रास्ता तय करने या पहले से चुने गए लक्ष्य तक पहुंचने में एआई की मदद नहीं ले रहा था। यूक्रेनी अधिकारियों, फॉरेंसिक जांचकर्ताओं और द न्यूयॉर्क टाइम्स की रिपोर्टिंग के अनुसार, इसके ऑनबोर्ड सिस्टम ने कथित तौर पर खुद तय किया कि उसे किस वस्तु पर हमला करना है। ६ जुलाई के इस हमले में ड्रोन एक गैस स्टेशन के पास दीवार से टकराकर विस्फोटित हुआ और तीन नागरिकों की मौत हो गई। 13

सावधानी से कहा जाए तो उपलब्ध साक्ष्य इसे रूस-यूक्रेन युद्ध में पूरी तरह स्वायत्त एआई लक्ष्य-चयन प्रणाली के घातक इस्तेमाल का पहला documented मामला बताते हैं—यह जरूरी नहीं कि दुनिया में स्वायत्त हथियार के इस्तेमाल का पहला मामला हो। 13

ज़ापोरिज़्झिया में क्या हुआ?

रिपोर्टों के अनुसार, मॉडल हवाई जहाज जैसा दिखने वाला छोटा ड्रोन एक गैस स्टेशन की दिशा में भेजा गया था। वहां पहुंचने के बाद उसके एआई सिस्टम ने आसपास की वस्तुओं को देखकर लक्ष्य चुना। अनुमान है कि उसने प्रोपेन टैंकों को पहचानने की कोशिश की, न कि किसी मानव ऑपरेटर से अंतिम हमले का आदेश मिलने का इंतजार किया। इसके बाद ड्रोन दीवार से टकरा गया और विस्फोट में १९ वर्षीय तेतियाना बुबिनेत्स समेत तीन नागरिकों की मौत हुई। 146

इस घटना की सबसे अहम बात केवल यह नहीं है कि ड्रोन ने लक्ष्य चुना, बल्कि यह भी है कि उसका सिस्टम विफल हुआ। इससे पता चलता है कि स्वायत्तता का अर्थ भरोसेमंद या मानवीय स्तर की समझ नहीं है। कोई मॉडल गलत वस्तु पहचान सकता है, उसकी स्थिति का गलत अनुमान लगा सकता है या जमीन पर हालात बदल जाने के बाद भी हमला जारी रख सकता है। घनी आबादी वाले इलाकों में ऐसी गलती के बीच किसी व्यक्ति के पास लाइव दृश्य की अंतिम समीक्षा करने या समय रहते हमला रोकने का अवसर नहीं हो सकता। 16

ड्रोन के भीतर चल रहा था एआई

यूक्रेनी जांचकर्ताओं को कथित तौर पर ड्रोन के मलबे से Nvidia Jetson Orin मॉड्यूल मिला। Nvidia के अनुसार, Jetson श्रृंखला रोबोटिक्स और मशीन-विजन जैसे अनुप्रयोगों के लिए बनाई गई नागरिक, उपभोक्ता-स्तरीय कंप्यूटिंग प्लेटफॉर्म है। जांचकर्ताओं ने यह भी बताया कि ड्रोन में बाहरी संचार एंटीना नहीं था। फॉरेंसिक विश्लेषण में ऑनबोर्ड कैमरे, इलाके की पहले से संग्रहित तस्वीरें और प्रोपेन टैंकों जैसी लक्ष्य-श्रेणियों को पहचानने के लिए प्रशिक्षित सॉफ्टवेयर के संकेत मिले। 281011

यह एज कंप्यूटिंग का उदाहरण है। इसका मतलब है कि डेटा को किसी दूर बैठे ऑपरेटर या क्लाउड सर्वर तक भेजने के बजाय डिवाइस खुद उसका विश्लेषण करता है। ऐसे ड्रोन में कैमरा और अंदर लगा कंप्यूटर दृश्य को समझने, रास्ता तय करने और अंतिम लक्ष्य-निर्णय लेने में सक्षम हो सकते हैं।

इलेक्ट्रॉनिक युद्ध के माहौल में यह अंतर बहुत मायने रखता है। रिमोट-कंट्रोल ड्रोन अपने ऑपरेटर से रेडियो या वीडियो लिंक पर निर्भर रहता है। सिग्नल जाम होने पर वह नियंत्रण, दिशा या लक्ष्य संबंधी जानकारी खो सकता है। इसके विपरीत, स्वायत्त या अर्ध-स्वायत्त ड्रोन संचार टूटने के बाद भी अपने मिशन का कुछ हिस्सा जारी रख सकता है। उपलब्ध रिपोर्टों के अनुसार, रूस और यूक्रेन दोनों ने नेविगेशन, वस्तु-पहचान, मार्गदर्शन और लक्ष्य-ट्रैकिंग में एआई को शामिल किया है। हालांकि, पूरी तरह स्वायत्त तैनाती का वास्तविक स्तर स्वतंत्र रूप से सत्यापित करना अभी कठिन है।

एआई-सहायता और स्वायत्त हथियार में फर्क

हर एआई-सक्षम ड्रोन स्वायत्त हथियार नहीं होता। “स्वायत्त” शब्द अलग-अलग क्षमताओं के लिए इस्तेमाल किया जा सकता है:

• उड़ान सहायता: ड्रोन को स्थिर रखना या बाधाओं से बचाना।
• नेविगेशन: पहले से तय मार्ग का पालन करना या सैटेलाइट नेविगेशन बाधित होने पर दृश्य संकेतों से रास्ता ढूंढना।
• लक्ष्य-ट्रैकिंग: मानव द्वारा चुनी गई वस्तु पर लॉक बनाए रखना।
• अंतिम मार्गदर्शन: व्यक्ति द्वारा लक्ष्य की पहचान और अनुमति दिए जाने के बाद उस तक पहुंचना।
• लक्ष्य-चयन: बिना आगे मानवीय हस्तक्षेप के वस्तुओं को खोजना, पहचानना, चुनना और उन पर हमला करना।

इनमें अंतिम श्रेणी सबसे ज्यादा गंभीर है। रेड क्रॉस की अंतरराष्ट्रीय समिति (ICRC) के अनुसार, किसी हथियार के महत्वपूर्ण कार्यों में स्वायत्तता का अर्थ है—मानव हस्तक्षेप के बिना लक्ष्य चुनना और उस पर हमला करना।

यही कारण है कि ज़ापोरिज़्झिया की घटना पर इतना ध्यान गया है। रिपोर्ट के मुताबिक, “किल चेन”—यानी लक्ष्य खोजने से लेकर उस पर बल प्रयोग करने तक की प्रक्रिया—का एक महत्वपूर्ण हिस्सा मानव ऑपरेटर से हटकर सॉफ्टवेयर को सौंप दिया गया। पहले इस्तेमाल किए गए कई रिमोट-ऑपरेटेड FPV ड्रोन और घूमकर लक्ष्य खोजने वाले हथियार स्वचालित सुविधाओं का उपयोग कर सकते थे, लेकिन उनमें आम तौर पर मानव द्वारा लक्ष्य तय करना या अंतिम हमले की अनुमति देना जरूरी था। 46

Nvidia की प्रतिक्रिया से क्या पता चलता है?

Nvidia ने कथित तौर पर कहा कि Jetson Orin छात्रों, डेवलपरों और स्टार्टअप के लिए बनाया गया नागरिक, उपभोक्ता-स्तरीय उत्पाद है। कंपनी के अनुसार, Jetson श्रृंखला रूस में सीधे नहीं बेची गई। हालांकि, ऐसे उपकरण पुनर्विक्रय बाजारों में उपलब्ध हो सकते हैं, जहां बिक्री के बाद उनका अंतिम गंतव्य पता लगाना मुश्किल होता है। 21819

किसी रूसी ड्रोन में Nvidia मॉड्यूल मिलने से अपने-आप यह साबित नहीं होता कि कंपनी ने रूसी सेना को जानबूझकर उपकरण दिए या प्रतिबंधों का उल्लंघन किया। उपलब्ध रिपोर्टें यह नहीं बतातीं कि मॉड्यूल रूस तक किस खरीद-मार्ग से पहुंचा और न ही वे Nvidia की कॉरपोरेट मंशा या कानूनी जिम्मेदारी स्थापित करती हैं।

फिर भी, मामला एक बड़ी आपूर्ति-श्रृंखला समस्या दिखाता है। नागरिक रोबोटिक्स के लिए बने दोहरे उपयोग वाले कंप्यूटिंग उपकरण वैध बिक्री के बाद दोबारा बेचे जा सकते हैं, दूसरे रास्तों से भेजे जा सकते हैं या हथियारों में लगाए जा सकते हैं। सीधे निर्यात पर रोक लगाना अपेक्षाकृत आसान हो सकता है, लेकिन बिचौलियों, पुनर्विक्रय बाजारों और वैश्विक इलेक्ट्रॉनिक्स नेटवर्क के जरिए किसी उत्पाद का अंतिम उपयोगकर्ता पता लगाना कहीं अधिक कठिन है।

कानूनी और नैतिक सवाल

एआई के इस्तेमाल से युद्ध के नियम खत्म नहीं हो जाते। अंतरराष्ट्रीय मानवीय कानून उन हथियारों पर भी लागू होता है जिनमें स्वायत्त सुविधाएं शामिल हों। इसके तहत सैन्य लक्ष्य और नागरिकों या नागरिक वस्तुओं के बीच भेद करना, हमले की आनुपातिकता का आकलन करना और संभव सावधानियां बरतना जरूरी है।

जवाबदेही का सवाल यहां और जटिल हो जाता है। यदि किसी एल्गोरिदम ने लक्ष्य चुना, तो जिम्मेदारी सॉफ्टवेयर को नहीं सौंपी जा सकती। जांच में यह पता लगाना होगा कि सिस्टम को किसने डिजाइन, परीक्षण, मंजूरी, प्रोग्राम और तैनात किया; किस तरह के प्रशिक्षण डेटा का इस्तेमाल हुआ; और कौन से नियम, सुरक्षा उपाय तथा निर्देश लागू थे। कानूनी विश्लेषण इस बात पर जोर देता है कि स्वायत्त हथियार के संचालन और उसके प्रभावों को संबंधित मानव जिम्मेदारों तक trace किया जा सके।

असल सवाल यह नहीं है कि मिशन के दौरान कोई इंसान कहीं मौजूद था या नहीं। सवाल यह है कि क्या किसी व्यक्ति के पास घातक बल के इस्तेमाल पर सार्थक नियंत्रण था—क्या उसे लक्ष्य और परिस्थितियों की पर्याप्त जानकारी थी, क्या सिस्टम की सीमाएं स्पष्ट थीं और क्या व्यवहारिक रूप से हमला रोकने, स्थगित करने या रद्द करने की क्षमता मौजूद थी।

हथियार नियंत्रण के लिए किन उपायों की जरूरत होगी?

यह घटना उन प्रस्तावों को मजबूत करती है जो घातक बल के इस्तेमाल पर meaningful human control यानी सार्थक मानवीय नियंत्रण बनाए रखने की मांग करते हैं। संभावित सुरक्षा उपायों में शामिल हो सकते हैं:

• उन लक्ष्यों, भौगोलिक क्षेत्रों और परिस्थितियों पर स्पष्ट सीमाएं जिनमें स्वायत्त सिस्टम काम कर सकता है;
• तैनाती से पहले हथियारों की कठोर कानूनी और तकनीकी समीक्षा;
• धोखे, गलत पहचान और नागरिक भीड़भाड़ वाले वातावरण के खिलाफ परीक्षण;
• भरोसेमंद abort, suspension और fail-safe सुविधाएं;
• मिशन और सिस्टम लॉग का सुरक्षित, ऑडिट योग्य रिकॉर्ड;
• डिजाइन, खरीद, तैनाती और इस्तेमाल के हर चरण में मानव जिम्मेदारी तय करना; और
• हमले के बाद ऐसी स्वतंत्र जांच, जो यह पुनर्निर्मित कर सके कि सिस्टम ने क्या देखा और उसने कार्रवाई क्यों की।

यूरोपीय देशों ने बार-बार कहा है कि अंतरराष्ट्रीय मानवीय कानून स्वायत्त प्रणालियों पर पूरी तरह लागू होता है और घातक बल से जुड़े कानूनी निर्णय लेने की क्षमता मनुष्यों के पास रहनी चाहिए। व्यापक अंतरराष्ट्रीय बहस में ऐसे सिस्टम पर रोक लगाने के प्रस्ताव भी हैं जो मानवीय कानून का पालन नहीं कर सकते, जबकि अन्य प्रणालियों के लिए मानव नियंत्रण और जवाबदेही से जुड़ी बाध्यकारी शर्तें तय करने की बात कही जा रही है।

यूक्रेन से बाहर भी इसका असर क्यों पड़ेगा?

इस घटना का सबसे बड़ा सबक शायद यह है कि किसी हथियार में स्वायत्तता जोड़ने के लिए बहुत बड़े या महंगे हार्डवेयर की जरूरत नहीं है। एक छोटा एयरफ्रेम, कैमरा, ऑनबोर्ड कंप्यूटर, सॉफ्टवेयर मॉडल और विस्फोटक पेलोड मिलकर लक्ष्य-चयन का महत्वपूर्ण फैसला दूर बैठे इंसान से लेकर युद्धक्षेत्र में मौजूद मशीन को दे सकते हैं। Jetson Orin की नागरिक पृष्ठभूमि इस चिंता को और गंभीर बनाती है, क्योंकि ऐसी क्षमता के लिए जरूरी कंप्यूटिंग किसी विशेष सैन्य सुपरकंप्यूटर तक सीमित नहीं है। 28

रूस और यूक्रेन विवादित, संचार-विहीन वातावरण में एआई-सक्षम ड्रोन विकसित कर रहे हैं। भविष्य में ऐसी स्वायत्तता जामिंग के खिलाफ ड्रोन को अधिक टिकाऊ बना सकती है और लगातार मैनुअल नियंत्रण की जरूरत घटा सकती है। लेकिन इसके साथ सॉफ्टवेयर की गलती का असर बड़े पैमाने पर हो सकता है, निर्णय लेने का समय और कम हो सकता है और घने शहरी इलाकों में नागरिकों की सुरक्षा कठिन हो सकती है।

इसलिए केंद्रीय सवाल यह नहीं है कि ड्रोन इंसान की तरह “बुद्धिमान” था या नहीं। सवाल यह है कि क्या अपेक्षाकृत आसानी से उपलब्ध एज-एआई कंप्यूटिंग किसी सस्ते हथियार को बिना मानव के अंतिम निर्णय के लक्ष्य पहचानने और उस पर हमला करने में सक्षम बना रही है। यदि रिपोर्टिंग और फॉरेंसिक निष्कर्ष सही हैं, तो ज़ापोरिज़्झिया हमला चेतावनी देता है कि एआई-सहायता और स्वायत्त घातक कार्रवाई के बीच की रेखा अब केवल भविष्य की कल्पना नहीं रही—और कानूनी, तकनीकी तथा आपूर्ति-श्रृंखला सुरक्षा उपाय अभी उसके पीछे चल रहे हैं।