Serangan dron Rusia yang dilaporkan berlaku di Zaporizhzhia mungkin menandakan satu perubahan penting dalam teknologi peperangan. Dron itu bukan sekadar menggunakan AI untuk menstabilkan penerbangan, mengikut laluan atau mengejar sasaran yang telah dipilih manusia. Menurut pegawai Ukraine, pemeriksa forensik dan laporan The New York Times, sistem di dalam dron itu mengenal pasti serta memilih sendiri objek yang hendak diserang. Serangan pada 6 Julai menyebabkan tiga orang awam terbunuh selepas dron berkenaan terhempas ke dinding berhampiran sebuah stesen minyak. 13
Kesimpulan yang wajar dibuat dengan berhati-hati ialah insiden ini dilaporkan sebagai penggunaan maut pertama sistem sasaran AI yang berfungsi sepenuhnya secara autonomi dalam perang Rusia-Ukraine—bukan semestinya senjata autonomi pertama yang pernah digunakan di dunia. 13
Apa yang berlaku di Zaporizhzhia
Dron kecil yang menyerupai pesawat model itu dilaporkan diarahkan menuju ke sebuah stesen minyak. Apabila menghampiri lokasi, sistem AI di dalamnya dipercayai mencari dan memilih sasaran, kemungkinan besar tangki propana, bukannya menerima arahan serangan terakhir daripada operator manusia. Dron itu kemudian terhempas ke dinding lalu meletup, mengorbankan Tetiana Bubynets, 19, serta dua orang awam lain. 146
Kegagalan serangan tersebut penting untuk memahami risiko autonomi. Autonomi tidak bermaksud sistem itu mempunyai kecerdasan seperti manusia atau sentiasa boleh dipercayai. Ia mungkin tersalah mengenal pasti objek, tersilap menganggarkan kedudukan atau meneruskan serangan walaupun keadaan di lapangan sudah berubah. Dalam kawasan bandar, kesilapan seperti ini boleh menyebabkan orang awam terkorban tanpa manusia sempat menyemak keadaan terakhir atau menghentikan serangan. 16
Teknologi di sebalik dron: AI yang beroperasi di dalam pesawat
Penyiasat Ukraine dilaporkan menemui modul Nvidia Jetson Orin daripada bangkai dron tersebut. Nvidia menerangkan bahawa rangkaian Jetson ialah platform pengkomputeran gred pengguna untuk aplikasi seperti robotik dan penglihatan mesin. Penyiasat turut melaporkan bahawa dron itu tidak mempunyai antena komunikasi luaran. Analisis forensik pula menunjukkan kewujudan kamera, imej rupa bumi yang disimpan dalam sistem dan perisian yang dilatih untuk mengenal pasti kategori sasaran seperti tangki propana. 281011
Teknologi ini dikenali sebagai pengkomputeran pinggir (edge computing). Maksudnya, data diproses terus pada peranti—dalam kes ini, di dalam dron—dan bukannya dihantar kepada operator jauh atau perkhidmatan awan. Dron boleh menggunakan kamera serta komputer terbina dalam untuk memahami persekitaran, menavigasi dan membuat keputusan sasaran pada saat-saat akhir.
Perbezaan ini amat penting dalam persekitaran peperangan elektronik. Dron yang dikawal dari jauh bergantung pada sambungan komunikasi dan mungkin hilang keupayaan apabila isyarat atau suapan videonya diganggu. Dron autonomi atau separa autonomi pula boleh meneruskan sebahagian misi walaupun hubungan komunikasi terputus.
Laporan tentang perang Ukraine menunjukkan Rusia dan Ukraine sama-sama mengintegrasikan AI ke dalam navigasi, pengecaman objek, panduan penerbangan dan penjejakan sasaran. Namun, sejauh mana sistem yang benar-benar mampu memilih sasaran secara autonomi telah digunakan masih sukar disahkan secara bebas.
Bagaimana ia berbeza daripada serangan dron AI sebelum ini
Tidak semua dron yang menggunakan AI boleh dianggap sebagai senjata autonomi. Perkataan “autonomi” boleh merujuk kepada beberapa fungsi berbeza:
- Bantuan penerbangan: menstabilkan pesawat atau mengelakkan halangan.
- Navigasi: mengikut laluan yang diprogramkan atau menggunakan maklumat visual apabila navigasi satelit terganggu.
- Penjejakan sasaran: mengekalkan kuncian pada objek yang telah dipilih manusia.
- Panduan akhir: menuju kepada sasaran selepas manusia mengenal pasti dan meluluskannya.
- Pemilihan sasaran: mencari, mengenal pasti, memilih dan menyerang objek tanpa campur tangan manusia seterusnya.
Kategori terakhir paling membimbangkan. Jawatankuasa Antarabangsa Palang Merah mentakrifkan autonomi dalam fungsi kritikal senjata sebagai keupayaan untuk memilih dan menyerang sasaran tanpa campur tangan manusia.
Itulah sebabnya insiden Zaporizhzhia mendapat perhatian. Sistem yang dilaporkan digunakan itu nampaknya memindahkan sebahagian daripada “rantaian pembunuhan”—urutan daripada mencari sasaran hingga menggunakan kekerasan—daripada operator manusia kepada perisian. Dron FPV yang dikawal dari jauh dan banyak misi peluru sesat sebelum ini mungkin menggunakan automasi, tetapi masih bergantung pada manusia untuk menetapkan sasaran atau meluluskan serangan terakhir. 46
Apa yang ditunjukkan oleh respons Nvidia—dan apa yang tidak
Nvidia dilaporkan berkata bahawa Jetson Orin ialah produk gred pengguna untuk kegunaan awam, termasuk pendidikan, pembangunan teknologi dan syarikat pemula. Syarikat itu juga menyatakan bahawa rangkaian Jetson tidak dijual oleh Nvidia di Rusia. Bagaimanapun, Nvidia mengakui produk sedemikian boleh didapati melalui pasaran jualan semula, yang menyukarkan pengesanan pergerakannya selepas jualan. 21819
Kehadiran modul Nvidia dalam dron Rusia tidak dengan sendirinya membuktikan bahawa Nvidia sengaja membekalkan tentera Rusia atau melanggar sekatan. Laporan yang tersedia tidak mengenal pasti laluan perolehan atau membuktikan siapa yang mengalihkan perkakasan tersebut. Namun, kes ini mendedahkan masalah rantaian bekalan yang lebih luas: perkakasan pengkomputeran dwi-guna yang direka untuk robotik awam boleh dijual semula, diselewengkan dan dipasang pada senjata.
Keadaan ini mewujudkan jurang penguatkuasaan yang sukar. Sekatan eksport mungkin melarang jualan terus ke destinasi yang dikenakan sekatan, tetapi pasaran sekunder, orang tengah dan rantaian bekalan elektronik global menyukarkan usaha menentukan destinasi akhir sesuatu komponen. Oleh itu, kes ini menimbulkan persoalan tentang pematuhan sekatan tanpa membuktikan niat korporat atau liabiliti undang-undang Nvidia.
Implikasi undang-undang dan etika
Kecerdasan buatan tidak mewujudkan kategori undang-undang baharu yang membolehkan peraturan perang diketepikan. Undang-undang kemanusiaan antarabangsa tetap terpakai kepada senjata yang mengandungi fungsi autonomi. Prinsip utamanya termasuk membezakan sasaran ketenteraan daripada orang awam dan objek awam, menilai kesepadanan serangan serta mengambil langkah berjaga-jaga yang munasabah dalam serangan.
Namun, isu akauntabiliti menjadi lebih rumit. Jika algoritma memilih sasaran, tanggungjawab tidak berpindah kepada perisian. Penyiasat masih perlu menentukan siapa yang mereka bentuk, menguji, meluluskan, memprogram, mengerahkan dan menyelia sistem itu, selain meneliti peraturan penggunaan senjata serta perlindungan yang tersedia. Analisis undang-undang menekankan bahawa operasi dan kesan senjata autonomi perlu dapat dijejaki kembali kepada pihak manusia yang berkaitan.
Persoalan praktikalnya bukan sekadar sama ada seorang manusia terlibat dalam misi secara umum. Persoalannya ialah sama ada manusia itu mempunyai kawalan yang bermakna terhadap penggunaan kekerasan maut: pemahaman yang mencukupi tentang sasaran dan konteks, had operasi yang jelas serta keupayaan untuk campur tangan, menggantung atau membatalkan serangan apabila keadaan mengizinkan.
Apakah yang perlu ditangani oleh kawalan senjata
Insiden ini menguatkan gesaan supaya peraturan baharu mengekalkan kawalan manusia yang bermakna terhadap penggunaan kekerasan maut. Berdasarkan cadangan undang-undang dan dasar yang sedia ada, perlindungan praktikal boleh merangkumi:
- had yang jelas terhadap jenis sasaran, kawasan geografi dan keadaan operasi yang boleh diserang;
- semakan senjata yang ketat sebelum digunakan di medan perang;
- ujian terhadap penipuan, salah pengecaman dan persekitaran bandar yang sarat dengan objek awam;
- fungsi hentian, pembatalan dan keselamatan yang boleh dipercayai;
- rekod misi serta log sistem yang boleh diaudit;
- tanggungjawab manusia yang ditetapkan sepanjang proses reka bentuk, perolehan, penggunaan dan pengoperasian; dan
- siasatan selepas serangan yang mampu membina semula perkara yang dikesan sistem serta sebab ia bertindak.
Negara-negara Eropah berulang kali menegaskan bahawa undang-undang kemanusiaan antarabangsa terpakai sepenuhnya kepada sistem autonomi, dan manusia mesti mengekalkan keupayaan membuat pertimbangan undang-undang berkaitan penggunaan kekerasan maut. Perdebatan antarabangsa turut merangkumi cadangan untuk mengharamkan sistem yang tidak mampu mematuhi undang-undang kemanusiaan serta mengawal sistem lain melalui keperluan yang boleh dikuatkuasakan berhubung kawalan dan akauntabiliti manusia.
Mengapa kesannya melangkaui Ukraine
Pengajaran paling besar mungkin terletak pada jumlah perkakasan yang diperlukan untuk menambah autonomi pada senjata. Sebuah rangka pesawat kecil, kamera, komputer terbina dalam, model perisian dan bahan letupan sudah memadai untuk memindahkan keputusan sasaran penting daripada manusia yang berada jauh kepada mesin yang beroperasi di lokasi. Asal-usul awam Jetson Orin menjadikan isu ini lebih ketara: keupayaan tersebut tidak semestinya memerlukan superkomputer tentera yang dibina khas. 28
Ketika Rusia dan Ukraine terus membangunkan dron berasaskan AI, autonomi mungkin menjadi semakin biasa dalam persekitaran yang sambungan komunikasinya tidak stabil dan operator terdedah kepada gangguan elektronik. Teknologi ini boleh meningkatkan ketahanan terhadap gangguan isyarat dan mengurangkan keperluan kawalan manual berterusan. Tetapi ia juga boleh memendekkan masa membuat keputusan, menggandakan kesan kesilapan perisian dan menyukarkan perlindungan orang awam, khususnya di kawasan bandar yang padat.
Isu utamanya bukan sama ada dron itu “cerdik” seperti manusia. Isunya ialah sama ada sistem pengkomputeran pinggir yang agak mudah diperoleh sudah mencukupi untuk membolehkan senjata mengenal pasti dan menyerang sasaran tanpa manusia membuat keputusan terakhir. Jika laporan serta penemuan forensik itu tepat, serangan Zaporizhzhia merupakan amaran bahawa sempadan antara bantuan AI dan tindakan maut autonomi kini semakin nyata di medan operasi—sedangkan perlindungan undang-undang, teknikal dan rantaian bekalan masih ketinggalan.
