Serangan dron AI di Zaporizhzhia cetus persoalan baharu tentang senjata autonomi

Serangan dron Rusia yang dilaporkan berlaku di Zaporizhzhia mungkin menjadi amaran penting tentang bahaya senjata autonomi. Namun, kesimpulan paling kukuh perlu dibuat dengan berhati-hati.

Menurut pegawai Ukraine, komander pertahanan udara dan penyiasat yang meneliti serpihan dron, sebuah dron Rusia jenis Molniya terbang ke arah sebuah stesen minyak sebelum menggunakan komputer terbina dalam untuk memilih titik sasaran terakhirnya. Dron itu dilaporkan beroperasi tanpa hubungan radio dengan pengendali manusia ketika fasa akhir penerbangan.

Dron tersebut terhempas berhampiran stesen minyak pada 6 Julai 2026. Serangan itu mengorbankan Tetiana Bubynets, 19, Oleksiy Svirin, 41, dan Roman Karpiy, 48. Laporan menyatakan sistem itu berkemungkinan mencari tangki propana, bukannya mengenal pasti manusia sebagai sasaran. 2411

Perbezaan ini sangat penting. Berdasarkan bukti awam yang tersedia, insiden itu belum membuktikan bahawa sistem AI memilih individu tertentu untuk dibunuh. Tetapi ia menggambarkan sebuah mesin yang membuat keputusan sasaran terakhir di kawasan yang mempunyai orang awam—dan orang awam akhirnya terkorban. Di sinilah persoalan tentang maksud sebenar “kawalan manusia” menjadi semakin mendesak.

Apa yang dilaporkan berlaku?

Urutan kejadian yang dilaporkan lebih khusus daripada gambaran umum “dron dikawal AI”. Pengendali manusia didakwa mengarahkan pesawat itu ke sebuah stesen minyak. Ketika menghampiri lokasi, perisian terbina dalam mengenal pasti objek atau infrastruktur tertentu sebagai sasaran. Penyiasat menunjuk kepada tangki propana sebagai kemungkinan sasaran utama.

Dron itu bagaimanapun melanggar dinding sebelum sampai ke tangki berkenaan. Letupan tersebut menyebarkan serpihan dan menyebabkan tiga orang terbunuh. 245

Serpihan yang ditemui dilaporkan mengandungi modul komputer Nvidia Jetson Orin. Laporan turut menyatakan pesawat itu beroperasi tanpa isyarat kawalan radio yang lazimnya menghubungkan dron dengan juruterbang jarak jauh. Maklumat ini berdasarkan kenyataan pegawai Ukraine, anggota tentera dan pemeriksa forensik—bukan siasatan antarabangsa bebas yang telah diterbitkan sepenuhnya. 4911

Oleh itu, dakwaan seperti “kes pertama yang didokumentasikan” wajar difahami sebagai penerangan yang digunakan oleh sesetengah pakar dan laporan media, bukannya keputusan muktamad mahkamah antarabangsa atau badan perjanjian. 2513

Adakah garis merah moral sudah dilintasi?

Perbahasan ini sebenarnya melibatkan dua garis merah yang berbeza:

1. Mesin memilih dan menyerang manusia secara langsung. Ini ialah bentuk paling jelas bagi penyasaran manusia secara autonomi.
2. Mesin memilih sasaran lain secara autonomi, tetapi manusia terbunuh dalam serangan itu. Inilah yang kelihatan berlaku berdasarkan laporan tentang Zaporizhzhia.

Kes kedua mungkin tidak memenuhi takrif paling sempit bagi “mesin menyasarkan manusia secara autonomi”. Namun, ia mencabar andaian bahawa sesuatu senjata masih dikawal dengan bermakna hanya kerana manusia melancarkannya atau menetapkan destinasi umum.

Jika perisian memilih titik sasaran yang menentukan, pengendali mungkin tidak mengetahui dengan tepat apa yang akan diserang, sama ada orang awam berada berdekatan, atau sama ada serangan itu boleh mematuhi prinsip membezakan sasaran ketenteraan dan orang awam serta prinsip perkadaran dalam keadaan sebenar. ICRC memberi amaran bahawa pengguna mungkin tidak dapat memahami, meramal atau menerangkan kesan sesetengah senjata autonomi dengan secukupnya.

Kelemahan praktikal yang didedahkan oleh serangan ini ialah risiko etika tidak bermula hanya apabila sistem dilatih mengenal pasti manusia. Risiko turut timbul apabila mesin dibenarkan membuat keputusan berimpak tinggi dalam persekitaran awam yang rumit, sedangkan kesannya tidak boleh dijangka dengan baik.

Undang-undang antarabangsa tetap terpakai

Senjata autonomi tidak berada di luar undang-undang kemanusiaan antarabangsa. Menurut ICRC, sistem sedemikian masih tertakluk kepada larangan dan sekatan sedia ada, termasuk peraturan berkaitan kesan serangan rambang. Tanggungjawab terhadap penggunaan senjata secara sah tetap terletak pada negara dan komander—bukan pada perisian.

Persoalan yang masih belum terjawab ialah sama ada peraturan sedia ada cukup jelas untuk mengawal senjata yang boleh memilih dan menyerang sasaran tanpa campur tangan manusia lanjut. ICRC berpendapat negara-negara perlu menerima pakai peraturan baharu yang mengikat di sisi undang-undang, termasuk larangan nyata terhadap senjata autonomi yang fungsi dan kesannya tidak dapat difahami, diramal atau diterangkan dengan secukupnya.

Ini tidak bermaksud semua senjata yang mempunyai fungsi autonomi perlu diharamkan. Pendekatan yang dicadangkan membezakan antara sistem yang tidak boleh diterima sama sekali dengan sistem lain yang mungkin dibenarkan di bawah kawalan ketat.

Dua kategori yang mahu diharamkan oleh PBB dan ICRC

Pada Ogos 2026, Setiausaha Agung PBB dan Presiden ICRC mengulangi gesaan supaya satu instrumen antarabangsa yang mengikat diwujudkan bagi mengawal senjata autonomi. Kerangka yang dicadangkan berpusat pada dua kategori:

• Senjata autonomi yang tidak boleh diramal: sistem yang kesannya tidak dapat difahami atau dijangka dengan secukupnya oleh pihak yang menggunakannya.
• Senjata autonomi antipersonel: sistem yang direka atau digunakan untuk memilih dan menyerang manusia secara langsung.

Kategori kedua lebih luas daripada fakta yang dilaporkan dalam kes Zaporizhzhia. Dakwaan yang ada menunjukkan sistem itu memilih infrastruktur sebagai sasaran, sementara orang awam terbunuh dalam letupan yang berlaku. Perjanjian yang mengharamkan autonomi antipersonel akan menetapkan garis larangan sebelum mesin dibenarkan membuat keputusan langsung untuk menyerang seseorang—walaupun pembangunnya mendakwa sistem berkenaan boleh berfungsi dengan tepat.

ICRC juga mengesyorkan sekatan ketat terhadap senjata autonomi yang tidak diharamkan sepenuhnya. Sekatan itu boleh merangkumi jenis sasaran, tempoh dan kawasan operasi, persekitaran penggunaan, tahap pengawasan manusia serta keupayaan untuk campur tangan atau menyahaktifkan sistem.

Mengapa mesyuarat Geneva pada November penting?

Persidangan Kajian Ketujuh Konvensyen mengenai Senjata Konvensional Tertentu—dikenali sebagai CCW—dijadualkan berlangsung di Geneva pada November 2026. ICRC melihat pertemuan itu sebagai peluang untuk memulakan rundingan tentang protokol baharu berkaitan senjata autonomi.

Masa pertemuan itu penting kerana PBB dan ICRC telah membuat rayuan bersama yang serupa tiga tahun sebelumnya. Gesaan terbaharu itu meminta kerajaan bergerak melangkaui perbincangan berterusan dan memulakan rundingan mengenai peraturan yang mengikat.

Sama ada negara-negara bersetuju untuk memulakan rundingan akan menjadi ukuran praktikal kemajuan. Kenyataan diplomatik boleh menunjukkan kebimbangan bersama, tetapi protokol sebenar perlu mentakrifkan sistem yang dilarang, mengenakan sekatan terhadap penggunaan yang dibenarkan serta menetapkan tanggungjawab negara dan komander.

Perlumbaan dasar bergerak ke arah yang bertentangan

Usaha mengetatkan kawalan berlaku ketika penggunaan AI oleh tentera semakin dipercepat. Memorandum Presiden Amerika Syarikat Donald Trump, NSPM-11, bertarikh 5 Jun 2026, mengarahkan sektor keselamatan negara AS mempercepat pembangunan dan penggunaan AI untuk aplikasi keselamatan negara. Memorandum itu turut meminta dasar sedia ada tentang senjata autonomi dikemas kini. 17

Arahan itu sendiri bukan kebenaran untuk melaksanakan penyasaran maut secara autonomi. Namun, ia menggambarkan tekanan strategik yang mengelilingi isu ini: negara-negara mahu kelebihan operasi yang ditawarkan AI, manakala penyokong kawalan senjata berhujah bahawa persaingan tersebut menjadikan perlindungan bersama lebih penting, bukannya kurang penting.

Cabaran dasarnya bukan sekadar sama ada AI akan digunakan dalam peperangan. Persoalan lebih besar ialah sama ada kerajaan mampu menetapkan sempadan yang boleh dikuatkuasakan sebelum komputer berkuasa tinggi yang murah dan tersedia secara komersial menjadikan penyasaran autonomi lebih mudah diperluas. Laporan tentang perkakasan terbina dalam dron Molniya menjadikan kebimbangan itu lebih nyata, walaupun sumber yang ada belum membuktikan secara bebas kos sebenar sistem tersebut atau skala pengeluarannya. 615

Kesimpulan paling jelas

Serangan di Zaporizhzhia tidak wajar dipersembahkan sebagai bukti muktamad bahawa mesin sudah mula memburu dan menyasarkan individu secara autonomi. Gambaran yang lebih tepat berdasarkan laporan yang ada ialah sistem tersebut memilih sasaran infrastruktur yang berkemungkinan merupakan tangki propana, sebelum kegagalan serangan itu menyebabkan kematian orang awam. 24

Namun, penerangan yang lebih sempit ini tidak menjadikan insiden tersebut perkara biasa dari segi undang-undang atau moral. Ia menunjukkan mengapa ujian “ada manusia terlibat di suatu tempat dalam rantaian keputusan” tidak memadai untuk membuktikan kawalan yang bermakna.

Jika senjata memilih sendiri titik sasaran yang paling penting, sedangkan kesannya tidak dapat diramal dengan munasabah dalam persekitaran awam, peranan manusia mungkin terlalu jauh untuk memenuhi tujuan pertimbangan manusia yang sebenar.

Sebab itulah insiden ini menguatkan—tanpa menyelesaikan—hujah untuk pendekatan dua peringkat yang dicadangkan PBB dan ICRC: haramkan sistem yang tidak boleh diramal serta senjata yang direka untuk menyasarkan manusia secara langsung, sambil mengenakan had ketat dan boleh dikuatkuasakan terhadap senjata autonomi lain. Persoalan utama seterusnya ialah sama ada kerajaan akan menterjemahkan prinsip itu menjadi peraturan mengikat pada persidangan kajian CCW di Geneva pada November nanti.