Manusia Disingkirkan dari Lingkar Kendali: Realitas Serangan Otonom

Salah satu tema paling serius dari dialog ini adalah konfirmasi bahwa senjata otonom yang beroperasi tanpa pengawasan manusia yang berarti bukanlah sekadar teori — senjata itu sudah hadir di medan perang saat ini. Sementara Dialog Shangri-La sendiri menyampaikan pesan ini dengan lantang dalam sesi-sesi pertahanan, Menteri Luar Negeri Singapura, Dr. Vivian Balakrishnan, menyuarakan peringatan yang sama di sesi debat Dewan Keamanan PBB tentang AI dan perdamaian internasional. Ia menyatakan secara langsung bahwa senjata otonom mematikan “bukan lagi potensi”, seraya mencatat bahwa dalam perang yang sedang berkecamuk saat ini, “kenyataannya adalah karena urgensi untuk mengidentifikasi banyak target dan menanganinya, jari manusia, bahkan hari ini, sering kali tidak berada di pelatuk. Kita terpaksa menyerahkannya kepada sistem AI” .

Bahayanya, seperti yang digarisbawahi sepanjang dialog, ada dua. Di tingkat taktis, sistem otonom yang membuat keputusan hidup-mati tanpa kendali manusia dapat menghasilkan konsekuensi yang tidak terduga di medan tempur yang bergerak cepat. Di tingkat strategis, hilangnya penilaian manusia dari keputusan serangan menciptakan risiko eskalasi yang cepat dan tak bisa ditarik kembali — di mana mesin bisa meningkatkan skala pertempuran kecil menjadi konflik besar sebelum manusia sempat melakukan intervensi . Kekhawatiran ini terkait langsung dengan ketakutan akan eskalasi nuklir yang lebih luas yang mendominasi KTT ini.

Visi 'Militer Cerdas' Korea Selatan Jadi Sorotan Utama

Menteri Pertahanan Korea Selatan Ahn Gyu-baek memanfaatkan KTT ini untuk memosisikan Seoul sebagai kekuatan utama dalam pertahanan berbasis AI, dengan menguraikan konsep "militer cerdas" yang ambisius, yang dibangun di atas sistem berbasis kecerdasan buatan, pertahanan drone dan anti-drone, serta platform otonom . Visi ini jauh melampaui slogan, didukung oleh upaya nasional yang terperinci untuk menanamkan AI ke dalam struktur kekuatan militer Korea Selatan:

• Komando dan kendali berbasis AI: Korea Selatan sedang mengintegrasikan kecerdasan buatan di seluruh sistem komando, pengawasan, dan pengintaian untuk mempercepat pengambilan keputusan serta mengurangi ketergantungan pada operator manusia .
• Drone sebagai perlengkapan standar: Angkatan Darat Korea Selatan membayangkan drone akan menjadi senjata yang sama umum seperti senapan pribadi bagi para prajurit, dengan target melatih “500.000 prajurit drone” dan memperkenalkan lebih dari 50.000 drone latihan pada tahun 2029 — cukup untuk satu drone per regu .
• Kemitraan berawak-tak berawak: Pada parade Hari Angkatan Bersenjata ke-77, Korea Selatan memamerkan drone loyal wingman tak berawak berteknologi siluman, amunisi loitering, dan sistem tempur robotik yang dirancang untuk operasi kemitraan berawak-tak berawak (manned-unmanned teaming) .
• Strategi mengimbangi kekurangan personel: Dorongan AI ini sebagian merupakan respons terhadap penurunan sumber daya wajib militer yang terkait dengan tingkat kelahiran Korea Selatan yang semakin rendah. Ahn telah menyatakan bahwa AI “bukan lagi pilihan, melainkan elemen kekuatan yang esensial” dalam merestrukturisasi unit dan personel .
• Komitmen anggaran: Anggaran AI nasional dialokasikan sebesar 10,1 triliun won, dengan anggaran pertahanan yang lebih luas sebesar 66,3 triliun won, menandakan prioritas nasional yang besar .

Korea Selatan juga telah mengambil peran kepemimpinan diplomatik dengan menjadi tuan rumah KTT internasional di Seoul untuk menyusun “cetak biru bagi penggunaan AI yang bertanggung jawab di bidang militer”. Lebih dari 90 negara, termasuk Amerika Serikat dan Tiongkok, berpartisipasi. Namun, kerangka kerja apa pun yang dihasilkan diperkirakan tidak akan mengikat secara hukum, dan masih belum jelas berapa banyak negara yang pada akhirnya akan mendukung bahkan sekadar seperangkat aturan main minimum .

Titik Nyala Nuklir: Taiwan

Asesmen yang paling mengkhawatirkan yang muncul tidak secara langsung tentang AI — tetapi kapasitas AI untuk mempercepat konflik ke tingkat nuklir menjadi inti dari peringatan paling tajam IISS. Sebuah studi khusus yang dirilis selama dialog berlangsung menyimpulkan bahwa setiap konflik militer antara AS dan Tiongkok atas Taiwan berisiko memicu eskalasi nuklir yang cepat. Analisis tersebut menemukan bahwa kedua belah pihak kemungkinan akan melancarkan operasi besar-besaran dengan menargetkan pusat komando, kendali, dan komunikasi satu sama lain — menciptakan tekanan destabilisasi yang kuat untuk melakukan eskalasi ke senjata nuklir sebelum kehilangan kapasitas untuk berkoordinasi .

Asesmen IISS itu memperingatkan dengan gamblang bahwa bentrokan konvensional atas Taiwan dapat “dengan cepat berubah menjadi krisis nuklir” dan bahwa dunia “berada di ambang perlombaan senjata nuklir baru” dengan Asia-Pasifik sebagai intinya . Peringatan ini digaungkan dalam dialog oleh Menteri Pertahanan AS Pete Hegseth, yang memperingatkan bahwa serangan Tiongkok ke Taiwan “bisa segera terjadi” dan memperkuat postur pencegahan Amerika . Beijing balik mengeluarkan peringatan tajam, dengan perwakilan Tiongkok yang dilaporkan “naik pitam” oleh narasi tersebut . Dimensi nuklir ini juga terhubung ke benang merah AI: integrasi sistem otonom dengan kapabilitas nuklir berarti kerangka kerja kontrol senjata tradisional sedang ditinggalkan tanpa metode kontrol yang mapan untuk menggantikannya .

Apa yang Diperjelas oleh Dialog Shangri-La 2025

Dialog ini melukiskan gambaran yang lebih mendesak daripada KTT-KTT sebelumnya. Pesan utamanya adalah bahwa AI bukan lagi sekadar masalah perang di masa depan — AI secara aktif mengubah lini masa konflik, menyingkirkan penilaian manusia dari keputusan yang mematikan, dan mengikis sekat pemisah antara eskalasi konvensional dan nuklir. Dorongan 'militer cerdas' Korea Selatan menunjukkan bagaimana negara-negara menengah berlomba untuk menanamkan AI sebelum kerangka tata kelola terbentuk, sementara asesmen risiko nuklir Taiwan menggarisbawahi bahwa titik nyala utama kawasan ini membawa dinamika eskalasi yang tidak dirancang untuk ditangani oleh struktur kontrol senjata mana pun yang ada saat ini.

Bagi komunitas pertahanan dan publik, dialog ini meninggalkan pesan yang jelas: AI dalam peperangan melampaui tata kelola dan doktrin strategis, dan waktu untuk menetapkan batasan sudah terlewatkan.

Manusia Disingkirkan dari Lingkar Kendali: Realitas Serangan Otonom

Salah satu tema paling serius dari dialog ini adalah konfirmasi bahwa senjata otonom yang beroperasi tanpa pengawasan manusia yang berarti bukanlah sekadar teori — senjata itu sudah hadir di medan perang saat ini. Sementara Dialog Shangri-La sendiri menyampaikan pesan ini dengan lantang dalam sesi-sesi pertahanan, Menteri Luar Negeri Singapura, Dr. Vivian Balakrishnan, menyuarakan peringatan yang sama di sesi debat Dewan Keamanan PBB tentang AI dan perdamaian internasional. Ia menyatakan secara langsung bahwa senjata otonom mematikan “bukan lagi potensi”, seraya mencatat bahwa dalam perang yang sedang berkecamuk saat ini, “kenyataannya adalah karena urgensi untuk mengidentifikasi banyak target dan menanganinya, jari manusia, bahkan hari ini, sering kali tidak berada di pelatuk. Kita terpaksa menyerahkannya kepada sistem AI” .

Bahayanya, seperti yang digarisbawahi sepanjang dialog, ada dua. Di tingkat taktis, sistem otonom yang membuat keputusan hidup-mati tanpa kendali manusia dapat menghasilkan konsekuensi yang tidak terduga di medan tempur yang bergerak cepat. Di tingkat strategis, hilangnya penilaian manusia dari keputusan serangan menciptakan risiko eskalasi yang cepat dan tak bisa ditarik kembali — di mana mesin bisa meningkatkan skala pertempuran kecil menjadi konflik besar sebelum manusia sempat melakukan intervensi . Kekhawatiran ini terkait langsung dengan ketakutan akan eskalasi nuklir yang lebih luas yang mendominasi KTT ini.

Visi 'Militer Cerdas' Korea Selatan Jadi Sorotan Utama

Menteri Pertahanan Korea Selatan Ahn Gyu-baek memanfaatkan KTT ini untuk memosisikan Seoul sebagai kekuatan utama dalam pertahanan berbasis AI, dengan menguraikan konsep "militer cerdas" yang ambisius, yang dibangun di atas sistem berbasis kecerdasan buatan, pertahanan drone dan anti-drone, serta platform otonom . Visi ini jauh melampaui slogan, didukung oleh upaya nasional yang terperinci untuk menanamkan AI ke dalam struktur kekuatan militer Korea Selatan:

• Komando dan kendali berbasis AI: Korea Selatan sedang mengintegrasikan kecerdasan buatan di seluruh sistem komando, pengawasan, dan pengintaian untuk mempercepat pengambilan keputusan serta mengurangi ketergantungan pada operator manusia .
• Drone sebagai perlengkapan standar: Angkatan Darat Korea Selatan membayangkan drone akan menjadi senjata yang sama umum seperti senapan pribadi bagi para prajurit, dengan target melatih “500.000 prajurit drone” dan memperkenalkan lebih dari 50.000 drone latihan pada tahun 2029 — cukup untuk satu drone per regu .
• Kemitraan berawak-tak berawak: Pada parade Hari Angkatan Bersenjata ke-77, Korea Selatan memamerkan drone loyal wingman tak berawak berteknologi siluman, amunisi loitering, dan sistem tempur robotik yang dirancang untuk operasi kemitraan berawak-tak berawak (manned-unmanned teaming) .
• Strategi mengimbangi kekurangan personel: Dorongan AI ini sebagian merupakan respons terhadap penurunan sumber daya wajib militer yang terkait dengan tingkat kelahiran Korea Selatan yang semakin rendah. Ahn telah menyatakan bahwa AI “bukan lagi pilihan, melainkan elemen kekuatan yang esensial” dalam merestrukturisasi unit dan personel .
• Komitmen anggaran: Anggaran AI nasional dialokasikan sebesar 10,1 triliun won, dengan anggaran pertahanan yang lebih luas sebesar 66,3 triliun won, menandakan prioritas nasional yang besar .

Korea Selatan juga telah mengambil peran kepemimpinan diplomatik dengan menjadi tuan rumah KTT internasional di Seoul untuk menyusun “cetak biru bagi penggunaan AI yang bertanggung jawab di bidang militer”. Lebih dari 90 negara, termasuk Amerika Serikat dan Tiongkok, berpartisipasi. Namun, kerangka kerja apa pun yang dihasilkan diperkirakan tidak akan mengikat secara hukum, dan masih belum jelas berapa banyak negara yang pada akhirnya akan mendukung bahkan sekadar seperangkat aturan main minimum .

Titik Nyala Nuklir: Taiwan

Asesmen yang paling mengkhawatirkan yang muncul tidak secara langsung tentang AI — tetapi kapasitas AI untuk mempercepat konflik ke tingkat nuklir menjadi inti dari peringatan paling tajam IISS. Sebuah studi khusus yang dirilis selama dialog berlangsung menyimpulkan bahwa setiap konflik militer antara AS dan Tiongkok atas Taiwan berisiko memicu eskalasi nuklir yang cepat. Analisis tersebut menemukan bahwa kedua belah pihak kemungkinan akan melancarkan operasi besar-besaran dengan menargetkan pusat komando, kendali, dan komunikasi satu sama lain — menciptakan tekanan destabilisasi yang kuat untuk melakukan eskalasi ke senjata nuklir sebelum kehilangan kapasitas untuk berkoordinasi .

Asesmen IISS itu memperingatkan dengan gamblang bahwa bentrokan konvensional atas Taiwan dapat “dengan cepat berubah menjadi krisis nuklir” dan bahwa dunia “berada di ambang perlombaan senjata nuklir baru” dengan Asia-Pasifik sebagai intinya . Peringatan ini digaungkan dalam dialog oleh Menteri Pertahanan AS Pete Hegseth, yang memperingatkan bahwa serangan Tiongkok ke Taiwan “bisa segera terjadi” dan memperkuat postur pencegahan Amerika . Beijing balik mengeluarkan peringatan tajam, dengan perwakilan Tiongkok yang dilaporkan “naik pitam” oleh narasi tersebut . Dimensi nuklir ini juga terhubung ke benang merah AI: integrasi sistem otonom dengan kapabilitas nuklir berarti kerangka kerja kontrol senjata tradisional sedang ditinggalkan tanpa metode kontrol yang mapan untuk menggantikannya .

Apa yang Diperjelas oleh Dialog Shangri-La 2025

Dialog ini melukiskan gambaran yang lebih mendesak daripada KTT-KTT sebelumnya. Pesan utamanya adalah bahwa AI bukan lagi sekadar masalah perang di masa depan — AI secara aktif mengubah lini masa konflik, menyingkirkan penilaian manusia dari keputusan yang mematikan, dan mengikis sekat pemisah antara eskalasi konvensional dan nuklir. Dorongan 'militer cerdas' Korea Selatan menunjukkan bagaimana negara-negara menengah berlomba untuk menanamkan AI sebelum kerangka tata kelola terbentuk, sementara asesmen risiko nuklir Taiwan menggarisbawahi bahwa titik nyala utama kawasan ini membawa dinamika eskalasi yang tidak dirancang untuk ditangani oleh struktur kontrol senjata mana pun yang ada saat ini.

Bagi komunitas pertahanan dan publik, dialog ini meninggalkan pesan yang jelas: AI dalam peperangan melampaui tata kelola dan doktrin strategis, dan waktu untuk menetapkan batasan sudah terlewatkan.