Volker Türk Peringatkan Risiko Eksistensial AI dan Desak Aturan Mengikat

Volker Türk, Komisaris Tinggi PBB untuk Hak Asasi Manusia, memperingatkan bahwa kecerdasan buatan (AI) tingkat lanjut dapat menjadi “risiko eksistensial bagi kemanusiaan” bila pemerintah dan perusahaan tidak segera memberlakukan perlindungan yang tegas dan dapat dipaksakan. Pidato pada 7 September di Dewan HAM PBB itu merupakan pidato pertamanya di forum tersebut setelah ia memperoleh masa jabatan kedua yang belum pernah terjadi sebelumnya, selama empat tahun. 312

AI berkembang lebih cepat daripada pengamannya

Menurut Türk, sistem AI yang sangat kuat berpotensi mengganggu infrastruktur kritis, komunikasi, layanan esensial, serta lembaga demokrasi. Karena itu, ia meminta adanya jaminan keselamatan dan keamanan yang ia sebut “cast-iron guarantees” atau jaminan yang benar-benar kokoh. 34

Seruannya mencakup:

• aturan yang mengikat secara hukum;
• pengawasan independen;
• batas atau “garis merah” yang disepakati secara internasional;
• tanggung jawab yang mencakup negara, perusahaan, pengembang, hingga rantai pasok AI. 47

Türk menilai kemampuan AI melaju lebih cepat dibandingkan perangkat pengamannya. Ia menyinggung insiden yang dilaporkan terkait Hugging Face sebagai gambaran bahwa sistem dapat tersedia atau memiliki kemampuan sebelum kontrol yang memadai siap diterapkan. Ia juga memperingatkan bahaya jika kekuasaan menentukan arah AI terkonsentrasi di tangan segelintir pemimpin perusahaan teknologi. 17

Sorotan terhadap tahanan imigrasi AS

Di luar isu teknologi, Türk menuntut pertanggungjawaban atas sekitar 23 kematian dalam tahanan imigrasi Amerika Serikat sepanjang 2026. Ia mendesak agar deportasi dihentikan bila seseorang berisiko mengalami kerugian atau bahaya yang tidak dapat diperbaiki di negara tujuan. 78

Ia juga menyampaikan kekhawatiran atas rencana yang dilaporkan untuk membekali petugas imigrasi dengan sarung tangan setrum listrik. Menurutnya, langkah semacam itu berpotensi memperbesar kekerasan. 58

Drone otonom, Ukraina, dan Iran

Türk mengecam serangan Rusia yang terus berlanjut terhadap Ukraina dan menyatakan ngeri atas laporan bahwa drone sepenuhnya otonom yang diluncurkan Rusia telah menewaskan tiga warga Ukraina. Ia menyerukan pelarangan internasional terhadap sistem senjata yang dapat memilih dan membunuh manusia tanpa keterlibatan manusia yang bermakna. 1

Mengenai Iran, Türk mengkritik peningkatan eksekusi dan vonis hukuman mati, termasuk perkara terkait keamanan nasional. Kantornya sebelumnya melaporkan sedikitnya 56 eksekusi atas tuduhan semacam itu sejak 19 Maret. 4

Menelusuri “pemain bayangan” di balik konflik

Türk mengatakan kini terdapat lebih dari 60 perang yang melibatkan sedikitnya satu negara—angka tertinggi sejak Perang Dunia II. Kantornya, kata dia, akan meneliti dan mengungkap perusahaan, penyandang dana, serta kepentingan ekonomi lain yang dinilainya sebagai “pemain bayangan” yang turut menggerakkan konflik-konflik tersebut. 17

Ia juga meminta negara-negara menghentikan transfer senjata jika ada risiko senjata itu dipakai untuk melanggar hukum internasional. Perusahaan, tambahnya, perlu mengakhiri aktivitas bisnis yang mendukung permukiman Israel di Tepi Barat yang diduduki. Türk merujuk pada pembaruan daftar PBB yang akan mengidentifikasi bisnis yang terkait dengan permukiman tersebut. PBB memandang permukiman itu melanggar hukum internasional, sementara Israel menolak penilaian tersebut. 513