PBB Dorong Aturan Mengikat untuk AI Terdepan

Perlombaan mengembangkan AI yang semakin canggih tidak bisa diserahkan pada komitmen perusahaan semata. Itulah pesan Komisaris Tinggi PBB untuk Hak Asasi Manusia, Volker Türk, dalam surat terbukanya. Ia menilai pengaturan diri secara sukarela oleh pengembang AI terdepan (frontier AI) “jauh dari cukup” untuk menghadapi dampak yang sudah ada maupun mencegah model otonom tingkat lanjut mengakali pengamanan manusia. 7

AI terdepan merujuk pada sistem di garis depan kemampuan teknis—model yang paling kuat dan cepat berkembang. Bagi Türk, risiko dari teknologi seperti ini bersifat lintas negara, sehingga responsnya tidak dapat hanya bergantung pada keputusan segelintir perusahaan atau satu pemerintah saja. 79

Apa yang diminta Türk

Pokok seruan Türk adalah aturan yang dapat ditegakkan dan berlandaskan hukum HAM internasional, bukan sekadar janji keselamatan dari perusahaan.

• Regulasi yang mengikat dan berbasis HAM. Negara diminta memperkuat aturan bagi AI serta bekerja sama secara internasional agar tidak muncul celah akibat perbedaan pendekatan antarnegara. 7
• Uji tuntas HAM yang berkelanjutan. Pengembang perlu mengidentifikasi dan menangani dampak HAM yang nyata maupun potensial sepanjang siklus hidup sistem AI. Dalam panduan PBB, uji tuntas ini bukan pemeriksaan sekali jalan: prosesnya mencakup pengenalan risiko, tindakan penanganan, pelacakan efektivitas, dan komunikasi kepada pihak terkait.
• Penilaian teknis dan verifikasi independen. Türk menyerukan pengamanan yang dapat diuji pihak independen, bukan semata-mata diterima berdasarkan pernyataan perusahaan. 7
• Tindakan multilateral yang mendesak. Aturan dan jaminan keselamatan untuk AI terdepan perlu dikembangkan secara terkoordinasi oleh negara-negara dan lembaga internasional. 79

Mengapa peringatan ini menguat sekarang

Surat Türk hadir ketika perdebatan di industri AI makin terbuka: seberapa cepat laboratorium AI harus mengejar sistem yang lebih otonom dan berpotensi mampu meningkatkan kemampuannya sendiri.

Jacob Coxon, peneliti yang pernah bekerja di OpenAI dan Anthropic, mengundurkan diri dari Anthropic pada September 2026. Ia menuduh kedua perusahaan berpacu menuju superintelligence yang mampu memperbaiki diri sambil “mempertaruhkan nyawa kita”. 68 Coxon juga mengatakan sebagian pembuat AI sungguh-sungguh percaya teknologi itu dapat “membunuh kita semua” sebelum dekade ini berakhir. Itu adalah peringatan yang disampaikan Coxon dan pengembang lain yang khawatir, bukan proyeksi yang telah terbukti. 6

Di sisi lain, inisiatif yang dipimpin karyawan bernama Pacing the Frontier meminta pemerintah Amerika Serikat mendukung upaya internasional untuk membangun perangkat teknis dan tata kelola guna sengaja memperlambat pengembangan AI terdepan bila lajunya melampaui kemampuan manusia untuk mengawasinya dengan aman. Situs inisiatif tersebut mencatat 1.386 penandatangan dari perusahaan AI terdepan. 15

Dukungan untuk gagasan “mengatur laju” ini penting, tetapi belum menjawab persoalan akuntabilitas. Posisi Türk tegas: komitmen sukarela, sekalipun didukung karyawan atau tokoh industri, tidak bisa menggantikan perlindungan publik yang wajib dan dapat ditegakkan. 7

Dampak yang sudah terjadi dan risiko jangka panjang

Türk tidak membingkai persoalan ini hanya sebagai skenario kepunahan yang jauh di masa depan. Ia menyatakan pengaturan diri sukarela tidak memadai untuk menangani dampak yang sudah ada maupun mencegah model otonom canggih menghindari pengamanan manusia. 7

Pelaporan yang tersedia tidak merinci daftar kategori dampak saat ini yang disebut secara spesifik dalam surat tersebut. Karena itu, tidak tepat untuk mengatribusikan jenis dampak tertentu kepada surat Türk di luar peringatan umumnya. Namun, arah ujiannya jelas: hak asasi manusia harus menjadi pusat dalam perancangan, penerapan, penilaian, dan tata kelola AI. 7

Kesenjangan yang ingin ditutup PBB

Ada titik temu antara sebagian suara dari industri AI dan peringatan PBB: keduanya mengakui bahwa peningkatan kemampuan AI mungkin perlu diatur lajunya secara sengaja dan dievaluasi secara independen. 715

Namun, kesenjangannya bersifat politis. Pernyataan dari industri dapat mendorong koordinasi, tetapi tidak otomatis menetapkan ambang keselamatan bersama, mewajibkan keterbukaan, memaksa pengujian independen, atau menyediakan pemulihan dan pertanggungjawaban saat dampak terjadi.

Karena itu, Türk meminta pemerintah menutup kesenjangan tersebut melalui regulasi multilateral yang mendesak berdasarkan hukum HAM internasional. Bagi pembuat kebijakan dan organisasi yang membeli atau menggunakan AI, implikasinya praktis: klaim keselamatan harus disertai bukti penilaian risiko HAM yang terus-menerus, pengawasan eksternal, dan jalur akuntabilitas yang jelas—bukan hanya janji sukarela dari perusahaan pembuat sistem. 79