Mengapa Singapura dan 19 Negara Lain Menyerukan Pengawasan Global atas AI Canggih?

Kemajuan pesat frontier AI—model kecerdasan buatan (AI) paling maju—membawa peluang sekaligus risiko keselamatan dan keamanan yang sulit ditangani oleh satu perusahaan atau satu negara saja. Itulah alasan di balik A Call for Control of Frontier AI Models, seruan yang diluncurkan di New York pada 21 September 2026, saat pekan Sidang Umum Perserikatan Bangsa-Bangsa (PBB). Tujuannya adalah menjaga manusia tetap memegang kendali tanpa menutup peluang negara-negara untuk memperoleh manfaat dari AI.13133

Mengapa Singapura ikut mendukung?

Perdana Menteri Lawrence Wong menekankan dua hal sekaligus: AI memiliki potensi besar, tetapi harus tetap berada di bawah kendali dan pengawasan manusia. Singapura merupakan satu-satunya negara Asia Tenggara dalam kelompok pendukung awal seruan ini.617

Deklarasi tersebut mengakui bahwa AI dapat meningkatkan kualitas hidup, memajukan ilmu pengetahuan, dan memperkuat perekonomian. Namun, kemampuan model paling maju berkembang begitu cepat sehingga langkah di tingkat nasional saja dinilai mungkin tidak memadai untuk menghadapi risikonya. Deklarasi itu juga menegaskan bahwa AI perlu dikembangkan dan digunakan sesuai hukum internasional.1331

Apa yang diminta deklarasi ini?

Seruan tersebut membagi pekerjaan di antara beberapa pihak. Perusahaan AI diminta menerapkan protokol keselamatan yang transparan, termasuk pengujian wajib sebelum model digunakan dan evaluasi independen. Evaluator yang memenuhi syarat perlu mendapat akses yang cukup untuk menilai risiko.30

Pemerintah dan organisasi kawasan diminta menyelaraskan standar serta meningkatkan transparansi, antara lain dengan saling berbagi laporan insiden keselamatan yang serius. Usulan yang dilaporkan juga mencakup akses yang lebih luas terhadap keahlian ilmiah dan evaluasi yang tepercaya.2530

Sementara itu, negara-negara anggota PBB diajak memanfaatkan mekanisme yang sudah ada dan menjajaki pembentukan lembaga internasional. Lembaga yang diusulkan itu dapat menetapkan standar, mendukung verifikasi, dan mempertemukan negara-negara ketika kemampuan AI melewati ambang tertentu. Lembaga tersebut belum dibentuk oleh deklarasi ini.2936

Dengan kata lain, usulan yang dikutip berfokus pada pengujian dan pengawasan bersama, bukan secara tegas menuntut penghentian pengembangan AI canggih.293036

Siapa yang bergabung?

Presiden Finlandia Alexander Stubb dan Perdana Menteri Norwegia Jonas Gahr Støre memprakarsai seruan ini. Menurut kantor kepresidenan Finlandia, pendukung saat peluncuran adalah Finlandia, Norwegia, Denmark, Islandia, Estonia, Latvia, Belanda, Irlandia, Jerman, Spanyol, Moldova, Turki, Uni Emirat Arab, Bahrain, Kazakhstan, Singapura, Kenya, Afrika Selatan, Kanada, dan Australia, serta Komisi Eropa. Kantor tersebut juga melaporkan dukungan tambahan setelah peluncuran, sehingga daftar awal itu bukan daftar akhir.33

Amerika Serikat dan China tidak termasuk dalam deklarasi awal. Stubb menyatakan harapan agar lebih banyak pihak bergabung, tetapi ketidakhadiran kedua negara itu saja tidak menjelaskan alasan masing-masing.9 Sekretaris Jenderal PBB António Guterres menyambut inisiatif Finlandia–Norwegia, termasuk gagasan untuk menjajaki standar, verifikasi, dan forum yang dapat mempertemukan negara-negara ketika ambang kemampuan AI terlampaui.36

Seruan ini muncul ketika keselamatan AI canggih juga mendapat perhatian dari industri. Microsoft telah menerbitkan prinsip panduan untuk pengembangan modelnya, sedangkan Anthropic mengumumkan kerja sama dengan Accenture untuk evaluasi independen beberapa hari sebelum deklarasi diluncurkan. Keduanya memberi gambaran tentang perhatian yang lebih luas terhadap isu ini, bukan bukti bahwa langkah perusahaan tersebut memicu keputusan para pemerintah.3940