Membangun Aturan Keselamatan AI Global yang Bisa Diuji Secara Independen

Aturan keselamatan AI global tidak akan dipercaya hanya karena perusahaan menyatakan produknya aman. Klaim itu perlu diuji pihak independen, sementara regulator harus bisa bertindak jika bukti keselamatannya tidak memadai. Menteri Pembangunan Digital dan Informasi Singapura Josephine Teo membandingkan kebutuhan ini dengan penerbangan: penggunaan rutin dimungkinkan oleh lapisan pengamanan yang membangun kepercayaan. Menurutnya, AI juga memerlukan pendekatan keselamatan seiring meluasnya penggunaan. 36

Pelajaran dari penerbangan: mulai bertahap, awasi terus

Aturan penerbangan internasional tidak lahir sekaligus. Hukum nasional dan kesepakatan antarnegara mendahului Konvensi Paris 1919. Konvensi Chicago 1944 kemudian membentuk kerangka baru, dan Organisasi Penerbangan Sipil Internasional (ICAO) mulai beroperasi pada 1947. 313935 Pelajaran bagi AI bukanlah menyalin aturan pesawat, melainkan memulai dari kesepakatan yang bisa dijalankan, lalu memperkuatnya ketika praktik bersama terbentuk.

Dalam rancangan seperti itu, lembaga internasional dapat menyusun standar minimum, mengakreditasi penguji, dan membandingkan data insiden. Regulator nasional tetap memegang kewenangan penegakan: memeriksa, meminta perbaikan, membatasi penggunaan, dan menjatuhkan sanksi. Sertifikat internasional tidak boleh menjadi pengganti pengawasan di tiap negara.

Keselamatan juga tidak berhenti saat sistem diluncurkan. Pengujian sebelum digunakan perlu diikuti pemantauan, penilaian ulang setelah perubahan penting, serta rencana untuk mengembalikan sistem ke versi sebelumnya atau menghentikan penggunaannya. Persetujuan harus menyebut versi sistem dan konteks pemakaiannya, bukan dianggap berlaku selamanya untuk segala penggunaan.

Apa yang harus bisa diperiksa penguji independen?

Skor pada tolok ukur atau label “lulus uji” saja tidak cukup. Penguji terakreditasi memerlukan akses yang aman ke model, konfigurasi saat digunakan, dokumentasi, dan catatan kegagalan penting. Metode serta temuannya harus cukup jelas agar penguji lain yang memenuhi syarat dapat menantangnya. Pada saat yang sama, aturan akses perlu melindungi data pribadi, rahasia dagang, dan informasi sensitif terkait keamanan.

Untuk sistem berisiko tinggi, pengembang dapat diwajibkan menyerahkan dokumen pembuktian keselamatan: apa yang bisa dilakukan sistem, bagaimana pengujiannya, pengamanan apa yang terbukti bekerja, risiko apa yang tersisa, dan bagaimana insiden akan ditangani. Jika buktinya kurang, regulator harus dapat meminta perbaikan atau membatasi penggunaan. Tujuannya adalah kepatuhan yang dapat diverifikasi terhadap persyaratan yang jelas—bukan janji bahwa kerugian mustahil terjadi.

Independensi penguji juga menyangkut pendanaan. Pengembang besar dapat membiayai pengujian melalui dana bersama atau biaya yang dikelola regulator, alih-alih memilih dan mengendalikan langsung pihak yang menilai mereka. Penyelidikan independen atas kegagalan serius dan kejadian yang nyaris menimbulkan kerugian perlu mengutamakan pembelajaran. Perlindungan bagi pelapor penting, tetapi tidak boleh menjadi alasan untuk menutupi insiden atau membebaskan pelanggaran.

Peran Singapura harus dibuktikan, bukan diasumsikan

Teo menyerukan pembangunan pengamanan seiring dengan penggunaan AI. Pemberitaan juga menyebut perangkat pengujian AI Verify dan AI Safety Institute di Singapura sebagai landasan upaya pengujian serta penjaminan keselamatannya. 13 Singapura berpotensi menjadi tempat evaluasi bersama atau pertukaran teknis yang bersifat rahasia dalam jaringan laboratorium terakreditasi yang lebih luas.

Namun, menjadi tuan rumah tidak otomatis membuat sebuah fasilitas dipercaya Amerika Serikat dan China. Kepercayaan itu bergantung pada tata kelola yang transparan, aturan akses yang aman, mekanisme banding independen, dan kesediaan nyata kedua negara untuk berpartisipasi. Jaringan yang tersebar di beberapa tempat juga menghindari ketergantungan pada satu pusat.

Mulai dari risiko bersama, bukan kesepakatan untuk memperlambat AI

Perdebatan tentang laju pengembangan AI masih tajam. Menurut Reuters, Dario Amodei, Sam Altman, dan Elon Musk menyerukan perlambatan terkoordinasi. Mark Zuckerberg lebih mendukung pengamanan yang digerakkan pasar, sedangkan Jensen Huang menolak perlunya regulasi baru. 4748 China menolak seruan perlambatan. Presiden Donald Trump juga mengatakan ia tidak mengharapkan kemajuan soal aturan pembatas AI dalam pertemuannya dengan Xi Jinping pada 24 September; laporan mengenai pertemuan itu menggambarkan rendahnya harapan akan terobosan besar. 585049

Perbedaan tersebut tidak harus menghalangi kerja sama untuk mencegah bahaya yang sama-sama ingin dihindari. Usulan para pakar keamanan Amerika Serikat dan China mencakup batasan terkait sistem nuklir, kendali manusia atas serangan siber yang berdampak besar, serta saluran komunikasi langsung untuk insiden AI otonom. 20 Itu bisa menjadi titik awal bagi kontak darurat, pemberitahuan insiden serius, dan pembahasan teknis timbal balik. Keterlibatan Amerika Serikat dan China penting, tetapi negara lain juga perlu ikut menetapkan standar dan memperoleh akses ke kapasitas pengujian.

Kewajiban sebanding dengan risiko

Dari perjanjian pengendalian senjata, AI dapat mengambil satu prinsip: buat komitmen timbal balik yang cukup spesifik untuk diperiksa. Dari pengawasan sektor keuangan, prinsipnya adalah memusatkan kewajiban paling berat pada sistem yang kegagalannya berpotensi berdampak paling besar. Pengembang dan pihak yang menggunakan sistem berisiko tinggi dapat diwajibkan menjalani penilaian independen, menetapkan pertanggungjawaban manajemen, menyiapkan rencana pemulihan, serta segera melaporkan kegagalan keselamatan serius, kebocoran data penting, peretasan, atau pencurian model.

Perusahaan kecil yang menawarkan layanan berisiko rendah dapat menggunakan fasilitas pengujian bersama dan dokumentasi yang lebih sederhana. Namun, ukuran perusahaan saja tidak boleh menjadi alasan untuk mengecualikan sistem yang berbahaya.

Perjanjian dan lembaga permanen sebelum 2030 merupakan sasaran kebijakan yang ambisius, bukan prediksi. Ukuran kemajuan yang lebih dekat ialah apakah negara-negara dapat menyepakati definisi insiden, syarat independensi penguji, dan pengamanan timbal balik—serta apakah regulator benar-benar bisa bertindak ketika bukti keselamatan tidak mencukupi.