Apa yang Sudah Diketahui soal Usulan Badan Standar Keamanan AI Frontier

Pelaporan publik menunjukkan adanya titik temu nyata antara Anthropic, OpenAI, dan Google DeepMind: model AI paling canggih perlu diperiksa oleh pihak di luar perusahaan pengembang sebelum dilepas ke publik. Namun, belum ada bukti bahwa mereka telah membentuk regulator bersama yang baru, ataupun menyepakati tes mengikat, akses audit, ambang peluncuran, atau sanksi bagi pelanggaran. 811

Perbedaannya penting. Kesepakatan bahwa evaluasi diperlukan tidak otomatis berarti sudah ada lembaga yang berwenang menegakkannya.

Inti usulannya

Sejak Juli 2026, ketiga perusahaan dilaporkan mengadakan pertemuan tingkat kelompok kerja untuk membahas badan standar AI frontier yang dipimpin industri. Tujuannya tampak berupa sistem bersama untuk menilai kemampuan berbahaya sebelum model dirilis, terutama risiko penyalahgunaan untuk operasi siber, biologis, penipuan atau manipulasi, serta skenario berdampak besar lainnya. 811

Model kelembagaan yang paling jelas dipaparkan secara terbuka datang dari CEO Google DeepMind, Demis Hassabis. Ia mengusulkan Frontier AI Standards Body yang dipimpin Amerika Serikat dan meniru FINRA, organisasi regulasi mandiri di industri keuangan AS. Dalam rancangan itu, badan yang didanai industri tetapi diawasi pemerintah federal akan menguji model AI frontier sebelum rilis. Tahap awalnya bersifat sukarela; kewajiban baru dapat diterapkan setelah proses penilaiannya terbukti berjalan baik. 9

Meski demikian, catatan publik belum menunjukkan bahwa ketiga lab telah sepakat atas rincian yang menentukan apakah sistem ini benar-benar kuat, antara lain:

• model mana yang wajib ditinjau;
• evaluasi teknis apa yang harus dilakukan;
• seberapa luas akses yang diterima evaluator eksternal;
• hasil apa yang dapat memblokir, menunda, atau memberi syarat pada peluncuran;
• siapa yang mendanai dan mengelola badan tersebut;
• bagaimana independensi evaluator dari perusahaan yang mereka nilai dijaga; serta
• bentuk pengawasan pemerintah dan perlindungan hukumnya.

Sebelum pertanyaan-pertanyaan itu dijawab, menyebut inisiatif ini sebagai regulator bersama yang sudah beroperasi akan terlalu jauh dari bukti yang tersedia.

Hal yang tampaknya disepakati

Area kesepakatan terkuat adalah pengujian independen sebelum rilis. Axios melaporkan pada Juli bahwa Dario Amodei, Sam Altman, dan Demis Hassabis secara garis besar mendukung peninjauan eksternal atas model frontier sebelum model tersebut tersedia bagi publik, bukan terutama mengandalkan laporan dari perusahaan sendiri. 8

Pergeseran ini penting karena keselamatan model frontier tidak semata bergantung pada apakah pengembang menjalankan evaluasi. Yang juga menentukan adalah apakah pihak independen dapat mengulangi, memeriksa, atau menggugat temuan tersebut. Rezim yang kredibel memerlukan tes yang jelas, akses yang andal ke sistem, dan konsekuensi yang tegas ketika model melampaui ambang risiko.

Ketiganya juga memandang isu ini sebagai persoalan internasional. Ada ketegangan strategis yang mereka akui: pembatasan sepihak di AS bisa sulit diterapkan secara politik jika pengembang pesaing di luar negeri tidak menghadapi batas yang sebanding. Rancangan Hassabis secara eksplisit dipimpin AS, sementara Amodei berpendapat bahwa perlindungan nasional saja tidak cukup untuk mengelola sistem yang dapat disebarkan secara global. 91

Perbedaan pandangan soal tata kelola

Bahasa bersama tentang keselamatan menyembunyikan perbedaan mendasar: apakah ini terutama kerangka sukarela industri, sistem yang didukung pemerintah, atau regulator dengan kewenangan nyata?

Rancangan DeepMind didanai industri tetapi berada di bawah pengawasan federal. Usul itu membayangkan fase awal sukarela, lalu kemungkinan bahwa peninjauan kelak menjadi prasyarat sebelum model dapat dikerahkan. 9

Usulan Amodei menekankan evaluator independen yang tertanam di dalam lab AI frontier dan menyerukan koordinasi standar oleh perusahaan di negara demokrasi, dengan dukungan pemerintah bila diperlukan. 12

Pelaporan mengenai diskusi kelompok kerja menggambarkan OpenAI sebagai pihak yang terbuka pada aksi industri ketimbang menunggu pemerintah membangun kerangka lengkap. 11 CEO OpenAI Sam Altman juga secara terbuka mendukung evaluator independen dengan akses setara karyawan setelah esai Amodei terbit.

Perbedaan itu bukan sekadar soal istilah. Pengaturan sukarela dapat bergerak cepat dan membangun praktik teknis bersama. Akan tetapi, tanpa tata kelola independen serta otoritas publik, pengaturan seperti ini mungkin tidak mampu memaksa akses, menyelesaikan sengketa, mencegah konflik kepentingan, atau menghentikan perusahaan yang tetap ingin merilis model setelah gagal dalam tinjauan keselamatan.

Frontier Model Forum bukan bukti regulator baru sudah ada

Frontier Model Forum sudah berdiri sebagai badan industri yang melibatkan perusahaan AI besar. Tujuan resminya mencakup kemajuan riset keselamatan, pengembangan evaluasi dan praktik terbaik, serta pertukaran informasi dengan pembuat kebijakan dan industri.

Forum ini dapat menjadi wadah yang masuk akal untuk koordinasi. Namun, keberadaannya sendiri tidak membuktikan badan independen baru telah diluncurkan atau sistem audit lintas perusahaan telah mengikat. Pertanyaan utamanya ialah apakah perusahaan akan membangun entitas yang hanya menyusun pedoman, atau badan yang dapat secara independen menilai model dan menerapkan syarat peluncuran yang berarti.

Mengapa esai Amodei mengubah perdebatan publik

Pada 12 September, CEO Anthropic Dario Amodei menerbitkan esai sekitar 3.800 kata berjudul We Must Pace the Frontier. Ia berpendapat laju peningkatan kemampuan AI perlu diperlambat agar praktik keselamatan punya waktu untuk mengejar ketertinggalan. 52

Amodei memperingatkan bahwa dalam enam hingga 12 bulan, kawanan agen AI otomatis yang lebih canggih berpotensi mengambil alih internet. Pernyataan ini harus dipahami sebagai proyeksi dan peringatan risiko, bukan hasil teknis yang telah terbukti. 513

Jalur yang ia usulkan terdiri atas tiga bagian:

1. Menempatkan evaluator independen di dalam lab AI frontier dengan akses setara karyawan untuk menguji sistem, menemukan kegagalan keselamatan, dan menilai kepatuhan. 12
2. Mengoordinasikan standar serta batas keselamatan bersama di antara perusahaan AI di negara demokrasi, dengan dukungan pemerintah bila perlu. 216
3. Mengejar koordinasi internasional yang lebih luas, termasuk dengan pemerintah otoriter, karena model canggih dan risikonya dapat digunakan secara global. 115

Anthropic menyatakan akan memberi evaluator pihak ketiga akses permanen setara karyawan. Itu merupakan komitmen yang lebih kuat daripada pengujian eksternal satu kali. Namun, kredibilitasnya dalam praktik akan bergantung pada siapa yang memilih evaluator, apa yang boleh mereka periksa, apakah mereka dapat memublikasikan temuan, dan apa yang terjadi bila mereka menemukan risiko yang tidak dapat diterima. 122

Ujian akuntabilitas

Kekhawatiran utama para pengkritik sederhana: perusahaan yang sedang berlomba membangun sistem paling canggih juga dapat ikut menulis, mengelola, dan menafsirkan aturan untuk sistem mereka sendiri.

Badan keselamatan akan lebih kredibel bila memiliki kepemimpinan teknis yang independen, metode evaluasi yang transparan, perlindungan dari pengaruh perusahaan, pengawasan pemerintah yang bermakna, serta kewenangan yang jelas untuk menindak hasil penilaian yang gagal. Tanpa unsur-unsur itu, standar bersama masih dapat memperbaiki praktik, tetapi belum tentu memenuhi tuntutan akuntabilitas independen.

AI Safety Index Musim Panas 2026 dari Future of Life Institute menunjukkan alasan skeptisisme tersebut bertahan. Anthropic mendapat nilai C+, OpenAI C, dan Google DeepMind C; tidak ada lab yang dinilai menerima nilai di atas C+. 17

Senator Bernie Sanders menilai perlambatan saja tidak memadai. Ia menyerukan jeda pengembangan AI canggih dan pelarangan kecerdasan super buatan. Posisi ini jauh lebih ketat daripada usulan para lab, tetapi menyoroti jarak antara perlambatan sukarela dan batas yang benar-benar dapat ditegakkan.

Hal yang perlu diperhatikan berikutnya

Tanda kemajuan yang bermakna bukan sekadar pernyataan prinsip baru, melainkan komitmen kelembagaan yang konkret:

• piagam tata kelola yang dipublikasikan;
• evaluator independen yang disebutkan secara terbuka;
• tes kemampuan dan penyalahgunaan yang terstandardisasi;
• aturan akses audit dan pengungkapan hasil;
• ambang peluncuran serta kewajiban perbaikan; dan
• jawaban tegas apakah temuan keselamatan dapat menunda atau mencegah peluncuran.

Untuk saat ini, kesimpulan yang didukung bukti lebih terbatas: lab AI frontier besar sedang membahas infrastruktur keselamatan bersama dan makin mendukung pengujian dari luar. Apakah pembahasan itu akan menghasilkan badan standar yang independen serta dapat menegakkan aturan, atau hanya forum industri sukarela, masih belum terjawab. 8911