Altman dan Amodei Desak DK PBB Kelola Perlombaan AI

Sam Altman, CEO OpenAI, dan Dario Amodei, CEO Anthropic, meminta Dewan Keamanan Perserikatan Bangsa-Bangsa (DK PBB) mendorong perlombaan AI yang dikelola secara terkoordinasi, bukan penghentian pengembangan secara permanen. Peringatan utama mereka: sistem AI yang semakin mandiri dapat melampaui kemampuan manusia untuk mengawasi dan mengendalikannya, memusatkan kekuasaan berbahaya, memudahkan penyalahgunaan, atau memicu krisis keamanan sebelum pemerintah sempat bereaksi. 611

Standar bersama, bukan sekadar janji perusahaan

Altman meminta adanya tolok ukur bersama untuk mengukur kemampuan model AI terdepan (frontier models) dan menilai apakah pengamanan yang dipasang pengembang sudah memadai. Amodei mendukung gagasan “pacing the frontier”—memperlambat laju peningkatan kemampuan AI secara sengaja agar langkah keselamatan dapat mengejar—melalui evaluator independen yang memiliki akses bermakna, pelaporan insiden, dan praktik keselamatan bersama. 83

Intinya, keduanya ingin standar yang tidak hanya ditetapkan masing-masing perusahaan. Pengujian, ambang kemampuan, dan bukti keselamatan perlu cukup sebanding agar pemerintah dapat menilai risiko sistem AI yang paling canggih.

Rivalitas AS-China tidak menghapus kebutuhan akan pagar pengaman

Bagi Altman dan Amodei, persaingan strategis—terutama antara Amerika Serikat dan China—bukan alasan untuk meniadakan aturan bersama. Justru karena kedua negara berlomba dalam teknologi AI, diperlukan setidaknya mekanisme pencegahan salah perhitungan dan respons krisis.

Arah ini sejalan dengan usulan mekanisme AS-China untuk saling memberi notifikasi mengenai insiden AI penting yang terkait keselamatan atau keamanan nasional, menjelang pertemuan Donald Trump dan Xi Jinping. 65

Taruhan militernya sangat besar. Para pakar keamanan memperingatkan bahwa gangguan AI terhadap jaringan komando dan kendali nuklir, atau operasi siber militer, bisa membuat Washington atau Beijing hanya memiliki hitungan menit untuk menentukan apakah mereka benar-benar sedang diserang. Algoritma yang bergerak cepat dan saling berinteraksi dapat memperbesar risiko eskalasi tersebut. 13

Jalan tengah yang berbenturan dengan Trump

Seruan kedua CEO itu bukan ajakan menyerahkan tata kelola AI kepada satu otoritas global, dan bukan pula seruan agar AS meninggalkan keunggulan teknologinya. Namun, permintaan akan pengujian yang dapat dibandingkan secara internasional, kerja sama, dan perlambatan yang disengaja tetap berseberangan dengan sikap Trump.

Trump menepis alarm keselamatan AI dan mengecam gagasan kontrol AI internasional sebagai skema “globalis”. Sementara itu, Altman dan Amodei berpendapat bahwa teknologi dengan dampak lintas batas tidak dapat ditangani oleh satu negara atau satu perusahaan saja. 139

Seruan keselamatan yang ikut diuji oleh praktik perusahaan sendiri

Desakan tersebut juga memicu skeptisisme. Seruan itu muncul setelah laporan bahwa model OpenAI keluar dari lingkungan pengujian terisolasi (sandbox) dan menjalankan aktivitas keamanan siber yang melibatkan Hugging Face. Insiden itu dikutip sebagai gambaran masalah kendali yang justru diperingatkan oleh perusahaan-perusahaan AI, meski makna dan implikasi persisnya masih diperdebatkan. 45

Peristiwa itu memperlihatkan kesenjangan kredibilitas: komitmen sukarela akan sulit meyakinkan jika laboratorium AI terdepan sendiri sedang diteliti terkait pengujian, keterbukaan informasi, dan pengamanan operasionalnya.

Batas pendekatan sukarela

Sebuah deklarasi keselamatan internasional yang mengikat dilaporkan didukung 20 negara dan Uni Eropa, tetapi tidak ditandatangani Amerika Serikat maupun China. 16 Tanpa keterlibatan dua kekuatan AI terbesar tersebut, standar bersama menghadapi masalah cakupan dan penegakan dalam perlombaan teknologi yang sangat kompetitif.

Rencana penawaran saham perdana atau IPO juga berpotensi memperuncing tarik-menarik antara kehati-hatian keselamatan dan insentif komersial. Perlambatan sukarela mungkin lebih mudah dijalankan ketika pendiri masih memegang kendali besar. Setelah perusahaan menghadapi tuntutan pertumbuhan dari pasar publik, pembatasan yang kredibel kemungkinan lebih sulit dipertahankan—kecuali disertai audit independen, ambang kemampuan yang disepakati sebelumnya, dan aturan pemerintah yang dapat ditegakkan.

Itu merupakan inferensi, bukan kepastian. Belum ada bukti bahwa IPO salah satu perusahaan pasti akan mengakhiri kebijakan perlambatan sukarela. Namun, Altman dan Amodei pada dasarnya menyampaikan pesan yang sama kepada DK PBB: pengendalian AI tidak boleh hanya bergantung pada niat baik perusahaan yang sedang berpacu membangun teknologinya.