Para bos AI sepakat mengerem pengembangan model terdepan

Kesepakatan terbuka antara para pemimpin perusahaan AI yang saling bersaing ini tergolong tidak lazim. CEO Anthropic Dario Amodei menyerukan agar peningkatan kemampuan model AI terdepan—model paling canggih yang menjadi ujung kompetisi industri—diperlambat secara sengaja. CEO OpenAI Sam Altman dan pendiri xAI Elon Musk mendukung gagasan besarnya. Namun, tidak ada kesepakatan internasional yang mengikat, tidak ada bukti bahwa agen AI nakal telah mengambil alih internet, dan belum ada konfirmasi bahwa OpenAI secara resmi menunda rencana penawaran saham perdana atau IPO. 16

Peringatan Amodei: risiko dalam hitungan bulan

Amodei mengatakan bahwa tanpa perlambatan, dalam enam hingga 12 bulan AI berpotensi mampu mengarahkan kawanan agen—program AI yang bertindak relatif mandiri—yang bisa mengambil alih sebagian besar internet. Ia mengaitkan skenario itu dengan risiko serangan siber berskala besar dan kerugian yang sangat besar. 1

Poin pentingnya: itu adalah penilaian risiko ke depan, bukan klaim bahwa skenario tersebut sudah benar-benar terjadi. 1

Menurut Amodei, perlambatan bukan berarti menghentikan riset AI sepenuhnya. Waktu tambahan itu, menurutnya, perlu dipakai untuk mengejar ketertinggalan sistem pengamanan, termasuk penyelarasan (alignment) agar perilaku model tetap sesuai tujuan dan batasan manusia. 16

Usulan pengamanan yang diajukan

Rencana Amodei menekankan pengawasan dan koordinasi yang lebih kuat, antara lain:

• akses permanen bagi evaluator independen dari luar perusahaan, dengan tingkat akses setara karyawan, untuk memeriksa kepatuhan terhadap langkah keselamatan dan menilai perilaku model selama pelatihan; 8
• praktik keselamatan yang lebih konsisten di seluruh industri; serta
• koordinasi internasional mengenai risiko model yang makin kuat. 16

Altman mendukung gagasan untuk "mengatur laju" kemajuan model terdepan dan menyatakan OpenAI akan mengadopsi konsep evaluator independen dengan akses setara karyawan. 13

Laporan mengenai IPO OpenAI perlu dibaca hati-hati. Altman disebut mengemukakan kemungkinan atau gagasan untuk menunda IPO demi memprioritaskan keselamatan, bukan mengumumkan penundaan resmi yang sudah diputuskan. 7

Musk, meski memimpin xAI yang bersaing di pasar AI, juga mendukung seruan Amodei. 6

Latar belakang: laporan penyalahgunaan Claude

Seruan tersebut muncul setelah Anthropic merilis laporan intelijen ancaman mengenai upaya penyalahgunaan model Claude yang berhasil mereka ganggu. Anthropic menyatakan mendeteksi penggunaan yang berpotensi mendukung riset senjata biologis, serta aktivitas siber yang diduga terkait operasi spionase. 17

Perusahaan itu juga menuduh kompetitor China berusaha meretas atau mengekstrak kemampuan Claude. Tuduhan-tuduhan tersebut merupakan pernyataan Anthropic dan bukan temuan yang telah diputuskan secara independen. 17

Trump menolak perlambatan besar

Presiden Donald Trump menepis gagasan untuk secara substansial memperlambat upaya Amerika Serikat. Ia memandang AI terutama sebagai arena persaingan strategis dengan China, mengatakan Amerika Serikat memimpin China dalam AI, dan menyatakan, “whoever wins AI, wins” atau siapa yang memenangkan AI, menang. 10

Sikap ini mencerminkan pandangan bahwa jeda sepihak atau regulasi yang terlalu berat dapat melemahkan posisi kompetitif AS dalam perlombaan teknologi tersebut. 10

Perdebatan yang masih terbelah

Reaksi yang muncul memperlihatkan perbedaan tajam.

• Kelompok yang mengutamakan keselamatan, termasuk Senator Bernie Sanders, menilai perlambatan sukarela oleh perusahaan belum cukup. Ia mendesak Trump dan Presiden China Xi Jinping untuk merundingkan perjanjian yang menjeda pengembangan AI tingkat lanjut dan melarang kecerdasan superartifisial. 5
• Kelompok yang berorientasi akselerasi dan keamanan nasional menekankan risiko tertinggal dari China. Mereka cenderung skeptis terhadap jeda AS secara sepihak atau pembatasan yang berat; respons Trump sejalan dengan pendekatan ini. 10
• Perdebatan di Kongres AS dan kalangan investor pada akhirnya berpusat pada pertanyaan apakah komitmen sukarela perusahaan memadai, apakah perlu aturan AI terdepan yang dapat ditegakkan, serta apakah perlambatan mendadak bisa memicu risiko kompetitif dan pasar.

Sumber yang tersedia tidak cukup untuk menguatkan posisi spesifik yang dikaitkan dengan Mike Johnson, Hakeem Jeffries, David Sacks, Alex Karp, Josh Gottheimer, atau investor tertentu. Sumber-sumber tersebut juga belum memverifikasi rincian pengunduran diri mantan peneliti Jacob Coxon. Selain usulan Sanders, belum ada bukti memadai mengenai agenda bersama Trump–Xi yang telah disepakati terkait jeda AI.