Peringatan Risiko AI Dario Amodei Dipertanyakan, lalu Para CEO Meneken Pakta Sukarela Trump

Pertemuan di Gedung Putih pada 29 September mempertemukan perbedaan pandangan soal risiko AI dengan kesepakatan publik untuk memperkuat pengamanan. Sejumlah eksekutif teknologi dilaporkan mempertanyakan peringatan CEO Anthropic Dario Amodei. Seusai pertemuan, Amodei mengatakan AI membawa “risiko yang sangat nyata”, tetapi cara mengatasinya masih dibahas. Para eksekutif dan Presiden Donald Trump juga memperkenalkan pakta keselamatan sukarela. Kesepakatan itu belum menyelesaikan perbedaan mereka mengenai peran pemerintah dalam mengatur AI. 2

Apa yang terjadi dalam pertemuan?

Pemberitaan yang dirangkum dalam sumber yang tersedia menyebut para eksekutif mempertanyakan Amodei dalam sesi tertutup yang lebih kecil. Namun, bahan sumber tidak cukup untuk menjelaskan percakapan itu secara rinci atau memastikan siapa mengatakan apa. Sumber tersebut juga tidak memastikan bahwa dampak AI terhadap pekerjaan menjadi bagian dari adu argumen itu.

Perbedaan sikap yang lebih luas terlihat pada soal pengawasan. Amodei pernah menyerukan aturan yang mewajibkan audit independen terhadap sistem AI canggih. Sebaliknya, Trump mendorong perusahaan mengawasi diri sendiri, alih-alih menghadapi pembatasan federal baru. 4 Seusai pertemuan, Amodei kembali mengatakan risikonya nyata, sementara langkah untuk menanganinya masih dibicarakan. 2

Isi pakta sukarela

White House Accord on Superintelligence—atau Pakta Gedung Putih tentang Superintelligence—memuat komitmen perusahaan terkait kontrol internal dan peninjauan keselamatan. Perusahaan juga berkomitmen bekerja sama dengan auditor independen untuk menilai apakah sistem AI berperilaku sesuai tujuan pengembangnya, serta menerapkan perlindungan dari peretasan atau akses tanpa izin. 315

Trump menyebut pakta itu “mengikat secara moral” dan mengatakan perusahaan akan mengawasi diri mereka sendiri. Namun, laporan menyebut komitmen tersebut bersifat sukarela dan tidak dapat ditegakkan secara hukum. Jadi, ini merupakan kesepakatan industri, bukan aturan federal baru. 411

Perbedaan itu penting: pakta tersebut menyebut langkah-langkah pengawasan, tetapi belum menetapkan apakah aturan dari luar industri akan mewajibkannya, bagaimana penerapannya ditegakkan, atau apakah komitmen itu kelak menjadi hukum. Pemberitaan menyebut kemungkinan memasukkan sejumlah langkah ke dalam aturan hukum pada masa mendatang masih terbuka.

Sejumlah pertanyaan pengawasan masih terbuka

Trump mengemukakan gagasan membentuk komite beranggotakan 10 orang untuk mengawasi industri. Berdasarkan laporan yang tersedia, itu masih berupa usulan yang dipertimbangkan, bukan badan yang telah dibentuk. 210

Sumber yang tersedia juga tidak membuktikan bahwa rencana terpisah untuk membentuk regulator mandiri industri telah dibatalkan, ataupun menjelaskan kaitannya dengan pakta tersebut. Pemberitaan mengaitkan keikutsertaan Anthropic dengan pertemuan dan perdebatan regulasi yang lebih luas, tetapi tidak membuktikan bahwa perusahaan ikut serta untuk memulihkan hubungan dengan pemerintahan menjelang IPO—atau bahwa IPO sudah dekat. 45

Kesepakatan publik, perdebatan belum usai

Pertemuan itu menghasilkan kesepakatan umum mengenai langkah pengamanan, tetapi belum menyatukan pandangan tentang peran pemerintah. Amodei menginginkan audit independen yang diwajibkan melalui regulasi, sementara Trump lebih memilih pengawasan sukarela oleh perusahaan. Pertanyaan besarnya tetap sama: siapa yang seharusnya menetapkan dan menegakkan standar keselamatan AI? 4

Karena itu, pakta tersebut lebih tepat dipahami sebagai kerangka sukarela bagi perusahaan—bukan bukti bahwa para eksekutif sepakat mengenai besarnya risiko AI atau bahwa pengawasan mandiri sudah memadai.