Zuckerberg: Jika AI Belum Aman, Tiap Perusahaan Bisa Menunda Sendiri

Perdebatan soal laju pengembangan kecerdasan buatan (AI) bukan sekadar pilihan antara terus maju atau berhenti. Bagi CEO Meta Mark Zuckerberg, pertanyaan utamanya adalah siapa yang memutuskan kapan harus melambat. Dalam wawancara dengan Joanna Stern dari NBC News, ia mengatakan perusahaan AI terkemuka bisa memperlambat atau menghentikan sementara pengembangan produknya sendiri jika menilai teknologi itu belum aman. Yang ia tolak adalah perlunya kesepakatan seluruh industri untuk melambat bersama. 10

Mengapa Zuckerberg ingin tiap perusahaan menentukan langkahnya sendiri?

Menurut Zuckerberg, setiap perusahaan yang mengembangkan AI bertanggung jawab mengatur kecepatan kerja agar modelnya dapat dilatih dengan aman. Ia juga melihat alasan bisnis untuk berhati-hati: orang tidak akan tertarik memakai agen AI yang tidak mengikuti maksud mereka, sementara perusahaan berpotensi menghadapi tuntutan hukum bila sistemnya menyebabkan kerugian. Dalam pandangannya, persaingan membuat kepercayaan dan kemampuan AI mengikuti kehendak pengguna menjadi keunggulan produk. 172934

Argumen itu bukan berarti semua produk harus dirilis sesuai jadwal. Namun, ia mengandalkan perusahaan untuk mengenali masalah dan bertindak sebelum pengguna dirugikan. Adanya insentif bisnis saja tidak menjamin hal itu selalu terjadi.

Muse: contoh penundaan yang dimaksud Meta

Zuckerberg menunjuk keputusan Meta menunda agen AI Muse selama beberapa bulan sambil memperkuat keselamatan dan keamanannya. Menurutnya, Meta dapat menahan produknya sendiri tanpa terlebih dahulu meminta perusahaan pesaing melakukan hal yang sama. 1727

Meta juga menjelaskan bahwa agen terpisah bernama Sentinel mengawasi tindakan dan data yang dikirim Muse ke luar sistem, serta dirancang untuk meminta izin pengguna bila diperlukan. Itu menunjukkan jenis pengaman yang dikatakan Meta telah dibangun, bukan bukti bahwa seluruh risiko telah hilang. 30

Mengapa pemimpin AI lain menyerukan koordinasi?

CEO Anthropic Dario Amodei menyerukan perlambatan pengembangan AI terdepan; CEO OpenAI Sam Altman dan Elon Musk mendukung seruan tersebut. Pada 23 September 2026, Amodei dan Altman berbicara di Dewan Keamanan Perserikatan Bangsa-Bangsa (PBB) dan meminta koordinasi internasional untuk menangani risiko AI. 146

Jadi, perbedaannya terletak pada cara menetapkan laju pengembangan: Zuckerberg menekankan keputusan keselamatan oleh masing-masing perusahaan, didorong oleh kebutuhan pengguna dan potensi tanggung jawab hukum. Amodei dan Altman menilai kerja sama lintas perusahaan dan negara diperlukan untuk mengelola risiko, alih-alih hanya mengandalkan keputusan para pesaing secara terpisah. 10174

Kekhawatiran dari kalangan peneliti turut mempertajam perdebatan. Setelah mengundurkan diri dari Anthropic, Jacob Coxon memperingatkan risiko AI yang berpotensi membawa bencana. Namun, ia juga mengusulkan agar perusahaan AI terdepan diizinkan mengatur diri sendiri sementara Kongres Amerika Serikat menyusun kerangka jangka panjang untuk memperlambat pengembangan. Sikapnya menunjukkan bahwa kekhawatiran serius tentang AI tidak selalu berarti tuntutan untuk menghentikan semua perusahaan secara serentak sekarang juga. 4237