Estimasi 10% Evan Hubinger Menguak Perdebatan tentang Penyelarasan AI

Pernyataan publik Evan Hubinger tidak membuktikan bahwa AI akan menyebabkan kepunahan manusia. Namun, pernyataan itu mengungkap sesuatu yang lebih spesifik—dan penting: pemimpin alignment science atau riset penyelarasan di Anthropic tersebut secara pribadi menilai kemungkinan itu lebih dari 10% dalam satu dekade. Ia juga mengatakan Anthropic belum memiliki rencana untuk menyelesaikan penyelarasan superinteligensi, maupun jalur yang jelas menuju solusi tersebut. 12

Kombinasi inilah yang memberi bobot baru pada alasan pengunduran diri Jacob Coxon, mantan peneliti Anthropic dan OpenAI. Kekhawatirannya: laboratorium AI terdepan terus mendorong kemampuan sistem ke tingkat yang jauh lebih tinggi, sementara metode untuk menjaga sistem tersebut tetap selaras dengan maksud manusia belum terbukti berhasil. 23

Ini prediksi pribadi, bukan posisi resmi Anthropic

Angka “lebih dari 10%” adalah penilaian Hubinger sendiri. Angka itu tidak disampaikan sebagai estimasi probabilitas resmi Anthropic, kesepakatan seluruh staf, atau ramalan ilmiah yang telah mapan. 12

Pembedaan ini penting. Sebuah estimasi probabilitas, sendirian, tidak menjelaskan mekanisme terjadinya bencana, tidak menetapkan kapan hal itu akan terjadi, dan tidak membuktikan bahwa bencana tersebut kemungkinan besar akan terjadi. Hubinger juga dilaporkan menyatakan risiko dari model yang tersedia saat ini rendah. Kekhawatirannya tertuju pada sistem masa depan yang jauh lebih kapabel, termasuk kemungkinan recursive self-improvement: AI memakai kemampuannya sendiri untuk membantu menciptakan AI yang lebih canggih. 210

Namun, pernyataan itu tetap menonjol karena datang dari orang yang memimpin pekerjaan penyelarasan di sebuah perusahaan AI terdepan. Pokok persoalannya bukan sekadar angka yang mengejutkan, melainkan kesenjangan antara kemajuan kemampuan AI dan keyakinan bahwa sistem supercerdas dapat tetap berada di bawah kendali manusia. 12

Mengapa ini menguatkan peringatan Jacob Coxon

Coxon mengundurkan diri setelah menyatakan bahwa Anthropic maupun OpenAI tidak bertindak secara bertanggung jawab dan keduanya berlomba menuju superinteligensi yang mampu meningkatkan diri. Hubinger secara terbuka menyetujui poin Coxon bahwa orang-orang yang membangun sistem ini sungguh-sungguh memandang kemungkinan hasil setingkat kepunahan sebagai sesuatu yang nyata. 23

Ini tidak berarti semua karyawan memiliki pandangan yang sama, dan tidak menjadikan uraian Coxon sebagai penilaian independen yang telah terverifikasi atas kedua perusahaan. Tetapi, dukungan dari pemimpin penyelarasan yang masih aktif membuat pengunduran diri Coxon lebih sulit dianggap sebagai keluhan tunggal dari mantan pegawai. Kekhawatiran serius di dalam perusahaan, ternyata, dapat berjalan beriringan dengan pengembangan AI terdepan yang terus berlanjut. 12

Komentar Samuel Marks juga perlu dibaca dengan kehati-hatian yang sama. Ia dilaporkan mengatakan pengembang AI memandang teknologi mereka dapat menyebabkan kepunahan manusia atau dampak yang sama parahnya. Akan tetapi, itu adalah pandangan orang dalam, bukan bukti mengenai estimasi risiko yang berlaku untuk seluruh perusahaan. 5

Inti perdebatan: tata kelola saat ketidakpastian tinggi

Peristiwa ini kerap disederhanakan menjadi “AI kiamat” melawan “AI optimistis”. Pertanyaan yang lebih berguna justru praktis: pengaman apa yang harus diwajibkan ketika potensi dampaknya berskala global dan tak dapat dipulihkan, sementara peluang serta waktunya masih sangat tidak pasti?

Pernyataan Hubinger mempertajam beberapa isu berikut:

• Penyelarasan belum terpecahkan. Upaya serius sebuah perusahaan tidak sama dengan memiliki metode yang telah tervalidasi untuk mengendalikan sistem yang jauh melampaui kemampuan model saat ini. 1
• Kompetisi dapat menyulitkan penahanan diri secara sukarela. Kritik Coxon adalah tekanan persaingan mendorong lab menuju kemampuan yang lebih tinggi, meskipun pertanyaan keselamatan besar belum terjawab. 23
• Keselamatan model saat ini bukan satu-satunya masalah. Hubinger membedakan rendahnya risiko model saat ini dengan kekhawatiran terhadap sistem masa depan yang jauh lebih kapabel. 210
• Verifikasi dari pihak luar penting. Publik, pelanggan, dan pemerintah sulit menilai klaim mengenai proses keselamatan internal tanpa evaluasi independen serta pelaporan yang transparan.

Poin-poin tersebut adalah persoalan tata kelola, bukan bukti bahwa bencana sudah di depan mata. Namun, persoalan seperti inilah yang jauh lebih sulit diselesaikan setelah suatu sistem memperoleh kemampuan berbahaya.

Transparansi ikut menjadi sorotan

Sejumlah laporan menyebut Anthropic tidak menyerahkan model terbarunya kepada UK AI Safety Institute untuk diuji sebelum dirilis. Klaim itu harus diperlakukan secara hati-hati: laporan yang tersedia menggambarkannya sebagai pemberitaan, bukan temuan publik yang telah dikonfirmasi oleh Anthropic atau pemerintah Inggris. 10

Meski demikian, tudingan tersebut menggambarkan alasan komitmen keselamatan sukarela sering dipandang skeptis. Jika pemimpin keselamatan perusahaan sendiri mengakui masalah penyelarasan belum terselesaikan, pengamat luar wajar bertanya: pengujian apa yang dilakukan, siapa yang meninjaunya, hasil apa yang dibagikan, dan pada ambang kemampuan seperti apa pengendalian yang lebih ketat diberlakukan?

Arti pendekatan yang lebih lambat dan lebih aman

Seruan untuk “memperlambat” tidak harus berarti menghentikan seluruh riset atau penerapan AI secara permanen. Argumen kebijakannya adalah membangun pemeriksaan yang dapat ditegakkan sebelum sistem melewati ambang kemampuan yang berkonsekuensi besar.

Langkah yang kerap dibahas mencakup:

• evaluasi kemampuan dan keselamatan independen sebelum peluncuran;
• kewajiban melaporkan insiden serius serta kemampuan yang secara material berbahaya;
• ambang yang lebih jelas kapan pengembang harus menerapkan keamanan dan tata kelola yang lebih ketat;
• audit yang tidak hanya bergantung pada jaminan internal pengembang; serta
• koordinasi internasional agar satu perusahaan atau negara tidak terdorong mengabaikan keselamatan demi mengejar pesaing.

Logikanya sederhana: jika risikonya belum pasti tetapi dampak buruknya berpotensi ekstrem, pengaman harus dapat dibuktikan sebelum—bukan setelah—kendali hilang.

Hal yang benar-benar diungkap pernyataan Hubinger

Unggahan Hubinger memperlihatkan ketegangan di pusat industri AI terdepan: pengembang dapat mengakui secara terbuka adanya risiko jangka panjang yang sangat serius, sambil tetap membangun menuju kemampuan yang membuat risiko itu semakin mendesak. 12

Pernyataan tersebut tidak menyelesaikan pertanyaan tentang peluang bencana AI, dan tidak seharusnya diperlakukan sebagai prediksi resmi Anthropic. Namun, ia membuat perdebatan penyelarasan AI menjadi lebih konkret. Pertanyaannya bukan lagi hanya apakah AI yang sangat canggih dapat menjadi berbahaya, melainkan apakah perusahaan dan pemerintah dapat menunjukkan—melalui bukti independen, aturan yang dapat ditegakkan, dan koordinasi internasional—bahwa mereka siap sebelum sistem yang dimaksud menjadi terlalu kuat untuk diatur dengan aman. 110