Geoffrey Hinton: Risiko AI Memusnahkan Manusia 10% dalam 10 Tahun “Bukan Angka yang Tak Masuk Akal”

Geoffrey Hinton, ilmuwan komputer peraih Nobel yang kerap disebut pelopor AI modern, mengatakan bahwa peluang 10% AI membunuh seluruh manusia dalam 10 tahun ke depan “bukan perkiraan yang tak masuk akal”. Namun, ia juga memberi penegasan penting: “tak ada yang benar-benar tahu” bagaimana menghitung probabilitas semacam itu secara masuk akal. 91012

Pernyataan itu bukan prediksi bahwa kepunahan pasti terjadi, dan bukan pula klaim bahwa chatbot atau model AI yang tersedia sekarang sudah menimbulkan risiko tersebut. Kekhawatiran Hinton berfokus pada kemungkinan munculnya sistem AI yang jauh lebih cakap daripada manusia, tetapi tetap sulit dikendalikan.

Mengapa Hinton menyebut angka 10%?

Dalam wawancara BBC Newsnight, Hinton menyetujui bahwa 10% bukan estimasi yang tidak masuk akal untuk peristiwa kepunahan manusia akibat AI dalam satu dekade. Alasannya berakar pada ketidakpastian: manusia belum pernah hidup berdampingan dengan entitas yang berpotensi menjadi lebih cerdas daripada manusia. 910

Hinton sebelumnya juga mengemukakan penilaian berisiko tinggi untuk jangka yang lebih panjang. Pada akhir 2024, ia menyebut peluang 10% hingga 20% bahwa AI dapat menyebabkan kepunahan manusia dalam tiga dekade. Pada 2025, ia menjelaskan angka itu sebagai penilaian naluriah, bukan proyeksi yang dihitung secara matematis. 1415

Perbedaannya penting: estimasi risiko bukan ramalan bahwa sesuatu pasti terjadi. Bagi Hinton, besarnya dampak terburuk justru menjadi alasan untuk berhati-hati, meski peluangnya tidak dapat dihitung dengan presisi.

Skenario yang dikhawatirkan: bukan pemberontakan robot ala film

Yang diperdebatkan bukan gambaran mesin yang tiba-tiba “memberontak” seperti di film. Kekhawatiran Hinton adalah bahwa AI yang memiliki kemampuan strategis dan teknis jauh di atas manusia dapat menciptakan kekacauan atau mengejar tujuan yang bertentangan dengan kepentingan manusia.

Jalur bahaya yang disebut dalam laporan mencakup manipulasi manusia, pembuatan virus biologis atau virus komputer, serangan siber, hingga gangguan terhadap infrastruktur vital. Ini adalah mekanisme bahaya yang diusulkan untuk sistem masa depan yang sangat cakap—bukan kemampuan yang telah terbukti dimiliki alat AI saat ini. 1011

Pembedaan itu krusial. Evan Hubinger, pemimpin sains alignment di Anthropic, secara eksplisit menyatakan bahwa risiko dari model-model saat ini menurutnya rendah. Kekhawatirannya, seperti Hinton, tertuju pada kemungkinan sistem kelak menjadi jauh lebih mampu atau meningkatkan dirinya sendiri lebih cepat daripada kemampuan peneliti untuk mengelolanya dengan aman. 11624

Jacob Coxon dan Evan Hubinger: kritik dari dalam Anthropic

Perdebatan ini menguat setelah Jacob Coxon meninggalkan Anthropic dan industri AI. Coxon menilai Anthropic serta OpenAI sedang berlomba menuju superinteligensi yang mampu memperbaiki diri, tanpa bertindak cukup bertanggung jawab. Ia menyebut perlombaan tersebut sebagai pertaruhan atas nyawa manusia. 317

Coxon tidak membuat prediksi spesifik bahwa manusia pasti berakhir pada 2030. Klaimnya lebih sempit, walau tetap sangat serius: orang-orang yang membangun AI terdepan sungguh percaya teknologi itu dapat membunuh semua manusia sebelum dekade ini berakhir. 57

Hubinger menyatakan dukungan terbuka terhadap keseriusan kekhawatiran tersebut. Ia menulis bahwa secara pribadi ia menilai peluang AI membunuh seluruh manusia dalam satu dekade lebih dari 10%, sambil mengatakan Anthropic berusaha sebaik mungkin. Namun, ia menambahkan bahwa perusahaan itu belum memiliki rencana untuk menyelesaikan masalah alignment bagi superinteligensi, dan belum jelas berada di jalur untuk menemukan rencana tersebut. 16

Apa itu masalah alignment AI?

Alignment adalah persoalan memastikan sistem AI canggih bertindak secara andal sesuai tujuan manusia dan tetap dapat dikendalikan, termasuk dalam situasi yang tidak diperkirakan oleh pembuatnya.

Bagi peneliti keselamatan AI, persoalannya bukan semata membuat sistem menolak perintah buruk. Tantangan yang lebih besar adalah memastikan sistem dengan otonomi luas, akses ke berbagai alat, dan kemampuan yang melampaui pemahaman operatornya tetap dapat diarahkan secara aman di dunia nyata.

Komentar Hubinger tidak membuktikan bahwa alignment mustahil diselesaikan. Namun, komentarnya menunjukkan bahwa menurut penilaiannya, belum ada solusi yang terbukti untuk menyelaraskan sistem supercerdas sebelum sistem semacam itu mungkin hadir. 16

Ada titik temu, tetapi tidak ada konsensus soal angka 10%

Tidak ada konsensus para ahli mengenai angka 10% yang diajukan Hinton.

Gary Marcus mendukung pokok kehati-hatian Hinton: akan sangat ceroboh mengembangkan superinteligensi ketika belum ada konsensus ilmiah bahwa teknologi itu dapat dibuat aman dan terkendali. Namun, laporan juga mencatat Marcus tidak melihat jalur realistis menuju kepunahan manusia dalam waktu dekat. Ini memperlihatkan perbedaan mendasar: sepakat soal perlunya pengamanan tidak berarti sepakat tentang probabilitas maupun jadwal terjadinya bencana. 1141

Karena itu, angka-angka probabilitas dalam perdebatan ini sebaiknya dibaca sebagai penilaian para ahli di tengah ketidakpastian, bukan sebagai ukuran ilmiah yang sudah pasti.

Pertanyaan kebijakan yang lebih mendesak

Titik temu terkuat dalam perdebatan ini bukanlah bahwa kepunahan akibat AI pasti terjadi. Titik temunya adalah bahwa kemungkinan yang tidak sepele untuk kehilangan kendali atas sistem yang lebih cakap daripada operatornya layak mendapat pengawasan publik sebelum laju pengembangan melampaui kerja keselamatan.

Estimasi Hinton, pengunduran diri Coxon, dan peringatan Hubinger mengarah pada pertanyaan yang sama: bukti apa yang seharusnya diminta masyarakat sebelum sistem yang berpotensi menjadi supercerdas secara strategis digunakan atau terus diperbesar?

Bagi pembaca, penting untuk memisahkan tiga klaim yang sering tercampur:

• Model AI saat ini merupakan ancaman kepunahan.
• Sistem AI masa depan mungkin memperoleh kemampuan yang menciptakan ancaman tersebut.
• Peluang hasil itu dapat dihitung secara presisi.

Sumber-sumber yang ada mendukung klaim kedua sebagai kekhawatiran serius dari sejumlah peneliti terkemuka. Di sisi lain, Hubinger menilai risiko model saat ini rendah, sementara Hinton mengatakan probabilitasnya sendiri tidak dapat dihitung secara andal. 11016