Geoffrey Hinton: Risiko 10% AI Menghapuskan Manusia Dalam Sedekad “Bukan Anggaran Tidak Munasabah”

Geoffrey Hinton, saintis komputer pemenang Hadiah Nobel yang sering dianggap perintis AI moden, berkata kebarangkalian 10% AI membunuh semua manusia dalam tempoh sedekad “bukan anggaran yang tidak munasabah”. Namun, beliau segera menegaskan batas besar pada kenyataan itu: “tiada siapa benar-benar tahu” cara memberikan anggaran kebarangkalian yang munasabah. 91012

Maksudnya, Hinton tidak meramalkan kepupusan manusia pasti berlaku—dan beliau juga bukan mendakwa chatbot atau model AI yang ada sekarang sudah membawa risiko sedemikian. Hujahnya ialah soal berjaga-jaga terhadap kemungkinan sistem AI masa depan menjadi jauh lebih berkeupayaan daripada manusia tetapi masih sukar dikawal.

Mengapa Hinton menyebut angka 10%

Dalam wawancara BBC Newsnight, Hinton bersetuju bahawa 10% bukan anggaran yang keterlaluan bagi peristiwa AI menyebabkan kepupusan manusia dalam masa 10 tahun. Alasannya berpunca daripada ketidakpastian: manusia belum pernah hidup bersama entiti yang mungkin menjadi lebih pintar daripada manusia. 910

Beliau pernah memberikan penilaian serius yang serupa bagi tempoh lebih panjang. Pada penghujung 2024, Hinton menyebut kebarangkalian 10% hingga 20% bahawa AI boleh membawa kepada kepupusan manusia dalam masa tiga dekad. Pada 2025, beliau menerangkan julat itu sebagai pertimbangan naluri, bukannya ramalan yang dikira secara matematik. 1415

Perbezaan ini penting: anggaran risiko bukan ramalan pasti. Bagi Hinton, ketidakpastian bukan alasan untuk berasa selesa, kerana akibat jika kawalan gagal adalah terlalu besar.

Risiko yang dibimbangkan bukan “pemberontakan robot”

Senario yang dibincangkan bukan kisah mesin memberontak seperti dalam filem. Hinton bimbang sistem AI yang jauh lebih unggul dari segi strategi dan teknikal mungkin boleh mencetuskan kekacauan atau mengejar matlamat yang bercanggah dengan kepentingan manusia.

Antara laluan bahaya yang dilaporkan ialah memanipulasi manusia, menghasilkan virus biologi atau virus komputer, melakukan serangan siber, atau membantu mengganggu infrastruktur kritikal. Ini ialah mekanisme yang dicadangkan bagi sistem masa depan yang sangat berkeupayaan—bukan kebolehan yang telah dibuktikan pada alat AI hari ini. 1011

Evan Hubinger, ketua sains penjajaran di Anthropic, sendiri menyatakan risiko daripada model semasa adalah rendah. Kebimbangannya, seperti Hinton, ialah sistem itu mungkin kelak menjadi jauh lebih berkeupayaan atau memperbaik diri lebih pantas daripada kemampuan penyelidik menguruskannya dengan selamat. 11624

Jacob Coxon dan amaran dari dalam Anthropic

Perdebatan ini menjadi lebih hangat selepas Jacob Coxon meninggalkan Anthropic serta industri AI. Coxon berkata Anthropic dan OpenAI berlumba ke arah kecerdasan super yang boleh memperbaik diri tanpa bertindak cukup bertanggungjawab, dan menyifatkan usaha itu sebagai pertaruhan terhadap nyawa manusia. 317

Coxon tidak membuat ramalan tepat bahawa manusia akan lenyap menjelang 2030. Dakwaannya lebih khusus: orang yang membina AI paling maju benar-benar percaya teknologi itu boleh membunuh semua manusia sebelum dekad ini berakhir. 57

Hubinger menyokong keseriusan kebimbangan tersebut. Beliau menulis bahawa anggaran peribadinya bagi kemungkinan AI membunuh semua manusia dalam sedekad adalah melebihi 10%, sambil menegaskan Anthropic sedang berusaha sebaik mungkin. Namun, beliau menambah bahawa syarikat itu masih belum mempunyai pelan untuk menyelesaikan penjajaran bagi AI superpintar dan belum jelas berada di landasan untuk membangunkannya. 16

Apa itu masalah “penjajaran” AI?

Penjajaran (alignment) ialah masalah memastikan sistem AI yang sangat canggih bertindak secara konsisten mengikut matlamat manusia yang dimaksudkan dan terus boleh dikawal, termasuk apabila berdepan keadaan yang tidak dijangka oleh penciptanya.

Bagi penyelidik keselamatan AI, isu ini bukan sekadar memastikan sistem enggan menjawab arahan berbahaya. Persoalan yang lebih besar ialah sama ada sistem dengan autonomi luas, akses kepada alat dan kemampuan yang melangkaui pemahaman pengendalinya boleh diarahkan dengan selamat dalam dunia sebenar.

Kenyataan Hubinger tidak membuktikan penjajaran adalah mustahil. Tetapi ia menunjukkan, pada penilaiannya, belum ada penyelesaian yang telah dibuktikan untuk menjajarkan AI superpintar sebelum sistem sebegitu mungkin muncul. 16

Ada persetujuan tentang langkah berjaga-jaga, bukan angka tepat

Tiada konsensus terhadap angka tepat 10% yang disebut Hinton.

Gary Marcus bersetuju dengan prinsip berjaga-jaga Hinton: adalah tidak bijak membangunkan kecerdasan super sebelum ada konsensus saintifik bahawa ia boleh dibina secara selamat dan terkawal. Namun, laporan juga menyatakan Marcus tidak melihat laluan yang realistik kepada kepupusan manusia dalam masa terdekat. Ini menunjukkan bahawa persetujuan tentang keperluan perlindungan tidak semestinya bererti persetujuan tentang kebarangkalian atau garis masa bencana. 1141

Jadi, angka-angka ini wajar dibaca sebagai pertimbangan pakar dalam keadaan yang sangat tidak pasti—bukan ukuran saintifik yang telah disahkan.

Persoalan dasar yang lebih praktikal

Titik persamaan paling kukuh bukanlah bahawa kepupusan akibat AI pasti berlaku. Sebaliknya, kemungkinan yang bukan remeh untuk manusia hilang kawalan terhadap sistem yang lebih berkebolehan daripada pengendalinya patut diteliti secara terbuka sebelum pembangunan mengatasi kerja keselamatan.

Amaran Hinton, peletakan jawatan Coxon dan kenyataan Hubinger menumpukan kepada satu persoalan yang masih belum terjawab: apakah bukti yang patut dituntut masyarakat sebelum sistem yang mungkin menjadi lebih unggul daripada manusia terus diskalakan atau digunakan secara meluas?

Bagi pembaca, tiga dakwaan ini perlu dipisahkan dengan jelas:

• Model AI semasa membawa ancaman tahap kepupusan.
• Sistem AI masa depan mungkin memperoleh keupayaan yang mencipta ancaman sedemikian.
• Kebarangkalian hasil itu boleh dianggarkan dengan tepat.

Sumber yang tersedia menyokong dakwaan kedua sebagai kebimbangan serius yang dibangkitkan oleh penyelidik terkemuka. Pada masa yang sama, Hubinger menyifatkan risiko model semasa sebagai rendah, manakala Hinton berkata kebarangkalian itu sendiri tidak dapat dikira secara andal. 11016