Hinton kata risiko kepupusan akibat AI tidak boleh diketepikan — tetapi tiada siapa tahu anggaran sebenar

Geoffrey Hinton, perintis kecerdasan buatan (AI) dan penerima Hadiah Nobel Fizik 2024, berkata kemungkinan 10% AI boleh menyebabkan kepupusan manusia dalam tempoh sedekad “bukan anggaran yang tidak munasabah”. Namun, beliau segera meletakkan satu batas penting: “tiada siapa benar-benar tahu bagaimana untuk memberikan anggaran yang masuk akal.” 14

Maksudnya, Hinton tidak membentangkan ramalan saintifik yang telah ditentukur dengan data sejarah. Beliau berhujah bahawa, memandangkan skala mudarat yang mungkin berlaku dan ketidakpastian tentang keupayaan sistem AI pada masa depan, risiko itu tidak wajar ditolak mentah-mentah.

Mengapa Hinton bimbang tentang AI

Hinton membezakan dua jenis risiko yang saling berkait: manusia menggunakan AI untuk tujuan jahat, dan sistem AI yang sangat berkeupayaan sehingga mungkin sukar dikawal.

Dalam syarahan Nobelnya, beliau menyebut risiko semasa seperti sistem cadangan yang mewujudkan ruang gema dan perpecahan, pengawasan besar-besaran oleh kerajaan autoritarian, serta serangan pancingan data (phishing) yang dibantu AI. Beliau turut memberi amaran bahawa AI mungkin digunakan untuk menghasilkan virus berbahaya dan senjata maut yang menentukan sendiri siapa untuk dibunuh atau dicederakan. Hinton berkata isu-isu ini memerlukan perhatian segera dan tegas daripada kerajaan serta organisasi antarabangsa.

Penyokong keselamatan AI membayangkan senario lebih buruk apabila sistem maju boleh membantu mengenal pasti kelemahan perisian, membina senjata biologi, atau mendapatkan akses kepada sumber dan infrastruktur kritikal. Dalam keadaan paling ekstrem, sistem yang mempunyai keupayaan strategi, teknikal dan operasi yang tinggi mungkin menentang usaha manusia untuk mengehadkannya. 5

Isu “alignment”: adakah AI akan kekal mengikut tujuan manusia?

Di tengah perdebatan ini ialah masalah penjajaran (alignment): sama ada sistem yang jauh lebih berkebolehan daripada manusia boleh dipercayai untuk mengejar matlamat yang benar-benar dikehendaki manusia, menerima pembetulan, dan kekal dalam batas kawalan yang bermakna.

Jacob Coxon, bekas penyelidik Anthropic dan OpenAI, meletak jawatan daripada Anthropic sambil mendakwa makmal AI terkemuka sedang “berlumba terus ke arah superkecerdasan yang memperbaik dirinya sendiri” dan “mempertaruhkan nyawa kita”. 18 Kebimbangannya ialah sistem mungkin boleh meningkatkan keupayaan sendiri lebih pantas daripada kemajuan kaedah keselamatan.

Evan Hubinger, ketua sains penjajaran Anthropic, menyokong amaran teras itu secara terbuka. Beliau berkata anggaran peribadinya melebihi 10% bahawa AI boleh membunuh semua manusia dalam tempoh sedekad. Hubinger juga berkata Anthropic belum mempunyai pelan untuk menyelesaikan penjajaran bagi superkecerdasan, dan tidak jelas bahawa syarikat itu sedang menuju ke arah penyelesaian tersebut. 16

Hujah mereka bukan bahawa model AI yang ada hari ini hampir bertindak sendiri untuk menghapuskan manusia. Hubinger menyatakan risiko daripada model sedia ada adalah rendah. Kebimbangan tertumpu pada perubahan keupayaan pada masa depan: model menjadi cukup berupaya untuk memperbaik diri atau bertindak berkesan dalam dunia sebenar sebelum pembangunnya mengetahui cara mengawalnya dengan boleh dipercayai. 116

Mengapa ada pakar menolak ramalan kepupusan jangka dekat

Tidak semua penyelidik menerima lompatannya daripada mudarat besar kepada kepupusan manusia. Gary Marcus mengakui AI boleh memburukkan serangan siber, ancaman biologi, maklumat palsu dan peningkatan konflik. Namun, beliau berkata beliau tidak melihat laluan jangka dekat yang realistik untuk AI benar-benar “membunuh semua manusia”. 15

Bagi Marcus, risiko yang nyata dan lebih konkrit tetap perlu diberi perhatian tanpa menganggap model bahasa besar hari ini sedang menuju secara langsung kepada superkecerdasan yang tidak terkawal.

Yann LeCun juga mempersoalkan anggaran yakin tentang p(doom) — istilah tidak rasmi bagi kebarangkalian AI membawa kepada malapetaka atau kepupusan. Pelaporan mengenai perbahasan itu menggambarkan pandangannya bahawa risiko kepupusan akibat AI jauh lebih rendah berbanding risiko holokus nuklear, sambil menekankan bahawa anggaran sebegini sememangnya bersifat spekulatif.

Jadi, perpecahan sebenar bukan semata-mata antara pihak yang “bimbang” dan yang “tidak bimbang”. Ia tertumpu pada dua persoalan yang masih belum terjawab:

1. Garis masa keupayaan: Seberapa cepat, jika berlaku, sistem AI akan menjadi sangat unggul merentas pelbagai bidang dan mampu meningkatkan prestasinya sendiri?
2. Kawalan: Jika tahap itu dicapai, bolehkah pembangun memastikan sistem kekal boleh dikawal — atau adakah perlindungan keselamatan akan gagal apabila berdepan model yang lebih berkeupayaan dan tekanan persaingan untuk melancarkannya?

Apa yang angka 10% boleh dan tidak boleh jelaskan

Tiada kaedah saintifik yang disahkan untuk mengira kebarangkalian tepat bahawa AI akan menyebabkan kepupusan manusia. Angka seperti 10% oleh Hinton atau Hubinger ialah pertimbangan pakar dalam keadaan ketidakpastian yang mendalam, bukan kebarangkalian yang diperoleh daripada data berulang atau rekod sejarah. 14

Oleh itu, angka itu tidak bermakna kepupusan adalah sesuatu yang berkemungkinan besar berlaku. Pada masa sama, ketiadaan angka yang boleh dipercayai juga bukan bukti risikonya boleh diabaikan.

Kesimpulan yang lebih berhati-hati ialah pakar berbeza secara ketara tentang kebarangkalian dan mekanisme risikonya. Namun, ramai bersetuju bahawa AI berkuasa boleh mewujudkan cabaran keselamatan dan tadbir urus yang serius jauh sebelum sebarang senario kepupusan yang bersifat hipotesis.

Tuntutan dasar: nilai keupayaan sebelum pelancaran

Hinton telah menyeru perhatian segera daripada kerajaan dan organisasi antarabangsa terhadap risiko AI. Coxon pula berhujah bahawa peraturan merupakan unsur penting untuk mengurangkan bahaya.

Antara langkah yang menjadi tumpuan perbincangan dasar ialah penilaian ketat terhadap model AI termaju, keselamatan siber yang lebih kukuh, perlindungan biosekuriti, pelaporan serta pengawasan insiden serius, dan semakan bebas sebelum sistem diberi autonomi lebih besar atau akses kepada alat sensitif.

Perdebatan tentang angka 10% itu mungkin tidak akan berakhir dalam masa terdekat. Inti amaran Hinton bukan bahawa manusia boleh mengira odds dengan pasti, tetapi taruhannya terlalu besar — dan ketidakpastiannya terlalu luas — untuk menjadikan kepastian mutlak sebagai syarat sebelum mengambil langkah berjaga-jaga. 14