Andrew Ng mahu keselamatan AI tertumpu pada risiko sebenar, bukan senario kiamat

Andrew Ng tidak mengatakan AI tiada risiko. Sebaliknya, beliau berpandangan bahawa dakwaan AI akan menghapuskan manusia dalam masa terdekat terlalu spekulatif untuk dijadikan asas utama dasar teknologi.

Dalam wawancara Bloomberg TV pada 17 September, pengasas bersama Google Brain itu menyifatkan amaran tersebut sebagai “jauh lebih kepada fiksyen sains daripada sains”. Beliau berkata sistem AI tidak akan dapat diramal dengan sempurna, tetapi ujian, perlindungan dan kerja kejuruteraan boleh menjadikannya lebih selamat dari semasa ke semasa. 2

Keselamatan AI sebagai kerja kejuruteraan

Bagi Ng, ketidakpastian AI bukan alasan untuk menghentikan pembangunan secara meluas. Pendekatan yang beliau mahu diutamakan ialah mengenal pasti kegagalan yang boleh diperhatikan, mengujinya dengan ketat, memasang pagar keselamatan, kemudian memperbaikinya apabila masalah baharu dikesan.

Beliau juga memberi amaran bahawa memperlahankan pembangunan AI secara menyeluruh boleh memperlahankan kemajuan dalam keselamatan itu sendiri. 2

Antara keutamaan praktikal yang dikaitkan dengan pendekatan beliau ialah risiko keselamatan siber, bukannya tumpuan utama pada senario kepupusan manusia yang masih bersifat hipotesis. 5

• Ujian rapi sebelum dan ketika sistem digunakan.
• Pagar keselamatan dan perlindungan untuk mengehadkan kegagalan yang sudah diketahui.
• Penambahbaikan berulang apabila kelemahan ditemui.
• Tumpuan pada bahaya yang boleh dijangka, termasuk risiko siber. 25

Mengapa Ng mempertikaikan naratif kiamat AI

Ng berkata amaran tentang risiko eksistensial AI boleh menjejaskan usaha masyarakat untuk menikmati manfaat maksimum teknologi tersebut. Beliau turut berkata industri teknologi pernah membangkitkan ketakutan terhadap bahaya bencana AI pada awal ledakan AI, yang menurutnya kelihatan bertujuan meraih publisiti dan mempengaruhi peraturan. 1

Beliau bukan menolak kerja keselamatan. Bantahan beliau ialah terhadap menjadikan dakwaan kepupusan sebagai fakta yang telah terbukti, atau sebagai alasan untuk melaksanakan jeda pembangunan yang meluas.

Perbezaan dengan kem yang mahu AI diperlahankan

Perdebatan utama bukan sama ada AI perlu lebih selamat, tetapi sama ada pembangunan model paling maju — sering disebut AI frontier atau AI barisan hadapan — perlu diperlahankan dengan sengaja.

Jacob Coxon

Bekas penyelidik Anthropic dan OpenAI, Jacob Coxon, meletak jawatan daripada Anthropic dan memberi amaran bahawa pembangunan pantas ke arah sistem yang boleh memperbaik diri mungkin membawa bencana. Beliau menyokong langkah memperlahankan pembangunan dan mengalu-alukan cadangan Anthropic untuk mengawal kadar kemajuan tersebut. 3343

Dario Amodei dan Sam Altman

Ketua Pegawai Eksekutif Anthropic, Dario Amodei, menyeru syarikat AI memperlahankan kadar peningkatan keupayaan model bagi memberi masa untuk mengurus risiko. Rangkanya termasuk penglibatan penilai bebas. 18

Ketua Pegawai Eksekutif OpenAI, Sam Altman, menyokong premis asas cadangan Amodei dan berjanji OpenAI akan melaksanakan salah satu perlindungan itu: akses bermakna untuk penilai luar bebas menilai amalan keselamatan. 1924

Geoffrey Hinton

Geoffrey Hinton berkata terdapat “risiko yang ketara” AI boleh terlepas daripada kawalan manusia. Beliau menyokong kelembapan pembangunan serta langkah seperti ujian sebelum pelancaran, sambil berhujah kerajaan bergerak terlalu perlahan. 20

Ringkasnya, Coxon, Amodei, Altman dan Hinton melihat risiko kehilangan kawalan sebagai cukup munasabah untuk mewajarkan pembangunan AI paling maju diperlahankan. Ng pula menganggap dakwaan kepupusan belum cukup berasas dan mahu sumber keselamatan ditumpukan pada kegagalan yang nyata serta boleh ditangani. 21820

Menolak kelembapan tidak bermaksud alasan mereka sama

Ng memang menentang kelembapan menyeluruh, tetapi alasannya tidak sama dengan semua tokoh lain yang turut menolak pendekatan itu.

• Jensen Huang, CEO Nvidia, berkata industri AI tidak memerlukan undang-undang atau peraturan baharu. 53
• Mark Zuckerberg, CEO Meta, berkata kelembapan seluruh industri tidak perlu kerana persaingan dan insentif pasaran akan mendorong syarikat menjadikan model lebih selamat. 55
• Presiden Donald Trump menolak kebimbangan tentang AI yang tidak terkawal sebagai “penipuan” dan berkata Amerika Syarikat sudah mempunyai alat untuk mengawal selia serta mendakwa syarikat AI. 4950
• Pegawai China juga menolak seruan untuk memperlahankan pembangunan AI barisan hadapan. 52

Kesemua pendirian ini sampai kepada kesimpulan yang hampir sama tentang jeda besar-besaran, tetapi asasnya berbeza. Hujah Ng adalah teknikal: ukur risiko sebenar dan bina kawalan yang lebih baik. Sementara itu, Huang, Zuckerberg, Trump dan pegawai China lebih menekankan penolakan terhadap sekatan baharu, insentif pasaran, persaingan atau strategi negara. 250525355

Titik persamaan pada risiko siber

Perdebatan ini tidak membahagikan dunia AI kepada pihak yang peduli keselamatan dan pihak yang tidak. CEO Cohere, Aidan Gomez, sebagai contoh, berkata model AI telah menjadi senjata siber yang sangat berkuasa kerana ia boleh mencari dan mengeksploitasi kelemahan pada skala besar. 62

Kebimbangan itu lebih dekat dengan seruan Ng agar risiko siber yang nyata diberi perhatian. Namun, sumber yang tersedia tidak mencukupi untuk menghuraikan pendirian penuh Gomez mengenai kelembapan seluruh industri atau tadbir urus AI antarabangsa. Begitu juga, tiada bukti mencukupi dalam sumber yang tersedia untuk mencirikan pendirian pelabur Steve Eisman tentang dasar kelembapan, penyelidikan keselamatan, peraturan atau tadbir urus antarabangsa.

Kesimpulannya

Campur tangan Ng mengubah fokus perbahasan: persoalannya bukan sama ada AI patut dijadikan lebih selamat, tetapi sama ada senario kepupusan yang spekulatif patut mengawal agenda keselamatan AI. Jawapan beliau ialah tidak. Keutamaan, menurutnya, perlu diberi kepada ujian, pagar keselamatan dan kejuruteraan bagi menghadapi bahaya yang dikenal pasti hari ini — tanpa memperlahankan inovasi secara menyeluruh. 12