Andrew Ng: Risiko AI Nyata Perlu Ditangani, Bukan Ketakutan Kiamat

Andrew Ng menegaskan bahwa AI bukan teknologi tanpa bahaya. Namun, menurutnya, klaim bahwa AI akan segera memusnahkan umat manusia terlalu spekulatif untuk dijadikan landasan utama kebijakan. Dalam wawancara Bloomberg TV pada 17 September, salah satu pendiri Google Brain itu menyebut kekhawatiran tersebut “lebih mirip fiksi ilmiah daripada sains” dan mengatakan keselamatan AI harus diperlakukan sebagai disiplin rekayasa: sistem diuji, diberi pengaman, lalu terus diperbaiki. 2

Mengapa Ng menolak narasi kepunahan

Ng mengatakan sistem AI tidak akan pernah sepenuhnya dapat diprediksi. Tetapi, baginya, ketidaksempurnaan itu bukan alasan untuk menghentikan pengembangan AI secara luas. Pengujian, mekanisme pengaman, dan rekayasa dapat meningkatkan keselamatan sistem dari waktu ke waktu. Ia juga memperingatkan bahwa memperlambat pengembangan AI secara menyeluruh justru dapat memperlambat kemajuan dalam keselamatan AI itu sendiri. 2

Ia juga menilai narasi tentang risiko eksistensial dapat menghambat upaya masyarakat memaksimalkan manfaat teknologi. Ng mengatakan industri teknologi sebelumnya telah mengobarkan kekhawatiran tentang bahaya AI yang katastrofik pada awal ledakan AI, yang menurutnya tampak berkaitan dengan upaya mencari publisitas dan membentuk regulasi. 1

Artinya, kritik Ng bukan penolakan terhadap kerja keselamatan AI. Ia menolak memperlakukan skenario kepunahan sebagai sains yang sudah mapan atau sebagai dasar untuk melakukan jeda besar-besaran.

Risiko yang menurut Ng seharusnya diprioritaskan

Alternatif yang ditawarkan Ng adalah pengurangan risiko yang praktis. Pelaporan tentang wawancara tersebut menyoroti keamanan siber dan pengaman konkret lain sebagai prioritas. 5

Dalam praktiknya, pendekatan itu mencakup:

• Pengujian ketat sebelum dan selama sistem digunakan.
• Pagar pengaman untuk membatasi pola kegagalan yang sudah diketahui.
• Perbaikan berulang agar keandalan meningkat saat masalah baru ditemukan.
• Fokus pada bahaya yang dapat diperkirakan, termasuk risiko keamanan siber, alih-alih memusatkan kebijakan pada skenario kepunahan. 25

Pendekatan ini tidak menjanjikan kontrol sempurna atas AI. Yang ditekankan Ng adalah bahwa teknologi yang bermanfaat dapat dibuat cukup andal melalui evaluasi dan perbaikan berkelanjutan, seperti di bidang rekayasa lain.

Berbeda dengan kubu yang meminta perlambatan

Sejumlah tokoh AI juga menuntut keselamatan yang lebih serius, tetapi mengambil kesimpulan lebih tegas mengenai laju pengembangan model AI paling maju, atau frontier AI.

Jacob Coxon: risiko yang dinilai jauh lebih besar

Mantan peneliti Anthropic dan OpenAI, Jacob Coxon, mengundurkan diri dari Anthropic dan memperingatkan bahwa pengembangan cepat menuju sistem yang dapat meningkatkan kemampuannya sendiri bisa berujung bencana. Ia mengatakan perlambatan diperlukan dan kemudian menyambut proposal Anthropic untuk mengatur laju pengembangan. 3343

Dario Amodei: perlambat peningkatan kemampuan agar ada waktu membangun pengaman

CEO Anthropic Dario Amodei menyerukan agar perusahaan AI memperlambat laju peningkatan kemampuan model. Tujuannya adalah menciptakan waktu untuk mengelola risiko, termasuk lewat kerangka kerja yang melibatkan evaluator independen. 18

Sam Altman: mendukung pengaturan laju AI terdepan

CEO OpenAI Sam Altman mendukung premis dasar proposal Amodei dan berkomitmen pada salah satu pengamannya: memberi evaluator eksternal akses bermakna untuk menilai praktik keselamatan. 1924

Geoffrey Hinton: khawatir manusia kehilangan kendali

Geoffrey Hinton mengatakan ada “risiko signifikan” AI dapat lepas dari kendali manusia. Ia mendukung perlambatan dan langkah seperti pengujian sebelum rilis, dengan alasan pemerintah bergerak terlalu lambat. 20

Perbedaan praktisnya terletak pada penilaian probabilitas dan kebijakan. Coxon, Amodei, Altman, dan Hinton menilai risiko hilangnya kendali cukup masuk akal untuk membenarkan pengaturan laju pengembangan sistem paling canggih. Ng menilai klaim kepunahan belum cukup kuat secara ilmiah dan ingin keselamatan AI difokuskan pada kegagalan konkret yang lebih dapat ditangani. 21820

Tidak semua penolak perlambatan sejalan dengan Ng

Penolakan Ng terhadap perlambatan luas tidak berarti ia berbagi semua alasan dengan tokoh politik dan eksekutif yang juga menolak langkah tersebut.

• Jensen Huang: CEO Nvidia mengatakan industri AI tidak memerlukan undang-undang atau regulasi baru. 53
• Mark Zuckerberg: CEO Meta berpendapat perlambatan lintas industri tidak diperlukan karena persaingan dan insentif pasar akan mendorong perusahaan membuat model yang aman. 55
• Presiden Donald Trump: Trump menyebut kekhawatiran tentang AI yang lepas kendali sebagai “hoaks” dan mengatakan Amerika Serikat sudah memiliki perangkat untuk mengatur serta menuntut perusahaan AI. 4950
• Pejabat Tiongkok: Seorang juru bicara Kementerian Luar Negeri Tiongkok menolak seruan untuk memperlambat pengembangan AI terdepan. 52

Mereka sampai pada kesimpulan serupa—menolak jeda atau perlambatan luas—tetapi dengan alasan berbeda. Argumen Ng pada dasarnya bersifat teknis: ukur risiko nyata dan bangun kontrol yang lebih baik. Huang, Zuckerberg, Trump, dan pejabat Tiongkok, dengan penekanan yang berbeda-beda, lebih menyoroti penolakan terhadap pembatasan baru, insentif pasar, persaingan, atau strategi nasional. 250525355

Titik temu yang lebih sempit: risiko siber

Perdebatan ini tidak sesederhana membagi pihak yang peduli keselamatan dan yang tidak. CEO Cohere Aidan Gomez, misalnya, mengatakan model AI telah menjadi senjata siber yang sangat kuat karena mampu menemukan dan mengeksploitasi kerentanan dalam skala besar. 62

Kekhawatiran itu lebih dekat dengan seruan Ng untuk menangani risiko keamanan siber yang konkret. Namun, sumber yang tersedia tidak cukup untuk menyimpulkan sikap lengkap Gomez tentang perlambatan industri secara luas atau tata kelola AI internasional. Demikian pula, tidak ada bukti yang memadai untuk menggambarkan posisi investor Steve Eisman mengenai perlambatan, riset keselamatan, regulasi, dan tata kelola AI internasional.

Intinya

Intervensi Ng menggeser fokus perdebatan keselamatan AI. Pertanyaannya bukan apakah AI perlu dibuat lebih aman, melainkan apakah skenario kepunahan yang masih spekulatif harus mengatur seluruh agenda. Jawaban Ng: tidak. Ia menyerukan pengujian, pengaman, dan rekayasa untuk mengatasi bahaya yang sudah dapat diidentifikasi—seraya menghindari perlambatan menyeluruh yang, menurutnya, dapat menghambat inovasi sekaligus kemajuan keselamatan AI. 12