Perlukah AI termaju diperlahankan?

Perdebatan tentang AI termaju—model paling berkeupayaan yang sedang dibangunkan—bukan sekadar soal sama ada teknologi itu berguna. Soalan yang semakin mendesak ialah: apabila syarikat berlumba meningkatkan keupayaannya, siapa boleh memeriksa bukti bahawa model itu selamat? Pada September 2026, peletakan jawatan seorang penyelidik, laporan ujian keselamatan siber yang membimbangkan dan seruan beberapa pemimpin industri supaya pembangunan diperlahankan menjadikan persoalan itu lebih sukar diketepikan. 33349

Amaran serius, tetapi bukan bukti bencana sudah berlaku

Pada 8 September, Jacob Coxon mengumumkan peletakan jawatannya daripada Anthropic. Beliau pernah menjalankan penyelidikan pralatihan model di Anthropic dan OpenAI, dan menuduh kedua-duanya berlumba membina AI yang boleh meningkatkan keupayaannya sendiri tanpa bertindak secara bertanggungjawab. Amaran daripada orang yang pernah bekerja dalam bidang itu wajar diberi perhatian. Namun, ia bukan bukti bahawa sistem sedemikian sudah terlepas daripada kawalan manusia atau bahawa bencana pasti berlaku. Melabel seluruh kerjaya Coxon sebagai penyelidikan keselamatan juga mengaburkan peranannya dalam pralatihan model. 414

Laporan tentang keupayaan serangan siber menambah kebimbangan yang berbeza. The Straits Times melaporkan pendedahan mengenai model AI yang menggodam pelayan, manakala Los Angeles Times menyifatkan kejadian sekumpulan ejen AI menembusi sistem sebenar sebagai ujian. Laporan yang tersedia tidak menjelaskan sepenuhnya keadaan kejadian itu dan tidak membuktikan AI telah melancarkan serangan di dunia sebenar tanpa kawalan. Yang jelas, keupayaan berbahaya perlu dinilai dengan teliti sebelum digunakan dengan lebih meluas. 3353

Masalahnya, syarikat yang memperlahankan usahanya secara bersendirian mungkin bimbang pesaing akan terus memecut. Sebab itu seruan yang timbul menekankan langkah secara bersama, bukannya meminta satu makmal berhenti sementara yang lain meneruskan perlumbaan. 649

Pemimpin teknologi sendiri tidak sependapat

Ketua eksekutif Anthropic, Dario Amodei, menyeru usaha global untuk memperlahankan pembangunan. Beliau turut mencadangkan penilai keselamatan bebas diberi akses berterusan ke makmal AI termaju, hampir seperti akses pekerja. Ketua eksekutif OpenAI, Sam Altman, dan Elon Musk juga menyokong pembangunan pada kadar lebih perlahan. Persetujuan tentang arah umum itu tidak bermakna mereka sudah sepakat tentang peraturan atau cara menguatkuasakannya. 495155

Di pihak lain, ketua eksekutif Nvidia Jensen Huang menolak keperluan peraturan baharu, menurut Reuters. Presiden Amerika Syarikat Donald Trump pula menentang cadangan memperlahankan pembangunan kerana bimbang negaranya kehilangan kelebihan berbanding China. Walaupun Trump pernah menyifatkan kebimbangan tentang AI yang tidak terkawal sebagai “hoax” dan “scam”, beliau turut mengakui perlunya beberapa bentuk peraturan tanpa memperincikan langkahnya. Pendiriannya lebih tepat difahami sebagai bantahan terhadap usaha memperlahankan pembangunan dan pengawasan tambahan, bukan pelan keselamatan alternatif yang terperinci. 495257

Perbezaan pendapat ini menyentuh soal inovasi dan persaingan antara negara. Namun, ia juga menyentuh soal siapa yang boleh menilai dakwaan keselamatan. Dakwaan pembangun lebih mudah diuji jika pihak luar yang berkelayakan boleh meneliti model, keputusan ujian dan keadaan ketika sesuatu kegagalan berlaku. 2355

Apa yang boleh dipelajari daripada sektor lain?

Dalam penerbangan, cadangan penyelarasan AI oleh pengawal selia Eropah EASA merangkumi objektif keselamatan, pengawasan manusia, had terhadap tingkah laku sistem yang boleh menyesuaikan diri, pengesahan dan bukti pematuhan. Cadangan itu berkaitan fungsi AI dalam penerbangan. Pendekatannya boleh memberi panduan, tetapi proses kelulusan pesawat tidak boleh sekadar disalin untuk model AI kegunaan umum. 17

Tadbir urus senjata nuklear menawarkan prinsip lain: risiko yang merentasi sempadan memerlukan kerjasama yang pematuhannya boleh disahkan. Pengurusan risiko kewangan pula mengingatkan pengawal selia supaya melihat bukan sahaja kegagalan satu sistem, tetapi juga kesan lebih luas apabila banyak pihak bergantung pada sistem yang serupa. Ini perbandingan untuk merangka dasar, bukan dakwaan bahawa peraturan nuklear atau kewangan sedia ada sudah mengawal AI termaju. Pakar telah membincangkan ketiga-tiga sektor itu sebagai rujukan yang mungkin berguna. 21

Jonathan Zhang, presiden Singapore AI Association, mencadangkan peraturan yang dipersetujui secara global, disokong badan pentadbir antarabangsa dan pengawal selia negara yang memastikan pematuhan. Matlamatnya ialah jaminan keselamatan yang dipercayai di peringkat antarabangsa dan boleh disahkan secara bebas—dicapai lebih cepat daripada perjalanan berdekad-dekad sektor penerbangan. Itu masih cadangan, bukan institusi yang sudah wujud. 23

Langkah awal yang nyata ialah menetapkan apa yang boleh diperiksa oleh penilai bebas, bagaimana ujian dan insiden direkodkan, serta bukti apa yang diperlukan sebelum keupayaan paling berisiko digunakan. Langkah itu tidak akan menamatkan semua pertikaian tentang masa depan AI. Namun, ia boleh menjadikan dakwaan keselamatan terbuka kepada semakan—jalan yang lebih jelas antara perlumbaan tanpa had dan penghentian menyeluruh. 172355