Amaran AI semakin lantang. Singapura mahu sistem diaudit, kuasa ejen dibatasi

Amaran bahawa kecerdasan buatan (AI) suatu hari nanti boleh membawa bencana tidak semestinya memaksa pilihan antara membiarkannya berkembang tanpa kawalan dengan menghentikan semua kerja AI. Dalam perdebatan di Singapura, suara industri menekankan langkah yang boleh dibuat sekarang: penilaian bebas, ketelusan tentang amalan keselamatan dan had yang jelas terhadap perkara yang boleh diakses atau dilakukan oleh sistem. 732

Mengapa amaran itu kembali hangat?

Jacob Coxon meletak jawatan daripada Anthropic selepas pernah bekerja di Anthropic dan OpenAI. Beliau menuduh kedua-dua syarikat berlumba membangunkan AI supercerdas yang mampu meningkatkan keupayaannya sendiri tanpa bertindak secara bertanggungjawab. Penyelidik Anthropic, Evan Hubinger, bersetuju secara terbuka dan menganggarkan secara peribadi bahawa risiko AI menyebabkan kepupusan manusia dalam tempoh sedekad melebihi 10%. Angka itu ialah penilaian peribadinya, bukan kebarangkalian yang telah diukur atau bukti bahawa kepupusan hampir berlaku. 34

Ketua eksekutif Anthropic, Dario Amodei, turut menyeru supaya pembangunan diperlahankan. Dalam cadangannya pada 12 September, beliau mahu penilai pihak ketiga diberi akses untuk menyemak sama ada amalan dan komunikasi keselamatan dipatuhi, serta melaporkan insiden. Persoalannya bukan lagi sekadar sejauh mana kita patut bimbang?, tetapi juga apa yang boleh diperiksa oleh pihak luar? 1332

Audit boleh mengesan masalah—bukan menjamin masa depan

Ujian boleh mengenal pasti kelemahan sistem yang wujud hari ini. AI Verify, kit ujian yang dilancarkan Singapura pada 2022, membantu menilai sama ada hasil AI adil, teguh dan boleh dijelaskan. Program pentauliahan penguji AI pula bertujuan membina keupayaan untuk menjalankan ujian. Kedua-duanya bukan bukti bahawa setiap sistem AI pada masa depan akan selamat. 1933

Semakan bebas memerlukan lebih daripada jaminan pembangun bahawa modelnya telah lulus ujian dalaman. Penilai memerlukan akses yang mencukupi untuk menyemak amalan yang dinyatakan dan mengenal pasti insiden. Sebelum menghubungkan AI kepada data dan proses kerja, organisasi juga perlu mendapatkan ketelusan serta kawalan daripada penyedia model. Akses kepada parameter model sahaja tidak semestinya mendedahkan keputusan semasa latihan, kegagalan atau langkah perlindungannya. 3234

Ini bukan bermakna semua cadangan memperlahankan pembangunan harus ditolak. Seorang pakar yang berpangkalan di Singapura berhujah bahawa pembangun patut menghentikan sementara aktiviti tertentu jika mereka tidak dapat membendung sistem dengan secukupnya atau menjelaskan cara risiko serius diurus. Bezanya ialah menghentikan aktiviti yang risikonya tidak terkawal, bukannya mengenakan jeda menyeluruh terhadap semua penggunaan AI. 32

Sebelum ejen AI diberi kuasa, tetapkan sempadannya

Ejen AI boleh menggunakan alat dan bertindak merentasi proses kerja, bukan sekadar menjawab soalan. Sebab itu, had kuasanya perlu ditetapkan sebelum ia digunakan. Pada Januari 2026, Penguasa Pembangunan Infokom Media Singapura (IMDA) melancarkan Model AI Governance Framework for Agentic AI. Kerangka panduan itu menyarankan penilaian risiko dari awal serta had terhadap tahap autonomi dan akses ejen kepada alat dan data. Versi yang dikemas kini memperincikan prinsip akses minimum yang diperlukan untuk sesuatu tugas. Ia ialah panduan, bukan larangan undang-undang menyeluruh terhadap penggunaan ejen AI. 504852

Bagi organisasi, kawalan itu bermaksud menetapkan siapa yang bertanggungjawab terhadap setiap ejen, mengehadkan kebenarannya, memastikan tindakannya boleh dijejaki dan, jika boleh, dibatalkan, serta memantau operasinya. Langkah sedemikian lebih nyata daripada sekadar mengatakan ejen itu “selamat”. 34 Menteri Josephine Teo membandingkan peranan piawaian dan langkah perlindungan AI dalam membina kepercayaan dengan amalan keselamatan penerbangan awam. 17

Intinya ialah akauntabiliti ketika risiko belum dapat dipastikan sepenuhnya: uji apa yang boleh diuji, benarkan penelitian bebas dan jangan berikan kuasa yang belum mampu dikawal dengan selamat. Langkah ini tidak menyelesaikan seluruh perdebatan tentang risiko AI jangka panjang, tetapi menetapkan tanggungjawab yang boleh dilaksanakan sekarang. 3248