Memperlahankan AI dengan bermakna: apa yang diperlukan, dan peranan Singapura

Langkah memperlahankan pembangunan AI yang bermakna bermaksud mengawal rentak pembangunan sistem paling canggih, bukan menghentikan penggunaan AI di seluruh ekonomi. Seruan terbuka daripada beberapa pemimpin syarikat AI membawa penilaian bebas dan penyelarasan ke dalam perbincangan. Namun, perlindungan yang boleh dipercayai memerlukan lebih daripada janji sukarela: penilaian perlu bebas, keputusan pelancaran mesti membawa akibat, dan peraturan perlu sepadan dengan tahap risiko.

Singapura sudah mempunyai beberapa asas untuk usaha ini, termasuk rangka kerja tadbir urus AI ejen, alat ujian AI Verify dan program untuk mengiktiraf penguji AI pihak ketiga. Cabaran seterusnya ialah menghubungkan alat tersebut dengan keputusan yang jelas dan berasaskan bukti tentang sistem yang benar-benar digunakan. 4

Apa yang dibuktikan—dan tidak dibuktikan—oleh seruan memperlahankan AI

Cadangan terkini memberi tumpuan kepada rentak pembangunan AI termaju—sistem AI paling berkemampuan, yang kemajuannya mungkin mengatasi langkah keselamatan pembangun dan pengawasan luar. Antara cadangan yang dilaporkan ialah memberi penilai luar akses berterusan kepada syarikat AI termaju, menyelaraskan piawaian keselamatan dan memperluas kerjasama antarabangsa.

Cadangan tersebut menunjukkan minat yang semakin meningkat, tetapi belum membentuk dasar yang dipersetujui atau perjanjian mengikat antara syarikat AI. Laporan Keselamatan AI Antarabangsa menyatakan bahawa usaha mengurus risiko masih berkembang dan kebanyakan inisiatif syarikat kekal sukarela. Perbezaan ini penting: komitmen sesebuah syarikat untuk menguji model tidak dengan sendirinya menjadi peraturan yang boleh dikuatkuasakan untuk menangguhkan pelancaran apabila risiko serius masih belum ditangani.

Jadikan pelepasan AI sebagai keputusan berasaskan risiko

Pendekatan praktikal boleh menetapkan syarat lebih ketat untuk sistem yang lebih berkemampuan atau diberi kuasa lebih besar, tanpa mengenakan moratorium menyeluruh terhadap penggunaan AI rutin. Alat untuk membantu menulis dan ejen yang diberi kuasa melakukan tindakan berakibat besar tidak semestinya tertakluk pada syarat yang sama. Rangka kerja AI ejen Singapura sudah mengesyorkan supaya organisasi menilai dan mengehadkan risiko, serta menetapkan titik semakan yang memerlukan kelulusan manusia sebelum tindakan penting atau sensitif dilakukan. 46

Bagi model AI termaju dan penggunaan yang berimpak tinggi, penggubal dasar boleh mengembangkan prinsip itu melalui proses pelepasan yang merangkumi:

• Penilaian bebas sebelum pelancaran: Berikan penilai luar yang berkelayakan akses selamat kepada sistem dan bukti yang berkaitan. Penilaian boleh merangkumi keupayaan berbahaya serta risiko penyalahgunaan yang boleh dijangka. Akses berterusan kepada penilai pernah dicadangkan dalam seruan untuk mengawal rentak pembangunan AI termaju, tetapi belum menjadi keperluan sejagat yang sedia ada.
• Ambang yang jelas dan tindakan susulan: Nyatakan dengan jelas penemuan yang akan mencetuskan perlindungan tambahan, akses terhad atau penangguhan. Jika penilaian gagal, syarikat perlu merekodkan tindakan susulan; jika risikonya wajar, pelancaran perlu ditangguhkan—bukan sekadar dihantar untuk semakan dalaman sekali lagi. Ini ialah langkah tadbir urus yang dicadangkan, bukannya keperluan yang dinyatakan dalam rangka kerja Singapura pada masa ini. 4
• Kawalan mengikut cara sistem digunakan: Bagi ejen yang diberi kebenaran untuk melakukan tindakan berakibat besar, pertimbangkan akses yang dihadkan, kelulusan manusia pada titik tindakan penting, pemantauan dan akauntabiliti yang jelas. Rangka kerja Singapura menyokong usaha mengehadkan risiko dan memastikan pengawasan manusia yang bermakna; kawalan khusus perlu disesuaikan dengan sistem dan penggunaannya. 48
• Penilaian semula apabila sistem berubah dengan ketara: Uji semula perubahan penting pada model, alat yang digunakan atau konteks pelaksanaannya. Keputusan ujian lama tidak sepatutnya dianggap sebagai jaminan kekal.

Aplikasi berisiko lebih rendah patut mempunyai laluan penggunaan yang lebih mudah. Peraturan berasaskan risiko boleh membuka ruang untuk perniagaan menggunakan AI tanpa menganggap keputusan ujian yang baik sebagai bukti bahawa sistem itu selamat dalam semua keadaan. Akta AI Kesatuan Eropah ialah salah satu contoh peraturan yang disusun mengikut risiko penggunaan AI.

Peraturan terbuka kepada umum, ujian bebas daripada pengaruh

Penyelarasan antarabangsa boleh membantu menjadikan penilaian lebih setara dan mengurangkan dorongan untuk mencari bidang kuasa dengan pengawasan paling longgar. Kerajaan boleh berusaha menyelaraskan kaedah ujian, perkongsian maklumat insiden dan jangkaan minimum bagi sistem berisiko tinggi. Penilai bebas pula boleh menghasilkan bukti berdasarkan jangkaan tersebut. Cadangan terkini untuk memperlahankan pembangunan AI turut menyeru penyelarasan antara syarikat dan merentas sempadan.

Pembahagian tanggungjawab perlu jelas. Pihak berkuasa awam patut menetapkan ambang yang boleh dikuatkuasakan dan menentukan akibat jika ambang itu dilepasi. Syarikat boleh menyumbang kepakaran teknikal, tetapi tidak sepatutnya menjadi satu-satunya pihak yang menilai sistem mereka sendiri. Penguji bebas pula memerlukan kaedah yang telus dan pendedahan konflik kepentingan. Ini ialah prinsip reka bentuk bagi sistem pengawasan yang dicadangkan, bukannya ciri yang sudah ditetapkan oleh seruan industri yang dilaporkan.

Asas yang boleh dikembangkan oleh Singapura

Rangka Kerja Tadbir Urus Model AI untuk AI Ejen Singapura memberi panduan kepada organisasi yang menggunakan ejen, termasuk tentang penilaian risiko, akauntabiliti manusia dan kawalan. Panduan ini membantu penggunaan yang bertanggungjawab, tetapi dengan sendirinya bukan syarat pelepasan yang boleh dikuatkuasakan. 468

AI Verify menyediakan alat ujian, manakala Program Akreditasi Penguji AI mengiktiraf firma pengujian pihak ketiga yang mempunyai keupayaan teknikal dan kesediaan operasi yang berkaitan. Bersama-sama, inisiatif ini berpotensi menyokong penilaian yang lebih konsisten merentas sektor perniagaan dan kewangan. Singapura juga boleh menggalakkan profil jaminan bersama serta kontrak yang menjelaskan perkara yang perlu dibuktikan oleh penyedia model, penyepadu sistem, pihak yang menggunakan sistem dan penguji. Ini ialah kemungkinan langkah seterusnya, bukan dasar yang sudah ditetapkan oleh rangka kerja yang dirujuk.

Matlamat yang berguna ialah pengiktirafan rentas sempadan terhadap bukti dan kaedah ujian—bukan dakwaan bahawa satu sijil kebangsaan menjamin keselamatan setiap sistem dalam setiap penggunaan. Rangka kerja dan alat ujian boleh membantu menyusun bukti dengan lebih teratur; pihak berkuasa dan organisasi masih perlu menilai sama ada bukti itu benar-benar mengambil kira penggunaan serta risikonya.

Nilai keselamatan AI, kebolehpercayaan perisian dan keselamatan siber bersama-sama

Menguji jawapan yang dihasilkan oleh model hanyalah sebahagian daripada penilaian ejen AI. Penilaian menyeluruh juga perlu melihat perisian yang mengelilinginya serta keselamatan alat dan kebenaran yang boleh dicapai oleh ejen itu. Ketiga-tiganya berkaitan, tetapi membawa soalan berbeza: tingkah laku berbahaya apakah yang boleh dihasilkan AI; bagaimana aplikasi yang dibina itu berfungsi apabila berlaku kegagalan atau perubahan; dan bolehkah penyerang menceroboh atau mengubah hala sistem?

Penilaian gabungan ini ialah peluasan jaminan yang disyorkan—bukan dakwaan bahawa setiap alat sedia ada sudah merangkumi ketiga-tiga aspek. Penerangan AI Verify Toolkit menyatakan bahawa alat itu menyediakan ujian teknikal untuk sistem pembelajaran mesin tradisional, termasuk keadilan, kebolehjelasan dan keteguhan. Skop tersebut menjadikan ujian hujung ke hujung tambahan bagi penggunaan AI ejen sesuatu yang perlu dinyatakan dengan jelas; keputusan pada peringkat model tidak sepatutnya dianggap sebagai pengesahan seluruh sistem.

Ukuran sebenar langkah memperlahankan AI

Langkah memperlahankan AI benar-benar bermakna apabila bukti bebas boleh mengubah tindakan seterusnya: pelancaran berisiko tinggi boleh ditangguhkan, dihadkan atau diperbaiki jika perlindungannya tidak memadai, sementara penggunaan biasa yang berisiko rendah masih mempunyai laluan yang seimbang untuk dilaksanakan. Rangka kerja dan program ujian Singapura menyediakan asas untuk membina jaminan seperti ini, tetapi ambang pelepasan, penguatkuasaan dan skop penilaian perlu ditetapkan dengan jelas.