Keselamatan AI global: Bagaimana hendak buktikan peraturannya benar-benar dipatuhi?

Sistem kecerdasan buatan (AI) tidak menjadi selamat hanya kerana pembangunnya berkata demikian. Jika AI semakin digunakan secara meluas, negara-negara memerlukan cara untuk memeriksa bukti keselamatan secara bebas—dan kuasa untuk bertindak apabila bukti itu tidak mencukupi.

Menteri Pembangunan Digital dan Penerangan Singapura, Josephine Teo, membandingkan keperluan itu dengan penerbangan: keyakinan orang ramai terhadap pesawat dibina melalui pelbagai lapis perlindungan, bukan satu jaminan semata-mata. Menurutnya, perlindungan untuk AI perlu dibangunkan seiring dengan penggunaannya. 36

Belajar daripada penerbangan, bukan menyalin peraturannya

Kerjasama keselamatan penerbangan tidak bermula dengan satu badan dunia yang lengkap. Undang-undang negara dan perjanjian dua hala mendahului Konvensyen Paris 1919. Konvensyen Chicago 1944 kemudian membentuk rangka kerja baharu, sebelum Pertubuhan Penerbangan Awam Antarabangsa (ICAO) mula berfungsi pada 1947. 313935 Pengajarannya untuk AI: mulakan dengan persetujuan yang boleh dilaksanakan, kemudian kukuhkan apabila amalan bersama terbentuk.

Dalam rangka kerja yang dicadangkan, sebuah badan antarabangsa boleh menyelaraskan piawaian minimum, mengiktiraf kelayakan penilai bebas dan membandingkan data insiden. Namun, penguatkuasaan mesti kekal pada pihak berkuasa negara: merekalah yang boleh memeriksa sistem, mengarahkan perubahan, mengehadkan penggunaannya atau mengenakan penalti. Sijil antarabangsa tidak patut menggantikan pemeriksaan tempatan.

Kelulusan juga tidak boleh dianggap kekal. Sesuatu sistem perlu diuji sebelum digunakan, dipantau selepas dilancarkan dan dinilai semula apabila perubahan penting dibuat. Kelulusan patut menyatakan versi sistem serta keadaan penggunaannya; pembangun juga perlu mempunyai rancangan untuk menarik balik kemas kini atau menghentikan sistem jika timbul masalah.

Daripada dakwaan keselamatan kepada bukti yang boleh diuji

Lencana ‘lulus’ atau skor penanda aras sahaja tidak memadai. Penilai yang diiktiraf perlu mendapat akses terkawal kepada model, tetapan penggunaannya, dokumentasi dan rekod kegagalan penting. Kaedah serta dapatan mereka mesti cukup jelas untuk dicabar oleh penilai lain yang berkelayakan, sambil melindungi data peribadi, rahsia perniagaan dan maklumat sensitif keselamatan.

Bagi sistem berisiko tinggi, pengawal selia boleh mewajibkan dokumen justifikasi keselamatan: apakah yang boleh dilakukan oleh sistem, bagaimana ia diuji, perlindungan yang terbukti berfungsi, risiko yang masih tinggal dan langkah menangani insiden. Jika bukti lemah, penggunaan boleh ditangguhkan atau dihadkan sehingga masalah diperbetulkan. Matlamatnya ialah pematuhan yang boleh disahkan—bukan janji bahawa mudarat mustahil berlaku.

Kebebasan penilai turut bergantung pada pembiayaan. Pembangun besar boleh membayar ke dalam dana ujian bersama atau dana yang ditadbir pengawal selia, bukannya memilih dan mengawal terus pihak yang menilai mereka. Siasatan bebas terhadap kegagalan serius dan kejadian hampir membawa mudarat patut menumpukan pencegahan berulang. Perlindungan kepada pemberi laporan boleh menggalakkan keterbukaan, tetapi tidak boleh menjadi alasan untuk menyembunyikan salah laku.

Peranan Singapura perlu dibina atas kepercayaan, bukan andaian

Singapura mempunyai asas untuk menyumbang kepada kerja pengujian: laporan mengenal pasti kit alat AI Verify dan Institut Keselamatan AI Singapura sebagai sebahagian daripada usahanya dalam pengujian dan jaminan keselamatan. 13 Negara itu boleh menjadi tempat penilaian bersama atau pertukaran teknikal sulit dalam rangkaian makmal yang diiktiraf.

Namun, menjadi tuan rumah tidak secara automatik menjadikan sesebuah pusat dipercayai oleh Amerika Syarikat dan China. Itu memerlukan tadbir urus yang telus, peraturan akses yang selamat, saluran rayuan bebas dan kesediaan kedua-dua pihak untuk mengambil bahagian. Rangkaian makmal di beberapa negara juga lebih kukuh daripada bergantung pada satu pusat sahaja.

Mulakan dengan risiko bersama walaupun politiknya berbeza

Perdebatan tentang kelajuan pembangunan AI masih jauh daripada sepakat. Menurut Reuters, Dario Amodei, Sam Altman dan Elon Musk menggesa perlambatan yang diselaraskan; Mark Zuckerberg lebih cenderung kepada perlindungan berpandukan pasaran, manakala Jensen Huang menolak keperluan peraturan baharu. 4748 China menolak gesaan memperlahankan pembangunan AI. Presiden Donald Trump pula berkata beliau tidak menjangka langkah baharu mengenai perlindungan AI pada sidang kemuncaknya dengan Xi Jinping pada 24 September; laporan mengenai pertemuan itu turut menggambarkan jangkaan rendah terhadap kejayaan besar. 585049

Negara-negara tidak perlu menyelesaikan pertikaian tentang perlambatan AI sebelum menangani bahaya yang masing-masing mahu elakkan. Pakar keselamatan AS dan China dilaporkan mencadangkan batas jelas berkaitan sistem nuklear, kawalan manusia terhadap serangan siber yang membawa akibat besar, serta talian kecemasan untuk insiden AI autonomi. 20 Daripada situ, mereka boleh membina prosedur hubungan kecemasan, pemberitahuan insiden serius dan perbincangan teknikal timbal balik. AS dan China penting dalam usaha ini, tetapi negara lain juga perlu diberi suara dalam penetapan piawaian dan akses kepada kemudahan pengujian.

Perjanjian kawalan senjata menawarkan prinsip komitmen timbal balik yang cukup khusus untuk disahkan. Penyeliaan sektor kewangan pula menunjukkan cara mengenakan kewajipan lebih ketat pada sistem yang kegagalannya boleh memberi kesan besar: penilaian bebas, tanggungjawab pengurusan, pelan pemulihan dan laporan segera tentang kegagalan keselamatan serius, kebocoran data penting, pencerobohan atau kecurian model. Firma kecil yang menawarkan perkhidmatan berisiko rendah boleh menggunakan kemudahan ujian bersama dan dokumentasi lebih ringkas—tetapi saiz kecil tidak boleh mengecualikan sistem yang berbahaya.

Perjanjian dan institusi antarabangsa menjelang 2030 boleh dijadikan sasaran dasar, bukan ramalan. Ukuran kemajuan yang lebih meyakinkan ialah sama ada negara dapat menyepakati takrif insiden, kebebasan penilai dan perlindungan timbal balik—serta sama ada pengawal selia benar-benar bertindak apabila bukti keselamatan tidak mencukupi.