Mengapa Singapura Membandingkan Keselamatan AI dengan Penerbangan

Kita menaiki kapal terbang bukan semata-mata kerana percaya pesawat itu dibina dengan baik. Kita juga bergantung pada penyelenggaraan, pengurusan ruang udara dan lapangan terbang, kakitangan terlatih serta prosedur yang dipatuhi setiap hari. Itulah inti perbandingan yang digunakan Menteri Pembangunan Digital dan Penerangan Singapura, Josephine Teo, apabila beliau membincangkan masa depan keselamatan kecerdasan buatan (AI). 79

Dalam hantaran LinkedIn pada 17 September, Teo berkata AI mungkin suatu hari nanti memerlukan susunan keselamatan seperti penerbangan awam agar orang ramai yakin menggunakannya. Beliau tidak mengatakan sistem peraturan sedemikian sudah wujud untuk AI. Sebaliknya, perlindungan perlu berkembang apabila semakin ramai orang mula bergantung pada teknologi itu. 23

Keselamatan bukan satu pemeriksaan sahaja

Contoh penerbangan menunjukkan mengapa jaminan daripada satu syarikat atau satu ujian tidak mencukupi. Bagi AI, perbandingan itu menimbulkan soalan praktikal: Bagaimana sistem diuji sebelum digunakan? Siapa yang menilainya apabila keupayaannya berubah? Apakah panduan yang diperlukan oleh orang yang menggunakannya? Ini bukan bermakna semua peraturan penerbangan boleh terus disalin untuk AI. Teo menyifatkan pendekatan penerbangan sebagai perlindungan berlapis, sambil menegaskan bahawa Singapura perlu belajar dengan cepat kerana belum ada panduan keselamatan AI yang siap untuk diikuti. 5

Apa yang sedang dilakukan Singapura?

Pendekatan yang diketengahkan Teo ialah membina perlindungan seiring penggunaan AI, sambil penyelidikan dan pengujian diteruskan—bukan menunggu sehingga semua jawapan tersedia. Antara usaha sedia ada yang dikenal pasti dalam laporan mengenai kenyataan beliau ialah AI Verify, inisiatif untuk menggalakkan pengujian bertanggungjawab dan ketelusan, serta Singapore AI Safety Institute. 1222

Teo juga telah menerangkan rancangan untuk mengiktiraf penguji AI pihak ketiga. Tujuannya ialah memberi organisasi yang menggunakan AI lebih keyakinan terhadap pihak yang menilai sistem mereka. Langkah ini dapat mengukuhkan proses penilaian, tetapi tidak bermaksud semua risiko AI telah diselesaikan. 22

Oleh sebab sistem AI dan risikonya merentasi sempadan, Singapura turut menjadi tuan rumah International Scientific Exchange on AI Safety, membantu menghasilkan Singapore Consensus on Global AI Safety Research Priorities dan menyertai usaha pengujian bersama. Kerjasama penyelidikan itu tidak sama dengan kewujudan pengawal selia antarabangsa yang mengikat negara-negara seperti dalam sektor penerbangan. 181

Berbeza daripada seruan memperlahankan AI

Perbincangan Teo berlaku ketika amaran tentang AI yang semakin berkeupayaan turut menonjolkan risiko kehilangan kawalan manusia, serangan siber dan biokeganasan. Pada 12 September, ketua eksekutif Anthropic, Dario Amodei, menyeru agar peningkatan keupayaan model AI paling maju diperlahankan secukupnya untuk membolehkan kerja keselamatan dan penilaian bebas mengikut rentak. Amarannya bahawa ejen AI mungkin menyebabkan gangguan meluas di internet ialah ramalan, bukan kejadian yang sudah terbukti berlaku. 131011

Penekanannya berbeza: Teo mahu perlindungan diperkukuh ketika penggunaan AI meningkat, manakala Amodei turut meminta lebih masa sebelum keupayaan model paling maju berkembang lebih jauh. Persoalan yang menghubungkan kedua-duanya ialah sama ada amalan keselamatan mampu mengikut kepantasan teknologi yang diminta untuk dipercayai orang ramai. 1311