Program Akreditasi Penguji AI (AI TAP) Singapura: Pensijilan untuk Penguji AI Pihak Ketiga

Inisiatif ini secara meluas digambarkan sebagai program akreditasi pertama di Asia khusus untuk organisasi ujian AI, bertujuan mewujudkan tanda aras untuk perkhidmatan jaminan AI.

Siapa yang Melancarkan AI TAP dan Bilakah Ia Bermula

AI TAP dilancarkan oleh Yayasan AI Verify (AI Verify Foundation), sebuah organisasi bukan untung yang ditubuhkan untuk memajukan ujian AI dan pembangunan piawaian yang boleh dipercayai. Yayasan ini adalah anak syarikat kepada Infocomm Media Development Authority (IMDA) Singapura.

Menteri Pembangunan Digital dan Penerangan Singapura, Josephine Teo, mengumumkan program ini semasa acara keselamatan AI antarabangsa pada Mei 2026.

Butiran pelancaran semasa termasuk:

• Organisasi pelancar: Yayasan AI Verify
• Jangkaan pelancaran: separuh kedua 2026
• Permohonan akreditasi: dijangka dibuka sekitar suku ketiga 2026

Mengapa Singapura Mencipta AI TAP

Objektif teras AI TAP adalah untuk meningkatkan kepercayaan terhadap perkhidmatan ujian keselamatan AI.

Apabila organisasi menggunakan sistem AI, ramai yang bergantung kepada firma khusus untuk menyiasat model bagi kelemahan—sering melalui ujian red-teaming atau percubaan untuk memintas perlindungan keselamatan. Tetapi kualiti dan kredibiliti penyedia ujian ini boleh berbeza secara meluas.

AI TAP bertujuan menyelesaikan masalah ini dengan mewujudkan piawaian akreditasi rasmi untuk syarikat yang menawarkan perkhidmatan ujian AI.

Program ini juga merupakan sebahagian daripada usaha lebih luas Singapura untuk membina ekosistem AI yang dipercayai yang mengimbangi inovasi teknologi dengan keselamatan dan akauntabiliti.

Beberapa inisiatif berkaitan menyokong ekosistem ini, termasuk:

• Rangka kerja ujian AI Verify, yang membantu syarikat menilai sama ada sistem AI mereka mengikuti prinsip tadbir urus yang diiktiraf antarabangsa.
• Global AI Assurance Pilot dan Sandbox, yang menghubungkan syarikat yang menggunakan AI dengan firma ujian khusus untuk membangunkan kaedah ujian praktikal.

Bersama-sama, program ini bertujuan mewujudkan norma bersama untuk penggunaan AI yang bertanggungjawab.

Bagaimana AI TAP Akan Mengesahkan Syarikat Ujian AI

Syarikat yang memohon akreditasi AI TAP akan menjalani dua kategori utama penilaian.

Penilaian keupayaan teknikal

Organisasi ujian mesti menunjukkan bahawa kaedah penilaian mereka mengikuti garis panduan yang diiktiraf untuk ujian sistem AI. Ini termasuk menunjukkan bahawa perkhidmatan mereka selaras dengan bimbingan yang merangkumi bidang seperti:

• Keselamatan aplikasi model bahasa besar (LLM)
• Ujian kebolehpercayaan dan keteguhan
• Ujian penemuan dan eksploitasi kelemahan

Pemohon juga mesti menunjukkan metodologi ujian berstruktur dan set data yang sesuai untuk menilai sistem AI.

Penilaian organisasi dan operasi

Di luar kepakaran teknikal, AI TAP akan menilai syarikat itu sendiri. Semakan akreditasi mungkin meneliti faktor seperti:

• Reputasi perniagaan dan rekod prestasi
• Keupayaan operasi dan kepakaran kakitangan
• Kestabilan kewangan
• Sama ada perkhidmatan yang diiklankan sepadan dengan keupayaan sebenar organisasi

Semakan dua lapisan ini direka untuk memastikan penguji bertauliah kompeten dari segi teknikal dan boleh dipercayai dari segi operasi.

Jenis Risiko AI yang Dijangka Akan Diperiksa oleh Penguji

Walaupun AI TAP belum menerbitkan senarai semak ujian universal, kerja jaminan AI sedia ada di Singapura menyerlahkan beberapa bidang risiko yang biasa diperiksa dalam sistem AI.

Ini termasuk:

• Kelemahan keselamatan dan keboleh eksploitasi, termasuk percubaan untuk memintas perlindungan atau mengekstrak maklumat terhad
• Kegagalan keselamatan kandungan, seperti menghasilkan output berbahaya atau tidak sesuai
• Risiko kebocoran data, terutamanya dalam sistem generasi dipertingkatkan perolehan semula (RAG) yang disambungkan ke pangkalan pengetahuan dalaman
• Jurang keselamatan berbilang bahasa, di mana perlindungan yang berfungsi dalam satu bahasa mungkin gagal dalam bahasa lain
• Masalah ketepatan dan keteguhan, termasuk respons halusinasi atau tidak konsisten

Latihan ujian dalam inisiatif jaminan AI Singapura telah menunjukkan bahawa perlindungan boleh berkelakuan berbeza merentas bahasa dan bahawa sesetengah reka bentuk sistem mungkin meningkatkan risiko kebocoran maklumat sensitif.

Kaedah Ujian yang Digunakan dalam Jaminan AI

Organisasi ujian AI biasanya menggabungkan penilaian automatik dengan analisis manusia. Contoh kaedah yang digunakan dalam projek jaminan AI yang berkaitan dengan Singapura termasuk:

• Prompt adversari dan ujian red-teaming untuk menyiasat kelemahan jailbreak
• Penjanaan set data sintetik untuk mencipta kes tepi dan senario kegagalan jarang berlaku
• Penanda aras ketepatan, termasuk ketepatan klasifikasi dan ketepatan perolehan semula
• Semakan dengan penglibatan manusia (human-in-the-loop), di mana pakar menilai respons sistem
• Pendekatan LLM-sebagai-hakim, di mana model AI membantu menskalakan penilaian output

Pendekatan ini membolehkan penguji menilai kedua-dua prestasi sistem AI dan keteguhan perlindungan mereka.

Bagaimana AI TAP Boleh Membentuk Ekosistem Keselamatan AI Global

Mengakreditasi penguji sendiri menangani masalah yang semakin berkembang dalam tadbir urus AI: memastikan bahawa penilaian keselamatan AI adalah boleh dipercayai dan konsisten.

Kesan potensi program ini termasuk:

• Keyakinan yang lebih tinggi apabila organisasi mengupah firma luar untuk menilai sistem AI
• Jangkaan yang lebih jelas tentang apa yang membentuk ujian keselamatan AI yang kompeten
• Kebolehbandingan hasil ujian yang lebih baik merentas industri dan bidang kuasa
• Kerjasama yang lebih kukuh antara pemaju AI dan juruaudit keselamatan khusus

Oleh kerana AI TAP diposisikan sebagai skim akreditasi pertama seumpamanya di Asia, ia boleh mempengaruhi cara negara lain menstrukturkan sistem jaminan AI mereka sendiri.

Butiran yang Masih Tidak Jelas

Walaupun matlamat dan struktur AI TAP diketahui umum, beberapa aspek operasi masih belum didedahkan sepenuhnya, termasuk:

• Model pemarkahan terperinci yang digunakan untuk akreditasi
• Protokol ujian khusus yang diperlukan untuk pensijilan
• Sama ada piawaian khusus sektor akan digunakan untuk industri seperti penjagaan kesihatan atau kewangan

Butiran ini mungkin akan menjadi lebih jelas apabila program membuka permohonan dan gelombang pertama firma ujian menjalani akreditasi.

Gambaran Lebih Besar

Ujian keselamatan AI menjadi bahagian penting dalam menggunakan sistem AI moden. Kerajaan dan syarikat semakin memerlukan cara untuk mengesahkan sama ada model AI selamat, boleh dipercayai, dan selaras dengan prinsip tadbir urus.

Pendekatan Singapura memberi tumpuan kepada mengesahkan penguji itu sendiri, mewujudkan lapisan penilai bebas yang dipercayai yang boleh diharapkan oleh organisasi apabila menilai teknologi AI.

Jika berjaya, program seperti AI TAP boleh menjadi blok binaan utama landskap tadbir urus AI global.