Singapore AI Tester Accreditation Programme (AI TAP)

Program tersebut diumumkan oleh Menteri Pengembangan Digital dan Informasi Singapura, Josephine Teo, dalam sebuah acara internasional tentang keamanan AI pada Mei 2026.

Detail peluncuran yang diketahui saat ini:

• Penyelenggara: AI Verify Foundation
• Target peluncuran: paruh kedua tahun 2026
• Pembukaan pendaftaran akreditasi: diperkirakan sekitar kuartal ketiga 2026

Mengapa Singapura membuat AI TAP

Tujuan utama AI TAP adalah meningkatkan kepercayaan terhadap layanan pengujian keamanan AI.

Banyak organisasi saat ini mengandalkan perusahaan khusus untuk menguji model AI—misalnya dengan teknik red‑teaming atau mencoba menembus sistem pengaman (sering disebut “jailbreak”). Namun kualitas dan kredibilitas penyedia layanan pengujian ini bisa sangat bervariasi.

AI TAP mencoba mengatasi masalah tersebut dengan membuat standar akreditasi resmi bagi perusahaan penguji AI.

Program ini juga merupakan bagian dari strategi Singapura untuk membangun ekosistem AI yang tepercaya, yang menyeimbangkan inovasi teknologi dengan keamanan dan akuntabilitas.

Beberapa inisiatif terkait yang mendukung ekosistem ini antara lain:

• AI Verify testing framework, yang membantu perusahaan menilai apakah sistem AI mereka mengikuti prinsip tata kelola AI yang diakui secara internasional.
• Global AI Assurance Pilot dan Sandbox, yang mempertemukan perusahaan pengguna AI dengan penguji spesialis untuk mengembangkan metode pengujian nyata.

Gabungan program-program ini bertujuan menciptakan praktik bersama untuk penerapan AI yang bertanggung jawab.

Bagaimana AI TAP mensertifikasi perusahaan penguji AI

Perusahaan yang ingin memperoleh akreditasi AI TAP akan melalui dua jenis evaluasi utama.

1. Penilaian kemampuan teknis

Organisasi penguji harus menunjukkan bahwa metode evaluasi mereka mengikuti panduan pengujian sistem AI yang diakui.

Ini mencakup kemampuan dalam:

• pengujian keamanan aplikasi berbasis large language model (LLM)
• uji keandalan dan ketahanan sistem
• identifikasi kerentanan dan potensi eksploitasi

Pelamar juga perlu menunjukkan metodologi pengujian yang terstruktur serta penggunaan dataset yang tepat untuk mengevaluasi sistem AI.

2. Evaluasi organisasi dan operasional

Selain kemampuan teknis, program ini juga menilai kualitas perusahaan itu sendiri.

Aspek yang dapat diperiksa meliputi:

• reputasi bisnis dan rekam jejak
• kapasitas operasional dan keahlian staf
• stabilitas finansial
• kesesuaian antara layanan yang diklaim dengan kemampuan nyata perusahaan

Pendekatan dua lapis ini bertujuan memastikan bahwa penguji yang terakreditasi tidak hanya ahli secara teknis tetapi juga dapat dipercaya secara operasional.

Jenis risiko AI yang biasanya diuji

AI TAP belum merilis daftar pengujian resmi yang bersifat universal. Namun berbagai proyek AI assurance di Singapura telah menyoroti sejumlah risiko umum yang sering diperiksa dalam sistem AI.

Risiko tersebut meliputi:

• kerentanan keamanan, termasuk upaya menembus sistem pengaman atau mengekstrak informasi terbatas
• kegagalan keamanan konten, seperti menghasilkan output berbahaya atau tidak pantas
• kebocoran data, terutama pada sistem retrieval‑augmented generation (RAG) yang terhubung ke basis pengetahuan internal
• celah keamanan lintas bahasa, ketika guardrail yang efektif dalam satu bahasa gagal di bahasa lain
• masalah akurasi dan konsistensi, termasuk fenomena “halusinasi” AI

Beberapa eksperimen pengujian menunjukkan bahwa guardrail yang bekerja baik dalam bahasa Inggris dapat gagal dalam bahasa lain, serta bahwa desain sistem tertentu dapat memperbesar risiko kebocoran informasi sensitif.

Metode yang digunakan untuk menguji AI

Organisasi penguji AI biasanya menggabungkan evaluasi otomatis dengan analisis manusia.

Metode yang digunakan dalam berbagai proyek assurance AI di Singapura antara lain:

• adversarial prompting dan red‑teaming untuk mencari celah jailbreak
• pembuatan dataset sintetis untuk mensimulasikan skenario kegagalan langka
• benchmark akurasi, termasuk akurasi klasifikasi dan presisi pencarian informasi
• human‑in‑the‑loop evaluation, di mana pakar manusia menilai output AI
• LLM‑as‑judge, yaitu menggunakan model AI lain untuk membantu menilai kualitas keluaran

Pendekatan ini memungkinkan penguji mengevaluasi kinerja model sekaligus ketahanan sistem pengamannya.

Dampak potensial bagi ekosistem keamanan AI global

Dengan mengakreditasi perusahaan penguji, AI TAP mencoba mengatasi masalah penting dalam tata kelola AI: memastikan bahwa evaluasi keamanan AI dapat dipercaya dan konsisten.

Jika berhasil, program ini bisa membawa beberapa dampak besar:

• meningkatkan kepercayaan perusahaan saat menggunakan jasa penguji eksternal
• menetapkan standar kompetensi untuk pengujian keamanan AI
• memudahkan perbandingan hasil pengujian lintas industri
• memperkuat kolaborasi antara pengembang AI dan auditor keamanan

Karena diposisikan sebagai skema akreditasi pertama di Asia untuk penguji AI, AI TAP juga berpotensi memengaruhi bagaimana negara lain merancang sistem AI assurance mereka sendiri.

Hal yang masih belum jelas

Meski tujuan dan struktur dasar AI TAP sudah diumumkan, beberapa detail operasional masih belum dipublikasikan secara lengkap, misalnya:

• model penilaian atau skor akreditasi
• protokol pengujian yang diwajibkan
• kemungkinan standar khusus untuk sektor tertentu seperti kesehatan atau keuangan

Detail tersebut kemungkinan akan semakin jelas ketika pendaftaran akreditasi resmi dibuka dan gelombang pertama perusahaan penguji mulai menjalani proses sertifikasi.

Gambaran besar

Pengujian keamanan AI semakin menjadi bagian penting dalam penerapan teknologi AI modern. Pemerintah dan perusahaan membutuhkan cara untuk memastikan bahwa sistem AI aman, stabil, dan sesuai dengan prinsip tata kelola yang bertanggung jawab.

Pendekatan Singapura berfokus pada mensertifikasi para penguji AI itu sendiri, sehingga tercipta lapisan evaluator independen yang dapat dipercaya oleh organisasi di berbagai sektor.

Jika berhasil, model seperti AI TAP dapat menjadi fondasi penting dalam ekosistem tata kelola AI global di masa depan.