Mengapa Josephine Teo Ingin Keamanan AI Belajar dari Penerbangan?

Orang naik pesawat dengan harapan bisa tiba dengan selamat. Kepercayaan itu tidak bergantung pada satu pemeriksaan saja, melainkan pada standar, petugas terlatih, dan pengamanan di berbagai tahap. Menteri Pembangunan Digital dan Informasi Singapura Josephine Teo menilai kecerdasan buatan (AI) mungkin kelak memerlukan pendekatan serupa agar masyarakat yakin menggunakannya. Pernyataannya pada 17 September 2026 adalah gambaran arah yang ingin dituju, bukan klaim bahwa sistem keselamatan AI setara penerbangan sudah tersedia. 31924

Mengapa pengamanan harus berlapis?

Dalam perbandingan Teo, pembuat model AI ibarat produsen pesawat: perannya penting, tetapi keselamatan tidak bisa dibebankan kepada mereka saja. Sistem AI juga perlu diuji, diterapkan secara bertanggung jawab, dan diawasi oleh orang yang memiliki kemampuan memadai. 1924

Risikonya terasa nyata ketika AI dipakai untuk keputusan yang berdampak pada seseorang. Teo, misalnya, pernah mengangkat pertanyaan tentang bagaimana nasabah dapat yakin bahwa penggunaan AI dalam persetujuan kredit tidak merugikan mereka. Ia juga menyoroti potensi bias dan hilangnya pengawasan manusia. Kerangka pengujian AI Singapura telah diperbarui untuk mencakup risiko kebocoran data sensitif, jawaban keliru yang tampak meyakinkan (halusinasi), dan keluaran berbahaya. Laporan mengenai pernyataannya pada September turut mencatat kekhawatiran tentang serangan siber dan penyalahgunaan untuk tujuan biologis. Semua itu adalah risiko yang perlu diantisipasi, bukan bukti bahwa setiap risiko tersebut telah terjadi dalam insiden yang berkaitan dengan usulnya. 25262739

Dalam pembahasan keselamatan AI yang lebih luas, Teo juga menyinggung gambar berbahaya buatan AI serta kewajiban layanan untuk menghapus konten semacam itu setelah menerima pemberitahuan. Namun, sumber yang tersedia tidak menunjukkan bahwa satu insiden tertentu memicu perbandingannya dengan penerbangan. 13

Apa yang sudah dikerjakan Singapura?

Singapura memiliki AI Verify, kerangka dan perangkat untuk mendorong pengujian AI yang bertanggung jawab dan transparan. Teo juga mengumumkan program akreditasi bagi penguji AI pihak ketiga yang independen, agar organisasi yang menggunakan AI lebih yakin saat memilih pihak yang mengevaluasi sistem mereka. 827

Di sisi teknis, proyek percontohan Global AI Assurance Pilot meneliti cara menguji keandalan aplikasi AI generatif. Pelajarannya digunakan oleh otoritas pengembangan media dan komunikasi Singapura, IMDA, untuk menyusun paket awal metode pengujian. Singapura juga menerbitkan kerangka tata kelola untuk agentic AI—sistem yang dapat bertindak dengan tingkat kemandirian lebih tinggi—dengan perhatian pada pengelolaan risiko dan pengawasan manusia. 299

Pekerjaan ini belum selesai. Karena produk AI digunakan lintas negara, Singapura mendorong metode evaluasi berbasis bukti yang dapat diterapkan di berbagai sistem regulasi. Teo mengatakan aturan dan standar yang diakui secara internasional akan penting, tetapi perlu waktu untuk terbentuk. Jadi, analogi penerbangan adalah target jangka panjang: membangun dan memperbaiki pengamanan seiring meluasnya penggunaan AI, tanpa menganggap perangkat uji dan panduan saat ini sudah menjadi rezim keselamatan yang menyeluruh. 6730