Bagaimana Singapura Memperluas AI di Pemerintahan Tanpa Membiarkan Agen Bertindak Bebas

Hal ini penting karena agen AI tidak hanya menghasilkan teks. Bergantung pada izin dan integrasinya, agen dapat mengambil keputusan, memanggil alat digital, atau menjalankan tugas dengan kecepatan mesin. Karena itu, registry berfungsi sebagai inventaris sekaligus mekanisme akuntabilitas untuk “pekerja digital”, bukan sekadar katalog perangkat lunak.

GovTech menggambarkan AI Assistant Desk sebagai lingkungan asisten digital yang aman bagi pegawai negeri. Kasus penggunaannya diperkirakan mencakup penyusunan laporan, pengelolaan jadwal, pemrograman, riset, dan pekerjaan rutin lainnya.

Pengaman teknis menentukan batas gerak agen

Model yang diusulkan adalah menempatkan keselamatan pada sistem yang mengelilingi model AI, bukan hanya mengandalkan perlindungan bawaan dari satu model tertentu. Pengendalian yang telah dilaporkan mencakup:

• aturan yang dapat dikonfigurasi untuk tiap lembaga atau kasus penggunaan;
• alat AI yang telah disetujui pemerintah;
• pembatasan tindakan tertentu, seperti menghapus file atau mengirim surel ke pihak eksternal;
• pembatasan jumlah atau daftar penerima untuk mengurangi risiko distribusi yang tidak terkendali dan spam; serta
• pemeriksaan otomatis terhadap prompt dan keluaran untuk mendeteksi bahasa ofensif serta masalah kebersihan konten lainnya.

Kontrol ini mencerminkan prinsip hak akses minimum: sebuah agen hanya boleh menerima akses dan ruang tindakan yang diperlukan untuk tugasnya. Pendekatan tersebut menjadi semakin penting ketika lembaga menggunakan beberapa model sekaligus atau menghubungkan agen ke sistem pemerintah yang sensitif.

Lapisan keamanan tetap relevan saat model berganti

AI Guardian milik GovTech menyediakan lapisan tata kelola terpisah untuk aplikasi AI. Dua komponennya memiliki fungsi berbeda dalam siklus penggunaan AI: Litmus menilai risiko keselamatan dan keamanan sebelum penerapan melalui pengujian adversarial, sedangkan Sentinel melakukan moderasi konten dan penyaringan keluaran secara waktu nyata setelah aplikasi digunakan.

Memisahkan fungsi tersebut dari model yang mendasarinya dapat mengurangi ketergantungan pada satu penyedia. GovTech juga menyatakan bahwa arsitektur keamanan AI Assistant Desk dirancang agar perlindungannya tetap berlaku ketika alat AI pihak ketiga ditambahkan atau diganti.

Perbedaannya penting: model dapat berubah, tetapi persyaratan pemerintah terkait perlindungan data, tindakan yang diizinkan, pemantauan, dan keamanan keluaran seharusnya tetap stabil. Kerangka kerja AI yang bertanggung jawab milik GovTech menetapkan keselamatan, ketahanan, keamanan dan privasi, kemampuan untuk dijelaskan, serta transparansi sebagai persyaratan utama.

Adopsi AI berjalan bersama pembangunan kemampuan

Program AI sektor publik Singapura tidak hanya berfokus pada agen otonom. Asisten Pair milik GovTech telah mendukung penulisan, riset, peringkasan, dan analisis pada perangkat yang diterbitkan pemerintah. Pair juga disetujui untuk menangani data pemerintah yang sensitif, yang tidak dapat diproses oleh chatbot komersial biasa.

GovTech turut mengembangkan rekayasa perangkat lunak berbantuan AI dan pendekatan low-code agar tim teknis serta pegawai negeri dapat membuat prototipe atau mengotomatisasi alur kerja dengan lebih cepat. Laporan GovTech sebelumnya menyebut rencana menghadirkan asisten pemrograman, rekayasa berbantuan AI, dan alat yang membantu lembaga memindahkan prototipe ke lingkungan yang lebih aman.

Pelatihan juga menjadi bagian dari infrastruktur tersebut. GovTech menyediakan materi pembelajaran data dan AI bagi pegawai negeri, sementara rencana pengembangan tenaga kerja Singapura mencakup program keterampilan AI untuk profesional teknologi yang mengerjakan otomatisasi pemrograman dan pembangunan sistem agen.

Tujuan praktisnya adalah membangun kemampuan internal. Pegawai perlu memahami kapan AI tepat digunakan, tim teknis harus mampu mengevaluasi dan mengamankan sistem yang dibuat, dan setiap lembaga membutuhkan platform bersama—bukan kumpulan eksperimen yang berdiri sendiri.

Proyek sektor publik menunjukkan pentingnya evaluasi

Pekerjaan GovTech pada LangBuddy menunjukkan mengapa aplikasi AI harus dinilai berdasarkan tujuan sebenarnya. LangBuddy adalah chatbot suara berbasis AI yang membantu siswa berlatih bahasa ibu mereka melalui percakapan.

Untuk produk seperti ini, evaluasi tidak cukup hanya menilai apakah chatbot mampu memberikan jawaban yang lancar. Evaluasi GovTech juga mempertimbangkan keselamatan, risiko halusinasi, dan kepatuhan respons terhadap aturan pedagogis yang telah ditetapkan.

Prinsip ini berlaku lebih luas di layanan publik: lembaga perlu menguji apakah sistem AI benar-benar menjalankan tugas yang dirancang untuknya, mematuhi batasan, dan berperilaku baik dalam interaksi nyata—bukan sekadar terdengar meyakinkan.

Keamanan siber menjadi prasyarat sekaligus kasus penggunaan AI

Filosofi tata kelola yang sama terlihat dalam pekerjaan keamanan siber GovTech. Kapabilitas yang disebutkan mencakup perancangan sistem yang aman, latihan red team, pengujian penetrasi, program pelaporan kerentanan oleh publik, serta fungsi blue team untuk mendeteksi dan merespons ancaman.

GovTech juga menguji pengujian penetrasi berbantuan AI dan triase otomatis dalam operasi keamanan. Dengan demikian, AI ditempatkan di kedua sisi proses keamanan: membantu menemukan kelemahan sekaligus membantu tim pertahanan menentukan prioritas insiden.

Sejumlah laporan menyebut lebih dari 2.000 sistem digital pemerintah dalam konteks perluasan pengujian keamanan. Materi yang tersedia mendukung arah yang lebih luas—red team, pengujian penetrasi, dan operasi keamanan berbantuan AI—tetapi belum membuktikan bahwa pengujian AI secara berkelanjutan telah berjalan di setiap sistem tersebut.

Apa arti program ini bagi strategi Singapura?

Jika dilihat secara keseluruhan, berbagai inisiatif ini mendukung tiga tujuan yang saling terhubung:

1. Meningkatkan layanan publik. Asisten dan agen AI dapat menangani penyusunan dokumen, analisis, pemrograman, dan alur kerja rutin sehingga pegawai memiliki lebih banyak waktu untuk menangani pekerjaan yang kompleks serta melayani masyarakat.
2. Memperkuat kemampuan teknologi dalam negeri. Platform bersama, alat evaluasi, lapisan keamanan, dan pelatihan membantu Singapura mempertahankan pengetahuan operasional internal, alih-alih sepenuhnya bergantung pada satu penyedia model atau produk komersial.
3. Melindungi kepercayaan publik dan sistem nasional. Registry, pengaturan izin, auditabilitas, pengujian keselamatan, dan pertahanan siber menciptakan pengawasan ketika AI mulai memperoleh akses yang lebih besar ke pekerjaan dan data pemerintah.

Pelajaran utamanya adalah bahwa perluasan AI yang aman merupakan persoalan arsitektur, bukan hanya persoalan model. Singapura berupaya membuat AI tersedia secara luas, sambil memastikan kepemilikan, izin, pengujian, dan pemantauan aktivitas tetap terlihat oleh lembaga yang bertanggung jawab atas layanan publik.