AI Assistant Desk dibina atas prinsip akauntabiliti

Daftar tersebut dirancang untuk merekodkan pihak yang memiliki sesuatu ejen AI, perkara yang dibenarkan untuk dilakukannya dan cara ejen itu digunakan. Dengan cara ini, setiap sistem automatik boleh dikaitkan dengan pemilik yang bertanggungjawab, manakala aktivitinya boleh disemak dari semasa ke semasa.

Perkara ini penting kerana ejen AI bukan sekadar menghasilkan teks. Bergantung pada tahap kebenaran dan sambungan kepada sistem lain, ejen boleh membuat keputusan, memanggil alat digital atau melaksanakan tugasan pada kelajuan mesin. Oleh itu, daftar itu berfungsi sebagai inventori dan mekanisme akauntabiliti untuk “pekerja digital”, bukan hanya senarai perisian.

GovTech menerangkan AI Assistant Desk sebagai persekitaran pembantu digital yang selamat untuk pegawai awam. Antara kegunaan yang dijangka termasuk menyediakan laporan, mengurus jadual, menulis kod, menjalankan penyelidikan dan mengendalikan tugasan rutin lain.

Kawalan teknikal menentukan perkara yang boleh dilakukan ejen

Model yang dicadangkan ialah meletakkan keselamatan pada sistem yang mengelilingi model AI, dan bukan hanya bergantung pada perlindungan terbina dalam satu-satu model. Kawalan yang dilaporkan termasuk:

• peraturan yang boleh disesuaikan mengikut agensi atau kegunaan;
• alat AI yang diluluskan atau dibenarkan;
• sekatan terhadap tindakan seperti memadam fail atau menghantar e-mel kepada pihak luar;
• had terhadap jumlah atau jenis penerima bagi mengurangkan risiko penyebaran tidak terkawal dan spam; serta
• pemeriksaan automatik terhadap arahan dan output bagi mengesan bahasa kesat serta isu kebersihan kandungan yang lain.

Kawalan ini mencerminkan prinsip keistimewaan minimum: ejen hanya diberi akses dan ruang tindakan yang diperlukan untuk menjalankan tugasan tertentu. Pendekatan itu amat penting apabila agensi menggunakan beberapa model AI atau menghubungkan ejen kepada sistem kerajaan yang mengandungi data sensitif.

Lapisan keselamatan kekal walaupun model berubah

AI Guardian GovTech menyediakan lapisan tadbir urus yang berasingan untuk aplikasi AI. Dua komponennya mempunyai fungsi berbeza pada peringkat kitar hayat aplikasi: Litmus menilai risiko keselamatan dan sekuriti sebelum pelancaran melalui ujian adversarial, manakala Sentinel menyediakan penyederhanaan kandungan masa nyata dan penapisan output selepas aplikasi digunakan.

Dengan memisahkan fungsi ini daripada model asas, kerajaan boleh mengurangkan kebergantungan kepada satu-satu penyedia. GovTech turut menyatakan bahawa seni bina keselamatan AI Assistant Desk direka untuk mengekalkan perlindungannya apabila alat AI pihak ketiga ditambah atau digantikan.

Perbezaan ini penting: model mungkin berubah, tetapi keperluan kerajaan berhubung perlindungan data, tindakan yang dibenarkan, pemantauan dan keselamatan output perlu kekal konsisten. Kerangka AI bertanggungjawab GovTech mengenal pasti keselamatan, keteguhan, sekuriti dan privasi, kebolehjelasan serta ketelusan sebagai keperluan teras.

Penggunaan AI disertai pembinaan kemahiran

Program AI sektor awam Singapura tidak terhad kepada ejen autonomi. Pembantu Pair milik GovTech sudah menyokong penulisan, penyelidikan, membuat ringkasan dan analisis pada peranti rasmi kerajaan, termasuk tugasan yang melibatkan data sensitif yang tidak boleh diproses menggunakan chatbot komersial.

GovTech juga membangunkan kejuruteraan perisian berbantukan AI dan pendekatan kod rendah supaya pasukan teknikal serta pegawai awam boleh membina prototaip atau mengautomasikan aliran kerja dengan lebih pantas. Laporan terdahulu GovTech menyebut rancangan untuk memperkenalkan pembantu pengekodan AI, kejuruteraan berbantukan AI dan alat yang membantu agensi memindahkan prototaip ke persekitaran yang lebih selamat.

Latihan turut menjadi sebahagian daripada infrastruktur tersebut. GovTech menyediakan bahan pembelajaran data dan AI untuk pegawai awam, manakala rancangan tenaga kerja Singapura yang lebih luas merangkumi program kemahiran AI bagi golongan profesional teknologi yang membangunkan sistem pengekodan automatik dan ejen AI.

Matlamat praktikalnya adalah membina keupayaan dalaman. Pegawai perlu tahu bila AI sesuai digunakan, pasukan teknikal perlu mampu menilai serta melindungi sistem yang dibina, dan agensi memerlukan platform bersama — bukan himpunan percubaan yang terpisah-pisah.

Projek sektor awam menunjukkan mengapa penilaian penting

Kerja GovTech terhadap LangBuddy menggambarkan keperluan menilai aplikasi AI berdasarkan tujuan sebenar penggunaannya. LangBuddy ialah chatbot suara berasaskan AI yang direka untuk membantu pelajar berlatih bahasa ibunda melalui perbualan.

Bagi produk seperti ini, penilaian yang baik tidak boleh berhenti pada persoalan sama ada chatbot mampu memberikan jawapan yang lancar. Kerja penilaian GovTech turut melihat aspek keselamatan, risiko halusinasi dan sama ada jawapan mematuhi peraturan pedagogi yang ditetapkan.

Prinsip yang sama boleh digunakan dalam perkhidmatan awam lain: agensi perlu menguji sama ada sistem AI benar-benar menjalankan tugas yang ditetapkan, mematuhi batasannya dan berkelakuan sewajarnya dalam interaksi dunia sebenar — bukan sekadar kedengaran meyakinkan.

Keselamatan siber menjadi prasyarat dan juga bidang penggunaan AI

Falsafah tadbir urus yang sama turut kelihatan dalam kerja keselamatan siber GovTech. Keupayaan yang dinyatakan termasuk reka bentuk sistem yang selamat, latihan red team, ujian penembusan, program pendedahan kerentanan oleh orang ramai dan fungsi blue team untuk mengesan serta bertindak balas terhadap ancaman.

GovTech juga menguji ujian penembusan berbantukan AI dan proses pengutamaan insiden secara automatik dalam operasi keselamatan. Dalam percubaan ini, AI digunakan pada kedua-dua sisi proses keselamatan: membantu mencari kelemahan dan membantu pasukan pertahanan menentukan insiden yang perlu diberi keutamaan.

Sesetengah laporan menyebut lebih 2,000 sistem digital kerajaan dalam konteks memperluas ujian keselamatan. Bahan yang tersedia menyokong hala tuju yang lebih luas — red team, ujian penembusan dan operasi keselamatan berbantukan AI — tetapi tidak membuktikan bahawa ujian AI berterusan sudah dilaksanakan pada setiap satu daripada sistem tersebut.

Apa maknanya untuk strategi Singapura?

Secara keseluruhan, inisiatif ini menyokong tiga matlamat yang saling berkait:

1. Meningkatkan penyampaian perkhidmatan awam. Pembantu dan ejen AI boleh mengendalikan penyediaan dokumen, analisis, pengekodan dan aliran kerja rutin, sekali gus memberi lebih ruang kepada pegawai untuk mengurus kes kompleks serta tugasan yang berhubung terus dengan rakyat.
2. Memperkukuh keupayaan teknologi dalaman. Platform bersama, alat penilaian, lapisan keselamatan dan latihan membantu Singapura mengekalkan pengetahuan operasi di dalam negara, bukannya bergantung sepenuhnya kepada satu penyedia model atau produk komersial.
3. Melindungi kepercayaan awam dan sistem nasional. Daftar, kebenaran akses, kebolehkesanan aktiviti, ujian keselamatan dan pertahanan siber mewujudkan pengawasan ketika AI mula mendapat akses kepada kerja serta data kerajaan.

Pengajaran utamanya ialah memperluas AI dengan selamat merupakan masalah seni bina, bukan semata-mata masalah model. Singapura cuba menjadikan AI tersedia secara meluas sambil memastikan pemilikan, kebenaran, ujian dan pemantauan aktiviti kekal dapat dilihat oleh institusi yang bertanggungjawab menyampaikan perkhidmatan awam.

AI Assistant Desk dibina atas prinsip akauntabiliti

Daftar tersebut dirancang untuk merekodkan pihak yang memiliki sesuatu ejen AI, perkara yang dibenarkan untuk dilakukannya dan cara ejen itu digunakan. Dengan cara ini, setiap sistem automatik boleh dikaitkan dengan pemilik yang bertanggungjawab, manakala aktivitinya boleh disemak dari semasa ke semasa.

Perkara ini penting kerana ejen AI bukan sekadar menghasilkan teks. Bergantung pada tahap kebenaran dan sambungan kepada sistem lain, ejen boleh membuat keputusan, memanggil alat digital atau melaksanakan tugasan pada kelajuan mesin. Oleh itu, daftar itu berfungsi sebagai inventori dan mekanisme akauntabiliti untuk “pekerja digital”, bukan hanya senarai perisian.

GovTech menerangkan AI Assistant Desk sebagai persekitaran pembantu digital yang selamat untuk pegawai awam. Antara kegunaan yang dijangka termasuk menyediakan laporan, mengurus jadual, menulis kod, menjalankan penyelidikan dan mengendalikan tugasan rutin lain.

Kawalan teknikal menentukan perkara yang boleh dilakukan ejen

Model yang dicadangkan ialah meletakkan keselamatan pada sistem yang mengelilingi model AI, dan bukan hanya bergantung pada perlindungan terbina dalam satu-satu model. Kawalan yang dilaporkan termasuk:

• peraturan yang boleh disesuaikan mengikut agensi atau kegunaan;
• alat AI yang diluluskan atau dibenarkan;
• sekatan terhadap tindakan seperti memadam fail atau menghantar e-mel kepada pihak luar;
• had terhadap jumlah atau jenis penerima bagi mengurangkan risiko penyebaran tidak terkawal dan spam; serta
• pemeriksaan automatik terhadap arahan dan output bagi mengesan bahasa kesat serta isu kebersihan kandungan yang lain.

Kawalan ini mencerminkan prinsip keistimewaan minimum: ejen hanya diberi akses dan ruang tindakan yang diperlukan untuk menjalankan tugasan tertentu. Pendekatan itu amat penting apabila agensi menggunakan beberapa model AI atau menghubungkan ejen kepada sistem kerajaan yang mengandungi data sensitif.

Lapisan keselamatan kekal walaupun model berubah

AI Guardian GovTech menyediakan lapisan tadbir urus yang berasingan untuk aplikasi AI. Dua komponennya mempunyai fungsi berbeza pada peringkat kitar hayat aplikasi: Litmus menilai risiko keselamatan dan sekuriti sebelum pelancaran melalui ujian adversarial, manakala Sentinel menyediakan penyederhanaan kandungan masa nyata dan penapisan output selepas aplikasi digunakan.

Dengan memisahkan fungsi ini daripada model asas, kerajaan boleh mengurangkan kebergantungan kepada satu-satu penyedia. GovTech turut menyatakan bahawa seni bina keselamatan AI Assistant Desk direka untuk mengekalkan perlindungannya apabila alat AI pihak ketiga ditambah atau digantikan.

Perbezaan ini penting: model mungkin berubah, tetapi keperluan kerajaan berhubung perlindungan data, tindakan yang dibenarkan, pemantauan dan keselamatan output perlu kekal konsisten. Kerangka AI bertanggungjawab GovTech mengenal pasti keselamatan, keteguhan, sekuriti dan privasi, kebolehjelasan serta ketelusan sebagai keperluan teras.

Penggunaan AI disertai pembinaan kemahiran

Program AI sektor awam Singapura tidak terhad kepada ejen autonomi. Pembantu Pair milik GovTech sudah menyokong penulisan, penyelidikan, membuat ringkasan dan analisis pada peranti rasmi kerajaan, termasuk tugasan yang melibatkan data sensitif yang tidak boleh diproses menggunakan chatbot komersial.

GovTech juga membangunkan kejuruteraan perisian berbantukan AI dan pendekatan kod rendah supaya pasukan teknikal serta pegawai awam boleh membina prototaip atau mengautomasikan aliran kerja dengan lebih pantas. Laporan terdahulu GovTech menyebut rancangan untuk memperkenalkan pembantu pengekodan AI, kejuruteraan berbantukan AI dan alat yang membantu agensi memindahkan prototaip ke persekitaran yang lebih selamat.

Latihan turut menjadi sebahagian daripada infrastruktur tersebut. GovTech menyediakan bahan pembelajaran data dan AI untuk pegawai awam, manakala rancangan tenaga kerja Singapura yang lebih luas merangkumi program kemahiran AI bagi golongan profesional teknologi yang membangunkan sistem pengekodan automatik dan ejen AI.

Matlamat praktikalnya adalah membina keupayaan dalaman. Pegawai perlu tahu bila AI sesuai digunakan, pasukan teknikal perlu mampu menilai serta melindungi sistem yang dibina, dan agensi memerlukan platform bersama — bukan himpunan percubaan yang terpisah-pisah.

Projek sektor awam menunjukkan mengapa penilaian penting

Kerja GovTech terhadap LangBuddy menggambarkan keperluan menilai aplikasi AI berdasarkan tujuan sebenar penggunaannya. LangBuddy ialah chatbot suara berasaskan AI yang direka untuk membantu pelajar berlatih bahasa ibunda melalui perbualan.

Bagi produk seperti ini, penilaian yang baik tidak boleh berhenti pada persoalan sama ada chatbot mampu memberikan jawapan yang lancar. Kerja penilaian GovTech turut melihat aspek keselamatan, risiko halusinasi dan sama ada jawapan mematuhi peraturan pedagogi yang ditetapkan.

Prinsip yang sama boleh digunakan dalam perkhidmatan awam lain: agensi perlu menguji sama ada sistem AI benar-benar menjalankan tugas yang ditetapkan, mematuhi batasannya dan berkelakuan sewajarnya dalam interaksi dunia sebenar — bukan sekadar kedengaran meyakinkan.

Keselamatan siber menjadi prasyarat dan juga bidang penggunaan AI

Falsafah tadbir urus yang sama turut kelihatan dalam kerja keselamatan siber GovTech. Keupayaan yang dinyatakan termasuk reka bentuk sistem yang selamat, latihan red team, ujian penembusan, program pendedahan kerentanan oleh orang ramai dan fungsi blue team untuk mengesan serta bertindak balas terhadap ancaman.

GovTech juga menguji ujian penembusan berbantukan AI dan proses pengutamaan insiden secara automatik dalam operasi keselamatan. Dalam percubaan ini, AI digunakan pada kedua-dua sisi proses keselamatan: membantu mencari kelemahan dan membantu pasukan pertahanan menentukan insiden yang perlu diberi keutamaan.

Sesetengah laporan menyebut lebih 2,000 sistem digital kerajaan dalam konteks memperluas ujian keselamatan. Bahan yang tersedia menyokong hala tuju yang lebih luas — red team, ujian penembusan dan operasi keselamatan berbantukan AI — tetapi tidak membuktikan bahawa ujian AI berterusan sudah dilaksanakan pada setiap satu daripada sistem tersebut.

Apa maknanya untuk strategi Singapura?

Secara keseluruhan, inisiatif ini menyokong tiga matlamat yang saling berkait:

1. Meningkatkan penyampaian perkhidmatan awam. Pembantu dan ejen AI boleh mengendalikan penyediaan dokumen, analisis, pengekodan dan aliran kerja rutin, sekali gus memberi lebih ruang kepada pegawai untuk mengurus kes kompleks serta tugasan yang berhubung terus dengan rakyat.
2. Memperkukuh keupayaan teknologi dalaman. Platform bersama, alat penilaian, lapisan keselamatan dan latihan membantu Singapura mengekalkan pengetahuan operasi di dalam negara, bukannya bergantung sepenuhnya kepada satu penyedia model atau produk komersial.
3. Melindungi kepercayaan awam dan sistem nasional. Daftar, kebenaran akses, kebolehkesanan aktiviti, ujian keselamatan dan pertahanan siber mewujudkan pengawasan ketika AI mula mendapat akses kepada kerja serta data kerajaan.

Pengajaran utamanya ialah memperluas AI dengan selamat merupakan masalah seni bina, bukan semata-mata masalah model. Singapura cuba menjadikan AI tersedia secara meluas sambil memastikan pemilikan, kebenaran, ujian dan pemantauan aktiviti kekal dapat dilihat oleh institusi yang bertanggungjawab menyampaikan perkhidmatan awam.