新加坡的 AI 治理藍圖：用代理註冊表與技術護欄守住公部門安全

GovTech 預期，AI Assistant Desk 可支援撰寫報告、管理日程、程式編寫、研究及其他日常工作。 這種安排讓 AI 更接近一個受管理的工作夥伴，而不是擁有無限制系統存取權的自主工具。

技術護欄決定 AI 可以做什麼

新加坡提出的方向，是把安全控制放在 AI 應用周邊的系統層，而不是只依賴個別模型本身的安全措施。已披露或規劃中的控制包括：

• 為不同機構或使用情境設定可調整的規則；
• 提供獲核准或受認可的 AI 工具；
• 禁止刪除檔案、向外部寄送電郵等特定動作；
• 限制可接收訊息的對象數量，降低失控發送或垃圾訊息風險；
• 自動檢查提示和輸出，識別冒犯性語言及其他基本安全問題。

這套做法體現「最小權限」原則：AI 代理只應取得完成指定任務所需的存取權和行動範圍，而不是預設擁有更廣泛的操作能力。當政府機構同時使用多個模型，或把代理接入敏感的政府系統時，這種系統層面的限制尤其重要。

模型可以更換，安全底線不應跟著變

GovTech 的 AI Guardian 為 AI 應用提供獨立的治理與安全層。其中兩項工具分別處理部署前後的風險：Litmus 透過對抗性測試，在上線前評估安全及保安風險；Sentinel 則在應用運行期間進行即時內容審核和輸出過濾。

把這些功能從底層模型中分離出來，有助減少政府對單一供應商的依賴。GovTech 亦表示，AI Assistant Desk 的安全架構旨在確保即使加入或更換第三方 AI 工具，原有的保護措施仍能維持。

這個區分相當關鍵：模型可能會更新，供應商也可能改變，但政府對資料保護、可執行動作、監察機制及輸出安全的要求，應該保持穩定。GovTech 的負責任 AI 框架，將安全性、穩健性、保安與私隱、可解釋性及透明度列為核心要求。

從 Pair 到 AI 代理：採用與培訓同步進行

新加坡的公部門 AI 計畫並不只集中於自主代理。GovTech 的 Pair 助手已支援寫作、研究、摘要及分析，並可在政府發出的裝置上處理商業聊天機器人無法接觸的敏感政府資料。

GovTech 亦在發展 AI 輔助軟件工程及低程式碼工具，讓技術團隊和公務員更快製作原型或自動化工作流程。較早前的報道則提到，當局計畫引入 AI 程式編寫助手、AI 支援工程，以及協助機構把原型安全地投入使用的工具。

培訓同樣是這套基礎設施的一部分。GovTech 為公務員提供數據及 AI 學習資源；新加坡更廣泛的人才計畫，則包括為科技專業人士提供 AI 技能課程，協助他們進行程式編寫自動化及建構具代理能力的系統。

實際目標，是建立政府內部的長期能力：公務員要知道何時適合使用 AI，技術團隊要能評估及保護所開發的系統，而各機構也需要共享平台，避免 AI 變成彼此割裂、難以管理的試驗項目。

公共服務項目說明了「評估」為何不可省略

LangBuddy 是一個具體例子。這款 AI 語音聊天機器人，旨在讓學生透過對話練習母語。

對這類應用而言，評估不能只看聊天機器人是否能流暢回覆。GovTech 的評估工作同時考慮安全性、產生錯誤資訊的風險，以及回應是否遵守預定的教學規則。

這項原則也適用於其他公共服務：機構需要測試 AI 是否真正完成設計目標、是否遵守限制，以及在接近真實的互動中能否維持可接受的表現，而不是只因為它「聽起來很有說服力」就視為合格。

網絡安全既是前提，也是 AI 的應用場景

同一套治理思路也出現在 GovTech 的網絡安全工作中。其能力包括安全設計政府系統、紅隊演練、滲透測試、群眾外判漏洞披露，以及負責偵測和應對威脅的藍隊工作。

GovTech 也正在測試 AI 輔助滲透測試和自動化安全營運中心（SOC）分流。換句話說，AI 同時被放在防禦工作的兩端：一方面協助尋找系統弱點，另一方面協助防守團隊優先處理安全事件。

部分報道在擴大安全測試時提到超過 2,000 個政府數碼系統。不過，現有資料支持的主要方向是紅隊測試、滲透測試及 AI 輔助安全營運；資料並未證實，持續性的 AI 測試已經在這 2,000 多個系統中的每一個全面運行。

這套計畫對新加坡整體策略意味著什麼？

綜合來看，相關措施連結起三個目標：

1. 提升公共服務效率。 助手和代理可以處理報告草擬、分析、程式編寫及例行工作流程，讓公務員把更多時間投入複雜個案和面向市民的工作。
2. 強化內部科技能力。 共享平台、評估工具、安全層及培訓，有助新加坡保留自身的技術和營運知識，而不是完全依賴單一模型供應商或商業產品。
3. 維護公共信任與國家系統安全。 註冊表、權限管理、可稽核性、安全測試及網絡防禦，讓 AI 在接觸政府工作和資料時仍處於制度監督之下。

新加坡的核心訊息是：安全擴大 AI 應用，不只是模型能力問題，更是整體架構問題。當局正嘗試讓 AI 廣泛進入政府日常工作，同時把擁有人、權限、測試和活動紀錄清楚留在負責公共服務的機構手中。