AI Assistant Desk：先要知道邊個負責

AI 代理登記冊預計會記錄每個代理由誰負責、獲准做甚麼，以及實際如何被使用。換句話說，政府部門可以將一個自動化系統清楚連繫到負責人，並隨時間檢視其活動紀錄。

這一點之所以重要，是因為 AI 代理的能力不限於生成文字。視乎所獲授權及接駁的系統，代理可能作出判斷、呼叫其他工具，甚至以機器速度完成工作。因此，登記冊更像是「數碼員工」的清單及問責機制，而不只是軟件目錄。

GovTech 形容，AI Assistant Desk 是一個供公務人員使用的安全數碼助理環境，預期用途包括撰寫報告、管理日程、寫程式、資料研究及其他日常工作。

由系統限制 AI，而不是只靠模型自己自律

新加坡提出的方向，是由 AI 周邊的系統架構執行安全規則，而不是單靠某一個 AI 模型本身的內置防護。據報道，相關控制包括：

• 按不同部門或使用場景設定規則；
• 只提供獲批准或認可的 AI 工具；
• 限制刪除檔案、向外發送電郵等行動；
• 限制可接收訊息的對象數量，降低失控傳送或垃圾訊息風險；以及
• 自動檢查提示及輸出，識別冒犯性語言等內容問題。

這套設計反映「最小權限」原則：AI 代理只應獲得完成指定工作所需的存取權及行動範圍。當政府部門同時使用多個模型，或者讓代理接駁敏感的政府系統時，這種做法尤其關鍵。

模型可以轉換，安全要求就不應該跟住變

GovTech 的 AI Guardian 為 AI 應用提供另一層管治。當中兩個主要組件分工不同：Litmus 在正式推出前，以對抗性測試評估安全及保安風險；Sentinel 則在應用上線後，提供即時內容審查及輸出過濾。

將這些功能獨立於底層模型，有助減少政府對單一供應商的依賴。GovTech 亦表示，AI Assistant Desk 的安全架構已設計成即使加入或更換第三方 AI 工具，原有的保護措施仍然可以維持。

當中的分別十分重要：模型可以更新，甚至更換，但政府對數據保障、准許的行動、監察及輸出安全的要求，應該保持穩定。GovTech 的負責任 AI 框架，將安全性、穩健性、保安及私隱、可解釋性和透明度列為核心要求。

推出工具之餘，亦要培養識用 AI 的人

新加坡的公共部門 AI 計劃並不只集中在自主代理。GovTech 現有的 Pair 助理，已支援公務人員進行寫作、研究、摘要及分析，並可在政府發出的裝置上處理商業聊天機械人未必能處理的敏感政府數據。

GovTech 亦正發展 AI 輔助軟件工程及低代碼工具，讓技術團隊和公務人員更快製作原型或自動化工作流程。較早前的 GovTech 報告亦提到，當局計劃引入 AI 寫程式助理、AI 輔助工程，以及協助部門將原型帶入更安全環境的工具。

培訓同樣是這套基礎建設的一部分。GovTech 為公務人員提供數據及 AI 學習資源；新加坡更廣泛的勞動力計劃，則包括為從事自動寫程式及 agentic systems 的科技專才提供 AI 技能培訓。

實際目標，是建立政府內部的能力：公務人員要知道甚麼時候適合用 AI，技術團隊要懂得評估及保護自己開發的系統，而各部門亦需要共用平台，避免 AI 變成各自為政、互不相通的零散試驗。

公共服務項目顯示：評估不能只看 AI 識唔識答

GovTech 開發 LangBuddy 的經驗，正好說明 AI 應用必須按照真實用途評估。LangBuddy 是一個 AI 語音聊天機械人，讓學生透過對話練習母語。

對這類產品來說，評估不能只看聊天機械人是否能夠流暢回覆。GovTech 的評估工作亦會考慮安全性、出現「幻覺」或虛構內容的風險，以及回應是否符合原本設定的教學規則。

這個原則同樣適用於其他公共服務：部門要測試 AI 是否真的完成設計目的、遵守限制，以及在接近真實的互動中表現是否恰當，而不只是聽起來夠不夠自然、夠不夠有說服力。

網絡保安既是前提，亦是 AI 的應用場景

同一套管治思路亦出現在 GovTech 的網絡保安工作。其公開列出的能力包括安全設計政府系統、紅隊演練、滲透測試、群眾漏洞披露，以及負責偵測和應對威脅的藍隊工作。

GovTech 同時試行 AI 輔助滲透測試及自動化安全營運中心事故分類，令 AI 可以出現在保安流程的兩端：一方面協助尋找弱點，另一方面協助防守團隊為事故排序及判斷優先次序。

部分報道在擴大保安測試的背景下提到政府擁有超過 2,000 個數碼系統。不過，現有資料支持的是紅隊測試、滲透測試及 AI 輔助安全營運的大方向，並未證實所有這些系統現時已經全面進行持續 AI 測試。

這套計劃對新加坡整體策略有甚麼意思？

綜合來看，相關措施連繫起三個目標：

1. 提升公共服務效率。 助理及 AI 代理可以處理撰寫、分析、寫程式及日常工作流程，讓公務人員有更多時間處理複雜個案及面向市民的工作。
2. 建立政府內部技術能力。 共用平台、評估工具、安全層及培訓，有助新加坡保留實際操作和技術知識，而不是完全依賴某一間模型供應商或商業產品。
3. 維持公眾信任及保護國家系統。 登記冊、權限管理、可稽核紀錄、安全測試及網絡防禦，為逐漸接觸政府工作和數據的 AI 加上監督機制。

核心訊息是：要安全地擴大 AI，問題不只是模型夠不夠強，更是整套架構點樣設計。新加坡正嘗試在讓 AI 廣泛可用的同時，確保擁有權、權限、測試和活動監察，都仍然清楚地掌握在負責提供公共服務的機構手上。

AI Assistant Desk：先要知道邊個負責

AI 代理登記冊預計會記錄每個代理由誰負責、獲准做甚麼，以及實際如何被使用。換句話說，政府部門可以將一個自動化系統清楚連繫到負責人，並隨時間檢視其活動紀錄。

這一點之所以重要，是因為 AI 代理的能力不限於生成文字。視乎所獲授權及接駁的系統，代理可能作出判斷、呼叫其他工具，甚至以機器速度完成工作。因此，登記冊更像是「數碼員工」的清單及問責機制，而不只是軟件目錄。

GovTech 形容，AI Assistant Desk 是一個供公務人員使用的安全數碼助理環境，預期用途包括撰寫報告、管理日程、寫程式、資料研究及其他日常工作。

由系統限制 AI，而不是只靠模型自己自律

新加坡提出的方向，是由 AI 周邊的系統架構執行安全規則，而不是單靠某一個 AI 模型本身的內置防護。據報道，相關控制包括：

• 按不同部門或使用場景設定規則；
• 只提供獲批准或認可的 AI 工具；
• 限制刪除檔案、向外發送電郵等行動；
• 限制可接收訊息的對象數量，降低失控傳送或垃圾訊息風險；以及
• 自動檢查提示及輸出，識別冒犯性語言等內容問題。

這套設計反映「最小權限」原則：AI 代理只應獲得完成指定工作所需的存取權及行動範圍。當政府部門同時使用多個模型，或者讓代理接駁敏感的政府系統時，這種做法尤其關鍵。

模型可以轉換，安全要求就不應該跟住變

GovTech 的 AI Guardian 為 AI 應用提供另一層管治。當中兩個主要組件分工不同：Litmus 在正式推出前，以對抗性測試評估安全及保安風險；Sentinel 則在應用上線後，提供即時內容審查及輸出過濾。

將這些功能獨立於底層模型，有助減少政府對單一供應商的依賴。GovTech 亦表示，AI Assistant Desk 的安全架構已設計成即使加入或更換第三方 AI 工具，原有的保護措施仍然可以維持。

當中的分別十分重要：模型可以更新，甚至更換，但政府對數據保障、准許的行動、監察及輸出安全的要求，應該保持穩定。GovTech 的負責任 AI 框架，將安全性、穩健性、保安及私隱、可解釋性和透明度列為核心要求。

推出工具之餘，亦要培養識用 AI 的人

新加坡的公共部門 AI 計劃並不只集中在自主代理。GovTech 現有的 Pair 助理，已支援公務人員進行寫作、研究、摘要及分析，並可在政府發出的裝置上處理商業聊天機械人未必能處理的敏感政府數據。

GovTech 亦正發展 AI 輔助軟件工程及低代碼工具，讓技術團隊和公務人員更快製作原型或自動化工作流程。較早前的 GovTech 報告亦提到，當局計劃引入 AI 寫程式助理、AI 輔助工程，以及協助部門將原型帶入更安全環境的工具。

培訓同樣是這套基礎建設的一部分。GovTech 為公務人員提供數據及 AI 學習資源；新加坡更廣泛的勞動力計劃，則包括為從事自動寫程式及 agentic systems 的科技專才提供 AI 技能培訓。

實際目標，是建立政府內部的能力：公務人員要知道甚麼時候適合用 AI，技術團隊要懂得評估及保護自己開發的系統，而各部門亦需要共用平台，避免 AI 變成各自為政、互不相通的零散試驗。

公共服務項目顯示：評估不能只看 AI 識唔識答

GovTech 開發 LangBuddy 的經驗，正好說明 AI 應用必須按照真實用途評估。LangBuddy 是一個 AI 語音聊天機械人，讓學生透過對話練習母語。

對這類產品來說，評估不能只看聊天機械人是否能夠流暢回覆。GovTech 的評估工作亦會考慮安全性、出現「幻覺」或虛構內容的風險，以及回應是否符合原本設定的教學規則。

這個原則同樣適用於其他公共服務：部門要測試 AI 是否真的完成設計目的、遵守限制，以及在接近真實的互動中表現是否恰當，而不只是聽起來夠不夠自然、夠不夠有說服力。

網絡保安既是前提，亦是 AI 的應用場景

同一套管治思路亦出現在 GovTech 的網絡保安工作。其公開列出的能力包括安全設計政府系統、紅隊演練、滲透測試、群眾漏洞披露，以及負責偵測和應對威脅的藍隊工作。

GovTech 同時試行 AI 輔助滲透測試及自動化安全營運中心事故分類，令 AI 可以出現在保安流程的兩端：一方面協助尋找弱點，另一方面協助防守團隊為事故排序及判斷優先次序。

部分報道在擴大保安測試的背景下提到政府擁有超過 2,000 個數碼系統。不過，現有資料支持的是紅隊測試、滲透測試及 AI 輔助安全營運的大方向，並未證實所有這些系統現時已經全面進行持續 AI 測試。

這套計劃對新加坡整體策略有甚麼意思？

綜合來看，相關措施連繫起三個目標：

1. 提升公共服務效率。 助理及 AI 代理可以處理撰寫、分析、寫程式及日常工作流程，讓公務人員有更多時間處理複雜個案及面向市民的工作。
2. 建立政府內部技術能力。 共用平台、評估工具、安全層及培訓，有助新加坡保留實際操作和技術知識，而不是完全依賴某一間模型供應商或商業產品。
3. 維持公眾信任及保護國家系統。 登記冊、權限管理、可稽核紀錄、安全測試及網絡防禦，為逐漸接觸政府工作和數據的 AI 加上監督機制。

核心訊息是：要安全地擴大 AI，問題不只是模型夠不夠強，更是整套架構點樣設計。新加坡正嘗試在讓 AI 廣泛可用的同時，確保擁有權、權限、測試和活動監察，都仍然清楚地掌握在負責提供公共服務的機構手上。