新加坡如何让政府大规模使用AI，却不让智能代理“放飞自我”

这一区别十分关键。AI代理不只是生成文字：根据自身权限和系统连接情况，它还可能作出判断、调用工具，甚至以机器速度执行任务。因此，登记册更像是面向“数字员工”的资产清单和问责系统，而不只是一个软件目录。

GovTech对AI Assistant Desk的定位，是为公务员提供安全的数字助理环境。预计使用场景包括撰写报告、管理日程、编程、资料研究以及其他重复性工作。

技术护栏决定代理“能做什么”

新加坡拟采用的核心思路，是把安全控制放在AI应用周边的系统层，而不是只依赖某个模型本身的内置防护。已披露或报道的控制措施包括：

• 针对不同机构或使用场景配置规则；
• 规定可使用的AI工具和模型；
• 限制删除文件、发送外部邮件等高风险操作；
• 限制收件人数量，降低失控分发或垃圾邮件风险；
• 自动检查提示词和输出中的冒犯性语言等内容问题。

这体现的是“最小权限”原则：AI代理只能获得完成特定任务所必需的访问权和操作空间。尤其当政府机构同时使用多个模型，或让代理连接敏感的政府系统时，权限边界比单纯相信模型的自我约束更重要。

模型会更换，但安全要求不应随之改变

GovTech的AI Guardian为AI应用提供独立于基础模型之外的治理层。其中，Litmus在部署前通过对抗性测试评估安全与安保风险；Sentinel则在应用上线后进行实时内容审核和输出过滤。

将这些能力从底层模型中分离出来，有助于减少对单一模型供应商的依赖。GovTech还表示，AI Assistant Desk的安全架构经过设计，即使增加或替换第三方AI工具，原有保护措施也应继续有效。

这背后的逻辑很清楚：模型可以更新，政府对数据保护、允许执行的动作、活动监测和输出安全的要求则应保持稳定。GovTech的负责任AI框架将安全性、稳健性、安全与隐私、可解释性和透明度列为核心要求。

推广工具，也在培养使用和建设能力

新加坡的公共部门AI计划并不局限于自主代理。GovTech现有的Pair助手已支持公务员在政府配发设备上进行写作、研究、摘要和分析；该工具获准处理商业聊天机器人无法处理的敏感政府数据。

GovTech还在推进AI辅助软件工程和低代码开发，让技术团队及公务员能够更快地制作原型或自动化工作流程。此前的GovTech报道提到，相关方向包括AI代码助手、AI辅助工程，以及帮助机构将原型迁移到更安全环境中的工具。

培训同样是基础设施的一部分。GovTech为公务员提供数据与AI学习资源；新加坡更广泛的劳动力计划则包括面向技术专业人士的AI技能项目，帮助他们掌握自动化编程和构建智能代理系统的能力。

实际目标，是形成政府内部的长期能力：公务员需要知道哪些工作适合交给AI，技术团队需要能够评估和保护自己构建的系统，各机构也需要共享平台，而不是各自进行彼此割裂的试验。

公共服务项目说明：会回答，不等于做得对

GovTech参与的LangBuddy项目说明了为什么AI应用必须围绕真实任务进行评估。LangBuddy是一款AI语音聊天机器人，旨在帮助学生通过对话练习母语。

对于这类产品，评估不能只看聊天机器人是否能生成流畅回复。GovTech的评估工作还关注系统是否安全、是否容易产生幻觉，以及回答是否遵循预先设定的教学规则。

这一原则同样适用于其他公共服务：机构需要检验AI系统是否完成了设计目标，是否遵守约束，以及在真实互动中是否表现得当，而不能仅凭“听起来很像人”来判断质量。

网络安全既是前提，也是AI的应用场景

同样的治理思路也出现在GovTech的网络安全工作中。其公开能力包括安全系统设计、红队演练、渗透测试、众包漏洞披露，以及用于发现和响应威胁的蓝队能力。

GovTech还在测试AI增强的渗透测试和自动化安全运营中心（SOC）事件分流。换言之，AI正在被放到网络安全流程的两端：一端帮助发现系统弱点，另一端帮助防守方判断和排序安全事件。

部分报道在扩大安全测试的背景下提到政府拥有超过2,000个数字系统。现有材料能够支持新加坡正在推进红队测试、渗透测试和AI辅助安全运营这一总体方向，但不足以证明所有这些系统都已经开展持续性的AI测试。

这套计划对新加坡意味着什么

综合来看，相关项目服务于三个相互连接的目标：

1. 提升公共服务效率。 AI助手和代理可以承担报告起草、分析、编程及重复性流程，让公务员把更多时间投入复杂事务和面向公众的工作。
2. 强化政府内部技术能力。 共享平台、评估工具、安全层和培训体系，有助于新加坡保留运营与建设经验，而不是完全依赖某一家模型供应商或商业产品。
3. 保护公众信任与国家系统。 登记册、权限管理、可审计记录、安全测试和网络防御，为AI接触政府工作与数据建立监督机制。

新加坡这套路线传递出的核心信号是：安全扩大AI应用，首先是一个架构问题，其次才是模型问题。政府可以让AI更广泛地进入日常工作，但前提是所有权、权限、测试和活动记录仍然清晰可见，并由承担公共服务责任的机构掌握。