AI发展如何真正踩下刹车？新加坡的治理基础与待解难题

有意义的AI减速，重点应是放慢前沿能力的发展，而不是让整个经济领域的AI停摆。近期，多位AI业界人士公开呼吁进行独立评估、加强协调，这让相关议题进入讨论；但要把这些主张变成可信的保障措施，光靠自愿承诺还不够：评估必须独立，评估结果必须影响发布决定，规则也应与风险相称。

新加坡已有一些可用于推进这项工作的基础，包括智能体AI治理框架、AI Verify测试工具，以及认可第三方AI测试机构的计划。接下来的挑战，是把这些工具与清晰、基于证据的决策机制衔接起来，真正评估已经投入使用的系统。4

放慢AI发展的呼声，究竟说明了什么？

近期相关提议的重点，是控制前沿AI的发展节奏——也就是能力最强的一类系统。在这一领域，模型能力提升的速度可能快过开发者安全措施和外部监督的跟进能力。媒体报道的提议包括：让外部评估人员持续接触前沿AI公司、协调安全标准，以及推动更广泛的国际合作。

这些提议反映出关注度上升，但并不代表政策已经定型，也不意味着AI公司之间已有具约束力的协议。《国际AI安全报告》指出，风险管理仍在发展之中，企业的大多数相关举措仍属自愿性质。 这一区别很重要：公司承诺测试模型，并不等于有一条可执行的规定，要求它在重大风险尚未解决时推迟发布。

把“减速”落实为基于风险的发布门槛

可行的做法，是对能力更强、权限更大的系统设置更严格的条件，同时避免对日常AI应用一概叫停。用于起草文字的低影响工具，与获准执行重大操作的智能体，不应自动适用完全相同的要求。新加坡的智能体AI框架已建议组织评估并限制风险，并在重大或敏感操作前设置人工审批环节。46

对前沿模型和高影响力部署，监管者可以在这一原则上进一步建立发布流程，例如：

• 发布前进行独立评估： 为合格的外部评估人员提供安全访问相关系统和证据的途径，并评估危险能力及可预见的滥用风险。近期有关控制前沿AI发展节奏的呼声提出过持续开放评估权限的设想；但这并非普遍适用的现行要求。
• 明确门槛，并规定后续处置： 清楚说明哪些评估结果会触发额外防护、限制访问或延迟发布。若评估未通过，应有记录在案的应对措施；风险足够高时，应暂缓发布，而不只是再进行一次内部审查。这些是建议中的治理措施，并非新加坡现行框架所列的强制要求。4
• 让管控措施与部署方式相匹配： 对获得重大操作权限的智能体，可考虑限制其权限范围、要求关键步骤经人工批准、加强监控并明确责任。新加坡框架支持限制风险和落实有意义的人类监督；具体措施应视系统及其用途而定。48
• 系统发生重大变化时重新评估： 模型、可调用工具或部署环境出现重大变化后，应重新评估，而不是把早先的一次测试视作永久保证。这是让安全保障随着系统变化而持续有效的一项建议。

低风险应用则应有更清晰、负担更轻的使用路径。基于风险的规则可以为企业采用AI留出空间，但通过一次测试，不应被视为系统在所有情境下都安全的证明。欧盟《人工智能法案》就是按AI应用风险组织监管要求的一个例子。

规则由公共部门制定，测试保持独立

国际协调有助于提高评估结果的可比性，也能减少企业转向监管最宽松地区的压力。各国政府可以推动采用共同的测试方法、共享事件信息，并为最高风险系统制定最低要求；独立评估机构则可以依据这些要求提供证据。近期有关减速的提议同样呼吁企业之间以及跨国之间加强协调。

各方责任如何划分至关重要。公共部门应设定可执行的门槛，并确定越过门槛后的后果。企业可以提供技术知识，但不应成为判断自家系统是否达标的唯一一方。独立测试机构则需要公开透明的方法，并披露利益冲突。这些是设计一套监督制度时可考虑的原则，并非现有业界呼声已经确立的安排。

新加坡可以从哪些基础继续推进？

新加坡的《智能体AI模型治理框架》为部署智能体的组织提供指引，涵盖风险评估、人类责任以及管控措施。它是负责任部署的指导文件，本身并不是具有强制力的发布门槛。468

AI Verify提供测试工具，AI Tester Accreditation Programme（AI测试机构认证计划）则认可具备相关技术能力和运营准备度的第三方测试机构。 这些举措有望帮助企业和金融业形成更一致的评估方式。新加坡还可以推动建立通用的保障评估规范，以及明确合同条款，说明模型提供方、系统集成商、部署方和测试机构各自需要证明什么。这些都是潜在的后续方向，并非现有框架已经确立的政策。

一个值得追求的目标，是让不同国家或地区认可测试证据和方法，而不是宣称某一国家的认证能够保证所有系统、所有用途都安全。治理框架和测试工具可以让证据更有条理；主管部门和组织仍须判断这些证据是否涵盖了实际部署场景及其风险。

同时评估AI安全、软件可靠性和网络安全

评估AI智能体，不能只看模型输出。完整评估还应检查其周边的软件系统，以及它能访问的工具和权限是否安全可靠。这是彼此相关、但并不相同的几个问题：AI可能产生哪些有害行为？整合后的应用在故障或变化时会如何表现？攻击者能否入侵或操控系统？

把这些方面合并评估，是对现有保障工作的建议性扩展，并不意味着现有工具已经全部覆盖。AI Verify Toolkit介绍了针对传统机器学习系统的技术测试，包括公平性、可解释性和稳健性。因此，在智能体部署中，还需要明确哪些端到端测试不可或缺，而不能假设模型层面的测试结果就能为整个系统背书。

判断“减速”是否有意义的标准

当独立证据能够改变后续决策时，减速才真正有意义：如果高风险系统的防护不足，它就可能被延迟发布、限制使用或要求整改；与此同时，普通的低风险应用仍有合乎比例的部署路径。新加坡现有框架和测试计划为建立这类保障机制提供了基础，但发布门槛、执行方式和评估范围仍需明确。