新加坡AI测试机构认证计划（AI TAP）详解

目前公布的时间安排包括：

• 推出机构：AI Verify Foundation
• 预计上线时间：2026年下半年
• 认证申请开放：预计 2026年第三季度

新加坡为什么要推出 AI TAP

AI TAP的核心目标是：提升AI安全测试行业的可信度。

如今很多企业在部署AI系统前，会聘请专业机构进行安全测试，比如：

• 模型越狱测试
• 对抗性提示攻击
• 数据泄露风险评估

但问题在于：不同测试公司的能力差异很大。

AI TAP通过建立统一认证标准，希望解决两个关键问题：

1. 企业难以判断哪些AI测试机构真正专业
2. 不同机构的测试结果缺乏可比性

这一计划也是新加坡构建“可信AI生态系统”的一部分。相关配套项目包括：

• AI Verify 测试框架：帮助企业评估AI是否符合国际AI治理原则。
• Global AI Assurance Pilot 与 Sandbox：将AI开发企业与专业测试机构配对，探索真实应用场景的测试方法。

这些项目共同推动AI安全测试的标准化。

AI TAP 将如何认证测试公司

申请AI TAP认证的机构需要通过 两大类评估。

1. 技术能力评估

测试机构需要证明其技术方法符合AI系统测试指南，例如：

• 大语言模型（LLM）应用安全测试
• AI系统可靠性与稳健性测试
• 漏洞发现与利用测试

同时还需要展示：

• 标准化测试流程
• 合理的测试数据集
• 系统化评估方法

2. 机构运营评估

认证不仅评估技术，也会评估企业本身，例如：

• 企业信誉和行业记录
• 技术团队能力
• 财务稳定性
• 实际能力是否与宣传服务相符

这种“双层审核”旨在确保认证机构既有技术实力，也具备运营可信度。

AI安全测试通常会检查哪些风险

AI TAP目前尚未公布统一的完整测试清单，但新加坡已有的AI保障项目显示，测试通常关注以下风险：

• 安全漏洞：是否能绕过系统限制
• 内容安全问题：AI是否生成有害或违规内容
• 数据泄露风险：尤其是在RAG（检索增强生成）系统中
• 多语言安全差异：某些安全机制在不同语言下可能失效
• 准确性与稳定性问题：包括AI“幻觉”或回答不一致

例如，一些测试案例发现：

• 在英语下有效的安全防护，在中文环境中可能失效
• RAG系统虽然提升准确度，但可能扩大敏感数据泄露风险

这些问题正是AI安全测试需要重点发现的隐患。

AI安全测试常见方法

AI测试通常结合自动化工具和人工评估。常见方法包括：

• 对抗式提示（adversarial prompting）：尝试越狱模型
• 红队测试（red‑teaming）：模拟攻击者行为
• 合成测试数据：生成极端或罕见场景
• 准确度与检索精度测试
• 人工评审（human‑in‑the‑loop）
• LLM-as-judge：利用AI辅助评估输出

这些方法可以同时评估：

• AI系统性能
• 安全防护机制的可靠性

相关测试项目还包括对幻觉率、知识库检索准确率以及安全限制的压力测试。

AI TAP 对全球AI治理的潜在影响

AI治理正在面临一个现实难题：

谁来验证AI安全测试本身是否可靠？

AI TAP通过“认证测试机构”的方式，试图解决这个问题。

潜在影响包括：

• 企业更容易找到可信的AI安全测试服务
• AI测试行业形成统一能力标准
• 不同行业之间的测试结果更可比较
• AI开发者与安全审计机构合作更加规范

由于AI TAP被视为亚洲首个此类认证体系，它也可能影响其他国家未来如何建立AI安全评估制度。

仍待公布的细节

尽管AI TAP的总体框架已经公布，但一些关键细节仍未公开，例如：

• 认证评分模型
• 具体测试协议
• 是否会针对医疗、金融等行业制定专门标准

随着2026年第三季度开放申请，这些细节预计会逐渐明确。

更大的背景：AI安全正在成为基础设施

随着AI系统能力迅速增强，安全测试正逐渐成为AI部署前的必要环节。

新加坡的思路是：

不仅监管AI系统，也要认证测试AI的人。

如果AI TAP顺利实施，它可能成为全球AI治理体系中的重要一块拼图——为企业、政府和公众提供更可靠的AI安全保障。