新加坡 AI Tester Accreditation Programme（AI TAP）是甚麼？

為甚麼要推出 AI TAP

AI TAP 的核心目標是 提高 AI 安全測試服務的可信度。

不少企業在部署 AI 系統之前，都會找外部公司做測試，例如：

• red‑teaming（模擬攻擊）
• jailbreak 測試
• 安全防護繞過測試

但目前市場上測試公司的水平差異很大，很難判斷哪一間真正可靠。

AI TAP 的作用，就是建立一個 正式的認證標準，確保提供 AI 測試服務的公司具備足夠能力與可信度。

這個計劃亦是新加坡更大策略的一部分：建立一個 可信的 AI 生態系統，在推動創新與安全之間取得平衡。

相關配套還包括：

• AI Verify 測試框架：協助企業檢查 AI 系統是否符合國際 AI 治理原則。
• Global AI Assurance Pilot 與 Sandbox：讓企業與 AI 測試公司合作，開發實際測試方法。

AI TAP 如何認證 AI 測試公司

申請 AI TAP 認證的公司需要通過 兩大類評估。

1. 技術能力評估

測試機構需要證明其測試方法符合公認的 AI 測試指引，例如：

• 大型語言模型（LLM）應用安全
• 系統可靠性與穩定性測試
• 漏洞與 exploit 發現能力

公司亦要展示結構化的測試流程，以及用於評估 AI 系統的測試資料集。

2. 公司營運與管理評估

除了技術能力，AI TAP 亦會審查公司本身的運作情況，例如：

• 公司信譽與過往紀錄
• 專業團隊與營運能力
• 財務穩健程度
• 宣稱服務與實際能力是否一致

透過這種 技術 + 機構層面 的雙重審核，確保獲認證的測試機構既有專業能力，也具備可信度。

AI 測試通常會檢查哪些風險

AI TAP 未公布一份固定測試清單，但新加坡現有 AI assurance 研究已指出常見測試重點，包括：

• 安全漏洞與可利用性：例如嘗試繞過安全限制或提取敏感資訊
• 內容安全問題：AI 生成有害或不當內容
• 資料洩漏風險：特別是連接企業知識庫的 RAG 系統
• 多語言安全漏洞：某些防護在一種語言有效，但在另一種語言失效
• 準確度與穩定性問題：例如 hallucination（虛構答案）

例如測試曾發現，一些在英文測試合格的安全防護，在中文環境下可能失效。

AI assurance 常用測試方法

AI 測試通常會結合自動化工具與人工評估，例如：

• Adversarial prompting / red‑teaming：嘗試「越獄」AI 系統
• 合成測試數據（synthetic datasets）：建立極端或罕見情境
• 準確度基準測試：例如分類準確率或資料檢索精度
• Human‑in‑the‑loop 評估：專家人工審查輸出
• LLM‑as‑judge 方法：利用 AI 協助大規模評估回應

這些方法可以同時測試 模型性能與安全防護機制。

AI TAP 對全球 AI 安全的潛在影響

AI TAP 的一個重要概念是：不只是測試 AI，而是先認證測試者本身。

這樣的制度可能帶來幾個影響：

• 企業在聘請 AI 測試公司時更有信心
• 行業對 AI 安全測試能力有更清晰標準
• 不同行業或國家之間的測試結果更容易比較
• AI 開發者與安全審核機構合作更緊密

由於 AI TAP 被視為亞洲首個相關認證制度，它未來亦可能影響其他國家建立 AI assurance 標準的方式。

仍未完全公開的細節

雖然 AI TAP 的方向已經公布，但一些操作細節仍未公開，例如：

• 認證評分模型
• 必須採用的測試流程
• 不同行業（例如金融或醫療）的專門標準

這些資訊預計會在計劃正式接受申請後逐步公布。

大局：AI 安全測試的重要性

隨著 AI 系統變得愈來愈複雜，安全測試正在成為 AI 部署不可或缺的一環。

新加坡的策略是建立一層可信的第三方測試生態，透過認證測試機構，確保 AI 系統在推出之前已經經過嚴格審查。

如果 AI TAP 成功，它可能成為全球 AI 治理體系中的重要一塊基石。