AI TAP 的目標包括：

• 建立一批具公信力、能夠進行嚴謹 AI 測試的機構；
• 為醫療、金融、招聘及公共服務等不同範疇的 AI 應用提供測試能力；
• 為「怎樣才算良好 AI 技術保障測試」建立一個實際的基本標準；
• 協助企業按自身的 AI 用途和風險範圍，尋找合適的獨立測試機構。

獲認可的公司會按一個清楚列明的測試範圍，獲 AI Verify Foundation 識別為具備相應技術能力及營運準備。基金會亦可能將這些公司與正在物色合資格測試機構的企業配對，從而提升部署者、相關持份者及最終用戶對測試結果的信心。

不過，AI TAP 認可的並不是某一個 AI 系統本身。獲認可的測試機構也不代表被測系統「完全安全」或「零風險」。實際部署環境、系統整合方式及新出現的風險，仍然可能需要另行處理；最終負責治理、接受風險及採取額外緩解措施的，仍然是部署 AI 的機構。

測試機構會測啲乜？

測試人員可以進行對抗性「紅隊測試」（red teaming），即模擬攻擊者，主動嘗試找出 AI 系統的防線漏洞。其中包括：

• Prompt injection（提示注入）：在輸入內容或系統會讀取的資料中加入具操控性的指令，試圖改變 AI 原本的行為；
• Jailbreak（越獄）：設法繞過模型的安全限制，誘使系統產生違反政策、不安全或有害的回應。

可涵蓋的評估範圍包括：

• 安全性及可靠性失誤，例如錯誤或虛構內容，以及有害或其他不良內容；
• 公平性問題，例如決策過程中的偏見；
• 私隱及保安問題，例如資料外洩和系統漏洞；
• 抵禦提示注入及越獄攻擊的能力，這對生成式 AI 和具代理功能的 AI 應用尤其重要。

申請認可要符合甚麼條件？

AI TAP 不只是睇一間公司有冇測試工具，亦會同時評估其技術能力和整體營運條件。主要要求包括：

• 技術能力：申請機構要證明自己能夠提供所申報的特定測試服務，評估時可參考 IMDA 的《大型語言模型應用安全及可靠性測試入門套件》（Starter Kit for Testing LLM-Based Applications for Safety and Reliability）。
• 治理及商業信譽：具備相關經驗、良好信譽，並承諾在新加坡進行商業活動。
• 財政可持續性：有足夠財政能力維持穩定營運。
• 營運準備：具備提供所申報服務所需的人手、流程及整體營運能力。
• 申報範圍準確：公司聲稱可以提供的測試服務，必須與實際展示到的能力相符。

IMDA Starter Kit 列出的五大 LLM 風險

Starter Kit 是一套自願採用的指引，用作大型語言模型（LLM）應用進行基本安全及可靠性測試。當中集中處理五類主要風險：

1. 幻覺及不準確內容；
2. 決策偏見；
3. 不良內容；
4. 資料外洩；
5. 系統漏洞，包括容易受對抗性提示影響的弱點。

簡單講，Starter Kit 提供的是測試思路和基本方法，不是保證任何 AI 應用一定安全的認證。企業仍然需要按自己的使用場景、資料流和系統整合情況，決定測試深度及額外防護措施。

要唔要交申請費？認可有效幾耐？

AI Verify Foundation 表示，AI TAP 不會收取申請費或認可費。此安排是希望降低參與門檻，鼓勵更多測試服務供應商加入，並協助 AI assurance 市場發展。

認可有效期為 12 個月。期滿後，機構需要續期，並證明自己仍然具備持續提供相關服務的能力，以配合測試標準和 AI 威脅環境不斷變化的情況。

據報已表示早期有興趣參與的公司包括 Advai、AIDX、Ernst & Young、Knovel Engineering、PwC、Resaro 和 Vulcan。

對企業和 AI 安全市場有咩影響？

AI TAP 的設計，主要是希望令第三方 AI 測試市場更加一致和可信。對企業來講，理想效果包括：

• 對測試機構的技術能力有較清晰、共同的基本期望；
• 測試結果有較完整的文件和證據支持；
• 測試範圍可以更貼近企業實際的 AI 用途和風險；
• 企業在部署 AI 前，有更多獨立評估可供參考。

目前提供的資料沒有列出業界代表就「客製化測試、治理或 AI 安全信心提升」所作的具體引述。因此，這些應被理解為計劃設計所支持的預期效果，而不是已經獲得證實的業界結論。AI TAP 透過公開辨識具備相應能力的測試機構、要求申報清楚測試範圍，以及鼓勵獨立評估，理論上可以協助企業更有把握地選擇測試服務，但不會取代企業本身的 AI 治理責任。

AI TAP 的目標包括：

• 建立一批具公信力、能夠進行嚴謹 AI 測試的機構；
• 為醫療、金融、招聘及公共服務等不同範疇的 AI 應用提供測試能力；
• 為「怎樣才算良好 AI 技術保障測試」建立一個實際的基本標準；
• 協助企業按自身的 AI 用途和風險範圍，尋找合適的獨立測試機構。

獲認可的公司會按一個清楚列明的測試範圍，獲 AI Verify Foundation 識別為具備相應技術能力及營運準備。基金會亦可能將這些公司與正在物色合資格測試機構的企業配對，從而提升部署者、相關持份者及最終用戶對測試結果的信心。

不過，AI TAP 認可的並不是某一個 AI 系統本身。獲認可的測試機構也不代表被測系統「完全安全」或「零風險」。實際部署環境、系統整合方式及新出現的風險，仍然可能需要另行處理；最終負責治理、接受風險及採取額外緩解措施的，仍然是部署 AI 的機構。

測試機構會測啲乜？

測試人員可以進行對抗性「紅隊測試」（red teaming），即模擬攻擊者，主動嘗試找出 AI 系統的防線漏洞。其中包括：

• Prompt injection（提示注入）：在輸入內容或系統會讀取的資料中加入具操控性的指令，試圖改變 AI 原本的行為；
• Jailbreak（越獄）：設法繞過模型的安全限制，誘使系統產生違反政策、不安全或有害的回應。

可涵蓋的評估範圍包括：

• 安全性及可靠性失誤，例如錯誤或虛構內容，以及有害或其他不良內容；
• 公平性問題，例如決策過程中的偏見；
• 私隱及保安問題，例如資料外洩和系統漏洞；
• 抵禦提示注入及越獄攻擊的能力，這對生成式 AI 和具代理功能的 AI 應用尤其重要。

申請認可要符合甚麼條件？

AI TAP 不只是睇一間公司有冇測試工具，亦會同時評估其技術能力和整體營運條件。主要要求包括：

• 技術能力：申請機構要證明自己能夠提供所申報的特定測試服務，評估時可參考 IMDA 的《大型語言模型應用安全及可靠性測試入門套件》（Starter Kit for Testing LLM-Based Applications for Safety and Reliability）。
• 治理及商業信譽：具備相關經驗、良好信譽，並承諾在新加坡進行商業活動。
• 財政可持續性：有足夠財政能力維持穩定營運。
• 營運準備：具備提供所申報服務所需的人手、流程及整體營運能力。
• 申報範圍準確：公司聲稱可以提供的測試服務，必須與實際展示到的能力相符。

IMDA Starter Kit 列出的五大 LLM 風險

Starter Kit 是一套自願採用的指引，用作大型語言模型（LLM）應用進行基本安全及可靠性測試。當中集中處理五類主要風險：

1. 幻覺及不準確內容；
2. 決策偏見；
3. 不良內容；
4. 資料外洩；
5. 系統漏洞，包括容易受對抗性提示影響的弱點。

簡單講，Starter Kit 提供的是測試思路和基本方法，不是保證任何 AI 應用一定安全的認證。企業仍然需要按自己的使用場景、資料流和系統整合情況，決定測試深度及額外防護措施。

要唔要交申請費？認可有效幾耐？

AI Verify Foundation 表示，AI TAP 不會收取申請費或認可費。此安排是希望降低參與門檻，鼓勵更多測試服務供應商加入，並協助 AI assurance 市場發展。

認可有效期為 12 個月。期滿後，機構需要續期，並證明自己仍然具備持續提供相關服務的能力，以配合測試標準和 AI 威脅環境不斷變化的情況。

據報已表示早期有興趣參與的公司包括 Advai、AIDX、Ernst & Young、Knovel Engineering、PwC、Resaro 和 Vulcan。

對企業和 AI 安全市場有咩影響？

AI TAP 的設計，主要是希望令第三方 AI 測試市場更加一致和可信。對企業來講，理想效果包括：

• 對測試機構的技術能力有較清晰、共同的基本期望；
• 測試結果有較完整的文件和證據支持；
• 測試範圍可以更貼近企業實際的 AI 用途和風險；
• 企業在部署 AI 前，有更多獨立評估可供參考。

目前提供的資料沒有列出業界代表就「客製化測試、治理或 AI 安全信心提升」所作的具體引述。因此，這些應被理解為計劃設計所支持的預期效果，而不是已經獲得證實的業界結論。AI TAP 透過公開辨識具備相應能力的測試機構、要求申報清楚測試範圍，以及鼓勵獨立評估，理論上可以協助企業更有把握地選擇測試服務，但不會取代企業本身的 AI 治理責任。