シンガポールのAIテスター認定制度「AI TAP」とは？

テスターは何を検証するのか

認定候補となる企業は、いわゆる「レッドチーム」方式の敵対的テストを行うことが想定されています。これは、攻撃者の視点からAIの防御を試す方法です。

具体的には、入力に悪意ある指示を紛れ込ませる「プロンプトインジェクション」や、AIの安全策を回避する「ジェイルブレイク」を試し、通常なら拒否される危険な動作やポリシー違反の出力を誘発できないか調べます。

検証対象には、次のようなリスクが含まれます。

• 安全性・信頼性の問題：不正確な回答、事実ではない内容の生成、有害または望ましくないコンテンツ。
• 公平性の問題：意思決定における偏りや差別的な傾向。
• プライバシー・セキュリティの問題：データ漏えいやシステムの脆弱性。
• 攻撃への耐性：プロンプトインジェクションやジェイルブレイクに対する防御力。生成AIや、外部ツールと連携して自律的に動くAIエージェントでは特に重要な検証項目です。

認定を受けるための条件

AI TAPでは、テスト技術だけでなく、企業として安定してサービスを提供できるかどうかも審査されます。主な評価項目は以下のとおりです。

• 技術的能力：申請した特定の検証サービスを実施できること。IMDAの「大規模言語モデル（LLM）ベースのアプリケーションの安全性・信頼性テスト向けスターターキット」などの指針に沿って評価されます。
• ガバナンスと事業上の信頼性：関連する実績、良好な事業上の立場、シンガポールで事業活動を行う意思。
• 財務の持続性：事業を継続的に運営できる十分な財務基盤。
• 運用体制：申請したサービスを提供するための十分な人員・業務能力と準備状況。
• 申請範囲の正確性：企業が申告するサービス範囲と、実際に証明できる能力が一致していること。

LLMテストの5つの重点リスク

IMDAのスターターキットは、LLMを使ったアプリケーションの安全性・信頼性を最低限確認するための任意のガイドラインです。重点的に扱うリスクは次の5つです。

1. ハルシネーションと不正確さ：もっともらしい誤情報を生成する問題。
2. 意思決定の偏り：特定の属性や集団に対して不公平な判断をする問題。
3. 望ましくないコンテンツ：有害、攻撃的、または不適切な内容を出力する問題。
4. データ漏えい：入力情報や機密情報が意図せず露出する問題。
5. 脆弱性：敵対的なプロンプトなどによって安全策を回避される問題。

費用、認定期間、参加に関心を示す企業

AI Verify Foundationによると、AI TAPでは申請料と認定料を徴収しない予定です。参加への障壁を下げ、AI保証サービスの市場拡大を促す狙いがあります。

認定の有効期間は12か月です。更新時には、AIの基準や脅威の状況が変化するなかでも、企業が継続して十分な能力を維持していることを示す必要があります。

早期の関心を示した企業としては、Advai、AIDX、Ernst & Young、Knovel Engineering、PwC、Resaro、Vulcanが挙げられています。

AIの安全性にどんな影響があるのか

AI TAPが目指すのは、外部テスト市場をより一貫性と信頼性のあるものにすることです。テスターの能力に共通の期待値を設け、検証範囲を明文化し、証拠に基づく再現可能な評価を促すことで、企業は自社の用途やリスクに合ったテストを選びやすくなります。

利用可能な資料には、業界関係者が「カスタマイズ性」「ガバナンス」「AI安全性への信頼」の改善について具体的に語った内容は含まれていません。ただ、認定企業の能力と検証範囲を明確にし、独立した評価を受けやすくするという制度設計は、こうした効果を支えるものと考えられます。

重要なのは、認定マークだけでAIの安全性を判断しないことです。導入企業は、実際の利用目的、扱うデータ、接続するシステム、許容できるリスクを踏まえて検証範囲を定め、必要な追加対策を講じる必要があります。