アクセンチュアとAnthropicは9月18日、最先端AIの安全性を継続的に検証するための5年計画を発表した。両社はそれぞれ少なくとも10億ドル、合計で少なくとも20億ドルをこの分野の能力構築に投じる見込みだ。313

中核となるのは、通常の外部監査とは異なる**「常駐型評価（embedded evaluation）」**である。外部の評価者がAnthropicのチームの近くで継続的に活動し、完成直前のモデルだけでなく、開発・学習・運用・提供に伴う安全対策を検証する構想だ。

Facultyが担う評価の範囲

プログラムは、アクセンチュアの専門AI事業であるFacultyが主導する。評価チームはAnthropicの社内チームおよび安全性パートナーと協働し、モデル評価とレッドチーミング、アラインメント評価、安全保護策のテストを担う。313

レッドチーミングとは、AIが想定外または危険な振る舞いをしないかを意図的に試験し、弱点を探る手法を指す。今回の枠組みでは、モデルそのものに加え、モデルを訓練・配備する過程や運用上の慣行も対象となる。

Anthropicが説明する常駐型評価の狙いは、単発の監査を超えた検証にある。外部評価者に社員に近い継続的なアクセスを与え、同社が掲げる学習、デプロイ、運用、保護措置の方針を実際に守っているかを確かめるという。1441

もっとも、両社自身も常駐型評価は新しい取り組みであり、運用の詳細には今後詰めるべき点が多いとしている。13

独立性はどう確保されるのか

Anthropicが示してきた広い構想では、外部評価者は社内のリスク評価チームに概ね近い水準のアクセスを持ち、執務空間へのアクセスや従業員との対話も可能になるとされる。また、リスク、事故、実務、そして自らに与えられたアクセスについての重要な調査結果を、Anthropicの編集上の統制を受けずに公表できる仕組みを目指す。1441

一方で、完全に無制限というわけではない。Anthropicは、セキュリティ上機微な情報、弁護士秘匿特権の対象となる情報、商業上機微な情報、第三者の秘密情報については、限定的に編集・削除する権限を留保する方針だ。1441

したがって、この制度の実効性を判断するうえで重要なのは、最終的な契約がどこまで具体的なアクセス権、報告ルール、情報開示の権利を保証するかである。評価者が厳しい結論を出した場合にも、それを十分に公表できるのかが問われる。

アモデイCEOの「We Must Pace the Frontier」との関係

Anthropicは今回の提携を、CEOのダリオ・アモデイ氏がエッセイ「We Must Pace the Frontier」で掲げた、第三者評価者を社内に組み込む約束を実行に移す初期段階と位置づけている。13

同氏の提案は、大きく3段階から成る。

1. 第三者評価者の常駐：最先端AI企業が独立した評価者に継続的かつ社員に近いアクセスを提供し、安全慣行、訓練パイプライン、モデル、インシデントを検証できるようにする。Anthropicはこの第1段階を自社で実行する方針を示した。1445
2. 民主主義国の最先端AIラボ間の協調：競争の中で安全対策を削る「底辺への競争」を避けるため、検証可能な共通の取り組みを整備する。21
3. グローバルな協調：政府や企業をまたぐ検証の難しさを認めつつ、民主主義国以外も含めた国際的な協調を目指す。37

Anthropicは、最先端モデルの開発企業に対する独立評価と透明性を、企業の自主的な約束だけに委ねず、政府が標準的な要件として後押しすべきだとも主張している。2427

Facultyだけに任せるわけではない

今回の契約は、FacultyをAnthropic唯一の外部評価者とするものではない。Anthropicは複数の評価者を活用する考えで、METRやその他の非営利評価組織との取り組みも、別の資金手当ての下で検討している。アクセンチュア側も、他のAI開発企業に同様の業務を提供できる。13

当面は、評価能力を急いで整備する必要があるとして、Anthropicがアクセンチュアの業務を直接資金支援する。長期的には、資金を共同で拠出する仕組みや政府資金の方が、評価者の独立性を支えやすいとの考えも示している。913

2025年の商業提携から安全性評価へ

今回の安全性提携は、2025年12月に拡大した両社の企業向け提携に続くものだ。前回の合意では「Accenture Anthropic Business Group」が設けられ、アクセンチュアの専門職およそ3万人をClaudeで訓練する計画が発表されていた。12

ただし、新たな発表の主眼は企業向けAI導入ではない。最先端モデルの安全性を継続評価する体制を作ることにある。発表後、アクセンチュア株は時間外取引の序盤で約6％上昇したと報じられた。5

注目点は「投資額」よりも監督モデル

少なくとも20億ドルという投資規模は目を引く。しかし、より重要なのは、最先端AIの開発企業の内部に外部評価者を置き、定期的な監査より深いアクセスで継続検証させる仕組みを制度化しようとしている点だ。

このモデルが真に独立した説明責任につながるかは、評価者の実際のアクセス範囲、不利な発見を公表する権利、そして同様の基準を他の最先端AIラボや政府が採用するかにかかっている。1314

アクセンチュアとAnthropicは9月18日、最先端AIの安全性を継続的に検証するための5年計画を発表した。両社はそれぞれ少なくとも10億ドル、合計で少なくとも20億ドルをこの分野の能力構築に投じる見込みだ。313

中核となるのは、通常の外部監査とは異なる**「常駐型評価（embedded evaluation）」**である。外部の評価者がAnthropicのチームの近くで継続的に活動し、完成直前のモデルだけでなく、開発・学習・運用・提供に伴う安全対策を検証する構想だ。

Facultyが担う評価の範囲

プログラムは、アクセンチュアの専門AI事業であるFacultyが主導する。評価チームはAnthropicの社内チームおよび安全性パートナーと協働し、モデル評価とレッドチーミング、アラインメント評価、安全保護策のテストを担う。313

レッドチーミングとは、AIが想定外または危険な振る舞いをしないかを意図的に試験し、弱点を探る手法を指す。今回の枠組みでは、モデルそのものに加え、モデルを訓練・配備する過程や運用上の慣行も対象となる。

Anthropicが説明する常駐型評価の狙いは、単発の監査を超えた検証にある。外部評価者に社員に近い継続的なアクセスを与え、同社が掲げる学習、デプロイ、運用、保護措置の方針を実際に守っているかを確かめるという。1441

もっとも、両社自身も常駐型評価は新しい取り組みであり、運用の詳細には今後詰めるべき点が多いとしている。13

独立性はどう確保されるのか

Anthropicが示してきた広い構想では、外部評価者は社内のリスク評価チームに概ね近い水準のアクセスを持ち、執務空間へのアクセスや従業員との対話も可能になるとされる。また、リスク、事故、実務、そして自らに与えられたアクセスについての重要な調査結果を、Anthropicの編集上の統制を受けずに公表できる仕組みを目指す。1441

一方で、完全に無制限というわけではない。Anthropicは、セキュリティ上機微な情報、弁護士秘匿特権の対象となる情報、商業上機微な情報、第三者の秘密情報については、限定的に編集・削除する権限を留保する方針だ。1441

したがって、この制度の実効性を判断するうえで重要なのは、最終的な契約がどこまで具体的なアクセス権、報告ルール、情報開示の権利を保証するかである。評価者が厳しい結論を出した場合にも、それを十分に公表できるのかが問われる。

アモデイCEOの「We Must Pace the Frontier」との関係

Anthropicは今回の提携を、CEOのダリオ・アモデイ氏がエッセイ「We Must Pace the Frontier」で掲げた、第三者評価者を社内に組み込む約束を実行に移す初期段階と位置づけている。13

同氏の提案は、大きく3段階から成る。

1. 第三者評価者の常駐：最先端AI企業が独立した評価者に継続的かつ社員に近いアクセスを提供し、安全慣行、訓練パイプライン、モデル、インシデントを検証できるようにする。Anthropicはこの第1段階を自社で実行する方針を示した。1445
2. 民主主義国の最先端AIラボ間の協調：競争の中で安全対策を削る「底辺への競争」を避けるため、検証可能な共通の取り組みを整備する。21
3. グローバルな協調：政府や企業をまたぐ検証の難しさを認めつつ、民主主義国以外も含めた国際的な協調を目指す。37

Anthropicは、最先端モデルの開発企業に対する独立評価と透明性を、企業の自主的な約束だけに委ねず、政府が標準的な要件として後押しすべきだとも主張している。2427

Facultyだけに任せるわけではない

今回の契約は、FacultyをAnthropic唯一の外部評価者とするものではない。Anthropicは複数の評価者を活用する考えで、METRやその他の非営利評価組織との取り組みも、別の資金手当ての下で検討している。アクセンチュア側も、他のAI開発企業に同様の業務を提供できる。13

当面は、評価能力を急いで整備する必要があるとして、Anthropicがアクセンチュアの業務を直接資金支援する。長期的には、資金を共同で拠出する仕組みや政府資金の方が、評価者の独立性を支えやすいとの考えも示している。913

2025年の商業提携から安全性評価へ

今回の安全性提携は、2025年12月に拡大した両社の企業向け提携に続くものだ。前回の合意では「Accenture Anthropic Business Group」が設けられ、アクセンチュアの専門職およそ3万人をClaudeで訓練する計画が発表されていた。12

ただし、新たな発表の主眼は企業向けAI導入ではない。最先端モデルの安全性を継続評価する体制を作ることにある。発表後、アクセンチュア株は時間外取引の序盤で約6％上昇したと報じられた。5

注目点は「投資額」よりも監督モデル

少なくとも20億ドルという投資規模は目を引く。しかし、より重要なのは、最先端AIの開発企業の内部に外部評価者を置き、定期的な監査より深いアクセスで継続検証させる仕組みを制度化しようとしている点だ。

このモデルが真に独立した説明責任につながるかは、評価者の実際のアクセス範囲、不利な発見を公表する権利、そして同様の基準を他の最先端AIラボや政府が採用するかにかかっている。1314