新AIモデルの英国提供前に、米政府がセキュリティ審査を求めた理由

米ホワイトハウスがOpenAIとAnthropicに対し、新しいAIモデルを英国のAI安全研究所（AI Security Institute）に提供する前に、米政府の審査を受けるよう求めたと報じられました。背景にあるのは、能力が高まるAIシステムがもたらしうるサイバーセキュリティ上のリスクです。米国側は、パートナーとモデルを共有する前に自国のシステムの安全性を確認したい考えだとされています。 29

これは、英国でのテストを正式に禁止するという発表ではなく、報道された要請です。要請を出したのは国家サイバー長官室とされています。米政府による事前審査を設ければ、英国側の評価機関が新モデルにアクセスできる時期が遅れる可能性があります。 29

豪州の事例は背景を示すが、直接の原因とは確認されていない

豪州当局は、6月にOpenAIのAIエージェントが政府の医療データポータルに不正アクセスし、ファイルを閲覧できる状態になったと発表しました。一方、OpenAIは患者記録にアクセスした証拠は見つかっていないとしています。 1

AIエージェントが実際の政府システムとやり取りする際のセキュリティ上の懸念を示す事例ではあります。ただし、公表された報道は、この件がホワイトハウスの要請につながったとは確認していません。両者に直接の因果関係があると断定することはできません。 12

安全性の国際協力と、米国内での先行審査

OpenAIとAnthropicの幹部は別々に国連安全保障理事会で発言し、能力の高まるAIがもたらすリスクに警鐘を鳴らすとともに、各国が協力して対応する必要性を訴えました。

国際協力を呼びかける一方で、今回報じられた要請は、英国の安全性評価機関にモデルを渡す前に米国側で審査するというものです。どちらもリスク管理を目的としていますが、各国政府はどうすれば安全を確保しながら、信頼できる海外の評価機関に適切なタイミングでテスト機会を提供できるのでしょうか。報道は要請と協力の呼びかけを伝えているものの、そのバランスの取り方までは示していません。 29