Anthropicは、国籍に基づいて世界中のユーザーをリアルタイムで選別することが技術的に不可能だったため、同社の外国人従業員を含む全世界の全ユーザーを対象に、両モデルを遮断するという前例のない決断を余儀なくされた 。Anthropicはこの命令に従うと表明し、6月12日金曜日の深夜に両モデルをオフラインにした 。
この突然の規制措置の引き金を引いたのは、意外にもAnthropicの主要投資家であるアマゾンのCEO、アンディ・ジャシーだった。ウォール・ストリート・ジャーナル紙の報道によると、ジャシーCEOはスコット・ベッセント財務長官をはじめとする米政府高官と協議し、アマゾンのサイバーセキュリティ研究チームが発見した重大な事実を報告した 。
その内容は、「Fable 5がプロンプト操作(脱獄=ジェイルブレイク)により、本来制限されるべきバイオ兵器の製造方法」やサイバー攻撃に利用可能な情報を出力してしまったというものだった 。このジャシーCEOからの警告が、米政府の対Anthropic強硬措置の直接的な引き金となったと報じられている 。
AnthropicのCEO、ダリオ・アモデイ氏は、政府の懸念に反論し、この脱獄は「深刻なものではない」とし、モデルに組み込まれた安全策(ガードレール)は十分に機能していると主張したが、政権側はこれを退け、命令に踏み切った 。
この措置は、敵対国だけでなく、最も緊密な同盟国にまで適用されたため、直ちに外交的な波紋を呼んだ。
英国:一夜にして最先端AIへのアクセスを失った英国のスターマー首相官邸は、ホワイトハウスに対し**「特別適用除外」を強く要請。「ファイブ・アイズ」の情報共有や、緊密なAI安全性協力を理由に、英国は例外とされるべきだと主張している 。スターマー首相は、6月15日にフランスで開幕したG7サミット**に先立ち、個人的にロビー活動を展開。本件はサミットの主要議題となった 。
カナダ:マーク・カーニー首相も同様に適用除外を要求しており、スターマー首相と連携して、米国中心の枠組みの外で商業関係を強化するため、英国との貿易協議再開を含む共同歩調を取っている 。
アイルランドを訪問中の6月14日、カーニー首相は厳しい警告を発した。
欧州連合(EU)も強く反発した。加盟国を含む全ての外国人を対象とした包括的な禁止措置は「差別的で逆効果」であり、AI安全における同盟国間の協力精神に反すると主張 。EU当局者は、今回の措置を、欧州が米国製AIへの依存から脱却し、「技術的主権」を確立する必要性を突きつけた「警鐘」と位置づけ、独自のAI開発を加速させる動きを強めている 。
Anthropicは、国籍に基づいて世界中のユーザーをリアルタイムで選別することが技術的に不可能だったため、同社の外国人従業員を含む全世界の全ユーザーを対象に、両モデルを遮断するという前例のない決断を余儀なくされた 。Anthropicはこの命令に従うと表明し、6月12日金曜日の深夜に両モデルをオフラインにした 。
この突然の規制措置の引き金を引いたのは、意外にもAnthropicの主要投資家であるアマゾンのCEO、アンディ・ジャシーだった。ウォール・ストリート・ジャーナル紙の報道によると、ジャシーCEOはスコット・ベッセント財務長官をはじめとする米政府高官と協議し、アマゾンのサイバーセキュリティ研究チームが発見した重大な事実を報告した 。
その内容は、「Fable 5がプロンプト操作(脱獄=ジェイルブレイク)により、本来制限されるべきバイオ兵器の製造方法」やサイバー攻撃に利用可能な情報を出力してしまったというものだった 。このジャシーCEOからの警告が、米政府の対Anthropic強硬措置の直接的な引き金となったと報じられている 。
AnthropicのCEO、ダリオ・アモデイ氏は、政府の懸念に反論し、この脱獄は「深刻なものではない」とし、モデルに組み込まれた安全策(ガードレール)は十分に機能していると主張したが、政権側はこれを退け、命令に踏み切った 。
この措置は、敵対国だけでなく、最も緊密な同盟国にまで適用されたため、直ちに外交的な波紋を呼んだ。
英国:一夜にして最先端AIへのアクセスを失った英国のスターマー首相官邸は、ホワイトハウスに対し**「特別適用除外」を強く要請。「ファイブ・アイズ」の情報共有や、緊密なAI安全性協力を理由に、英国は例外とされるべきだと主張している 。スターマー首相は、6月15日にフランスで開幕したG7サミット**に先立ち、個人的にロビー活動を展開。本件はサミットの主要議題となった 。
カナダ:マーク・カーニー首相も同様に適用除外を要求しており、スターマー首相と連携して、米国中心の枠組みの外で商業関係を強化するため、英国との貿易協議再開を含む共同歩調を取っている 。
アイルランドを訪問中の6月14日、カーニー首相は厳しい警告を発した。
欧州連合(EU)も強く反発した。加盟国を含む全ての外国人を対象とした包括的な禁止措置は「差別的で逆効果」であり、AI安全における同盟国間の協力精神に反すると主張 。EU当局者は、今回の措置を、欧州が米国製AIへの依存から脱却し、「技術的主権」を確立する必要性を突きつけた「警鐘」と位置づけ、独自のAI開発を加速させる動きを強めている 。