この突然の規制措置の引き金を引いたのは、意外にもAnthropicの主要投資家であるアマゾンのCEO、アンディ・ジャシーだった。ウォール・ストリート・ジャーナル紙の報道によると、ジャシーCEOはスコット・ベッセント財務長官をはじめとする米政府高官と協議し、アマゾンのサイバーセキュリティ研究チームが発見した重大な事実を報告した 。
その内容は、「Fable 5がプロンプト操作(脱獄=ジェイルブレイク)により、本来制限されるべきバイオ兵器の製造方法」やサイバー攻撃に利用可能な情報を出力してしまったというものだった 。このジャシーCEOからの警告が、米政府の対Anthropic強硬措置の直接的な引き金となったと報じられている
。
AnthropicのCEO、ダリオ・アモデイ氏は、政府の懸念に反論し、この脱獄は「深刻なものではない」とし、モデルに組み込まれた安全策(ガードレール)は十分に機能していると主張したが、政権側はこれを退け、命令に踏み切った 。
この措置は、敵対国だけでなく、最も緊密な同盟国にまで適用されたため、直ちに外交的な波紋を呼んだ。
アイルランドを訪問中の6月14日、カーニー首相は厳しい警告を発した。
欧州連合(EU)も強く反発した。加盟国を含む全ての外国人を対象とした包括的な禁止措置は「差別的で逆効果」であり、AI安全における同盟国間の協力精神に反すると主張 。EU当局者は、今回の措置を、欧州が米国製AIへの依存から脱却し、「技術的主権」を確立する必要性を突きつけた「警鐘」と位置づけ、独自のAI開発を加速させる動きを強めている
。