この輸出規制の引き金となったのは、Anthropicの最大級の投資家であるAmazonのセキュリティ研究だった。ウォール・ストリート・ジャーナルやAxiosの報道によると、Amazonの研究者らがFable 5の**ジェイルブレイク(セキュリティ保護の回避)**に成功。特定のプロンプト(指示文)を用いることで、サイバー攻撃に悪用可能な情報をモデルから引き出せることを実証した。
AmazonのCEOアンディ・ジャシーは、6月11日(木曜日)夜にこの研究結果を政権高官に直接報告。この電話を受けてホワイトハウスは24時間以内に行動を起こした。トランプ政権の高官は、この脆弱性に対するAnthropicの対応を「無謀(recklessness)」と非難している
。
特に注目すべきは、そのジェイルブレイク手法が、わずか3語のプロンプト「Fix this code(このコードを修正して)」という極めてシンプルなものだったことだ。この一言で、モデルがセキュリティ脆弱性に関する悪用可能な情報を出力してしまったという。
この規制に対し、テクノロジー・サイバーセキュリティ業界からは即座に非難の声が上がった。
この輸出規制は、米国と同盟国との関係にも緊張をもたらした。禁止措置は、英国、日本、その他の同盟国の政府、企業、個人にも及んだためである。アルジャジーラの報道によれば、同盟国が自らを「セキュリティリスク」として扱われる状況に、さらなる亀裂が生じている
。この指令には「外国籍者」全員が対象となり、緊密な同盟国に対する例外は一切設けられなかった
。
Anthropicは、この事態を打開するための緊急の外交的・技術的取り組みを開始した。同社は6月13日~14日の週末にかけてスタッフをワシントンD.C.へ派遣。主要な技術者を送り込み、政府高官との協議を通じて輸出制限の解除に向けた合意を目指している。6月17日時点でも、CEOダリオ・アモデイ自らが政権当局者と直接交渉を続けており、問題解決に全力を挙げている
。
今回の輸出規制とは別に、Anthropicは国防総省と数か月にわたる法廷闘争を繰り広げている。
注記: 複数の情報源は国防総省との紛争による「数十億ドル」の潜在的な収益損失に言及しているが、今回の検索結果の範囲内では、特定の「年間1億5000万ドルの収益損失」という具体的な数字は確認できなかった。この数字は、より狭い範囲の契約損失を指しているか、これらの検索結果に含まれていない情報源に基づく可能性がある。
Comments
0 comments