競合するAI企業のトップが「開発を減速」へ異例の足並み

競争関係にある主要AI企業のトップが、先端モデルの能力向上を「減速させる必要がある」という点で公開の場で歩調を合わせた。Anthropicのダリオ・アモデイCEOが提起し、OpenAIのサム・アルトマンCEOとxAI創業者のイーロン・マスク氏が大筋で支持したものだ。

ただし、これは国際的な開発停止合意や法的拘束力のある一時停止が成立したことを意味しない。また、「暴走したAIエージェントがすでにインターネットを乗っ取った」と確認されたわけでもない。16

アモデイ氏の警告は「起きた事件」ではなく、近未来への予測

アモデイ氏は、能力開発のペースを落とさなければ、6～12か月以内にAIが多数のエージェントを指揮し、インターネットの広範な部分を掌握できる能力を持つ可能性があると警告した。これは将来起こり得るリスクについての見通しであって、現時点でその事態が発生したとの報告ではない。1

同氏が求めたのはAI研究そのものの全面停止ではない。能力向上を緩めて得た時間を、アラインメント（人間の意図や安全上の制約にAIを従わせるための取り組み）、事故対応、監督体制の強化に振り向ける構想だ。16

具体策には、企業の安全措置を確認できるよう外部の独立評価者に継続的かつ従業員同等のアクセスを与えること、業界横断の安全慣行、国際協調が含まれる。8

アルトマン氏とマスク氏も支持、ただし「停止」合意ではない

アルトマン氏は、先端AIの進歩を適切な速度で進める「ペーシング」と、安全措置の拡充を支持した。独立評価者に企業内部へ実務上十分なアクセスを認めるという案についても、OpenAIが同様の対応を取る意向を示したと報じられている。613

一方で、OpenAIが安全を優先するためIPOを正式に延期したという確定情報はない。報道では、延期が必要になる可能性や提案として伝えられた段階であり、正式決定とは区別する必要がある。7

マスク氏も、xAIを率いる競合当事者でありながらアモデイ氏の主張を支持した。6

Claudeの悪用報告が警戒感を後押し

今回の警告の直前、AnthropicはClaudeを悪用しようとした活動を阻止したとする脅威インテリジェンス報告を公表した。報告は、サイバー活動、監視、詐欺、影響工作、生物学的悪用、通常兵器開発、モデル能力の不正な抽出など、複数の領域を対象としている。17

ロイターは、Anthropicが生物兵器開発を支援し得る研究への利用の試みや、ロシアに関連すると疑われるウクライナへのサイバー諜報活動を阻止したと同社が説明したと報じた。また同社は、中国の競合企業がClaudeの能力を取り出す、または再現する目的のハッキングを試みたとも主張している。これらはAnthropic側の説明・主張であり、独立した裁定によって確定した事実とは別に扱うべきだ。17

トランプ氏は「減速」に否定的

トランプ米大統領は大幅な減速論を退け、AIを主に中国との戦略競争として位置づけた。米国が中国をリードしていると述べ、「AIで勝つ者が勝つ」と発言したと報じられている。10

この反応は、過度な規制や米国だけの一方的な減速は対中競争で不利になるという、加速・国家安全保障重視の見方に沿うものだ。10

対照的に、バーニー・サンダース上院議員は、企業による自主的な減速では不十分だと主張した。トランプ氏と中国の習近平国家主席に対し、先端AI開発を一時停止し、人工超知能を禁止する条約の交渉を求めている。これは同議員の提案であり、米中間で合意済みの議題ではない。

現時点で言えること、言えないこと

論点は、企業の自主的な安全約束で足りるのか、議会が強制力ある先端AIルールを整備すべきか、急な減速が競争力や市場にどのような影響を与えるかに移っている。

ただし、提示された資料だけでは、マイク・ジョンソン氏、ハキーム・ジェフリーズ氏、デービッド・サックス氏、アレックス・カープ氏、ジョシュ・ゴットハイマー氏、特定の投資家の個別見解を裏付ける十分な根拠はない。また、ジェイコブ・コクソン氏の辞任をめぐる詳細も、この資料群だけでは検証できない。

確かなのは、ライバル企業の経営者が安全を理由に減速を唱えるという異例の一致が生まれた一方、政策の現場では「安全のために速度を落とすのか、それとも地政学的競争のために加速するのか」という対立がいっそう鮮明になったことだ。