AIは減速すべきか、勝たなければならないのか――トランプ氏とアモデイ氏が衝突

トランプ米大統領は、最先端AIをめぐる議論を主として中国との技術競争として捉えた。公の発言で米国が業界首位を維持すべきだと述べ、「AIで勝つ者が勝つ」と強調。後には、AIが世界を支配したり人類を滅ぼしたりするという警告を「HOAX（でっち上げ）」と呼び、AIやデータセンターへの反対は中国を利する「SICK conspiracy（病的な陰謀）」だと主張した。1719

なぜトランプ氏はアモデイ氏を攻撃したのか

発端は、Anthropicのダリオ・アモデイCEOが、最も高性能なAIシステムの能力向上のペースを意図的に落とすべきだと訴えたことだった。両者の出発点は異なる。トランプ氏は米国の技術的優位の維持を重視し、アモデイ氏は、モデルの能力が安全対策や監督の実効性を上回る速さで進展している可能性を問題視した。17

トランプ氏は、企業に対する刑事・規制上の権限はすでに十分にあるとし、強力な大統領こそが必要な歯止めだとも述べた。アモデイ氏への批判には、破滅的リスクへの警告に対する懐疑と、制度的な制約が米企業を中国の競合より不利にするという懸念が重なっている。1921

アモデイ氏の「We Must Pace the Frontier」：停止ではなく、追いつくための減速

アモデイ氏の提案はAI研究をやめるというものではない。安全性研究、テスト、ガバナンスが追いつく時間を確保するため、無制限な能力向上のペースを抑えるという3段階の計画だ。

1. 最先端AIラボに独立評価者を恒常的に配置する。 Anthropicは第三者の評価者に対し、社員と同等の継続的なシステムアクセスを提供すると表明した。評価者は安全対策の順守確認、事故・問題事案の報告、学習中のモデルが意図された目標や人間の指示に沿う性質（アラインメント）の評価を担う。16
2. 最先端AI企業による協調。 有力ラボが、能力向上の速さだけを競うのではなく、共通の安全基準と無制限な開発への制約を設けることを求めた。
3. 国際協力。 最も深刻なAIリスクを管理するには、単一の国や陣営を超えた協力が最終的に必要になると論じた。

このうち第1段階は、政府や競合企業への呼びかけにとどまらない。Anthropicが直ちに一方的に実施するとした取り組みである。16

アルトマン氏、マスク氏、ナデラ氏の反応

OpenAIのサム・アルトマンCEOは、最先端領域のペースを調整すべきだという考えに同意し、OpenAIも外部評価者にアクセスを提供すると述べた。xAIを率いるイーロン・マスク氏も、アモデイ氏への賛同を表明した。

マイクロソフトのサティア・ナデラCEOは、慎重なペース調整と常駐型の評価者を歓迎する一方で、重要な条件を付けた。監督は一握りの企業だけに支配されてはならず、幅広い国・分野・学術界などを含む代表性が必要だという。さらに、超知能の追求は人類に役立ち、人間の統制下に置かれなければ価値がないとの立場を示した。

これらの反応は、包括的な規制制度について合意ができたことを意味するものではない。ただし複数の業界リーダーが、最先端システムを継続的かつより正式に検証する仕組みを支持していることは示している。

中国との協調が難しい理由：単独の自制は不利になるのか

元Anthropic・OpenAI研究者のジェイコブ・コクソン氏は、こうしたシステムを開発する人々が人類の未来について「心底おびえている」と語った。開発の減速という発想を歓迎する一方、それには中国との協調が必要だと指摘した。1

ここに論争の核心がある。企業や国家が単独で減速すれば、従わない競合に後れを取るおそれがある。中国外務省は、アモデイ氏による中国のAI能力に関わる制約の呼びかけに反発し、これを中立的な安全ガバナンスではなく、中国を封じ込めようとする米国の試みとして受け止めた。4

つまり相互に信頼できる仕組みがない。安全規則の支持者は、相互的なルールがリスクを下げると考える一方、反対側は、それが相手の技術的優位を固定する装置になり得ると見る。

「安全規制が既存大手を守る」という批判

投資家のマイケル・バリー氏は、AI減速を訴える動きを「self-serving（自己都合）」だと批判した。開発を遅らせ、厳しいコンプライアンス要件を課せば、それを満たす資金力と体制を持つ既存のAI企業に有利に働き、新規参入者の競争を難しくするという論点だ。バリー氏はまた、現在の大規模言語モデル（LLM）が汎用人工知能（AGI）へ向かうという見方にも異議を唱えた。

この批判はAI安全性への懸念そのものを否定するものではない。しかし、安全のための規則が、結果として市場の集中と大手企業の優位を強めかねないという現実的な政策リスクを示している。信頼される枠組みには、安全と権力集中の双方への対処が求められる。

9月24日予定のトランプ・習近平会談が意味すること

トランプ氏と中国の習近平国家主席は、9月24日に予定された会談でAIガバナンスについて話し合うと見込まれていた。4

この会談が重要なのは、最先端AIの安全戦略で最も難しい課題が、1社向けのルールを作ることではないからだ。対立する大国が、互恵的で、実行可能かつ検証可能だと信じられる取り決めを築けるかどうかにある。

トランプ氏の中国優先の競争論と、北京側の制限案への反発は、その難しさを浮き彫りにした。争点は単純な「加速か停止か」ではない。AI競争を、安全政策まで地政学的対立の新たな戦線に変えることなく統治できるのかが問われている。174