国連安保理で問われるAI安全性――国際協調と競争法の板挟み

国連安全保障理事会でのブリーフィングは、高度なAIを国際安全保障の問題として位置付けるものになりそうです。論点は、悪意ある主体による悪用、能力が高まるシステムに対して開発者が実効的な制御を失う可能性、そして共通の安全基準と国境を越えた安全策の必要性です。ただし、登壇者が実際に何を語るかは事前には公表されていません。会合はフランスが9月23日、「国際の平和と安全の維持」を議題として招集しました。10

4人の登壇者が訴えるとみられること

OpenAIのサム・アルトマンCEO、Anthropicのダリオ・アモデイCEO、AI研究者のヨシュア・ベンジオ氏、Hugging Faceのクレマン・ドラングCEOは、最先端モデルの安全性を個別企業や一国の対応だけに委ねず、国際的に協調すべきだと主張するとみられます。具体的には、共通のリスク評価、危険な能力や事故に関する情報共有、独立した検証、兵器化を含む悪用を防ぐための措置が焦点になり得ます。会合が掲げるテーマ自体も、AIが国際安全保障にもたらすリスクです。10

安全協力と企業間競争は両立するのか

OpenAIとAnthropicはすでに、両社がそれぞれの社内安全性評価・アラインメント評価を、相手の公開モデルに適用する共同検証を行い、結果を公表したと報告しています。自社だけでは見落としかねない弱点を見つけるための、限定的な相互監査といえます。15

ただし、競合企業による協力には線引きが必要です。意味のある安全テストには、一定のアクセスや安全関連情報の共有が求められます。他方で、製品ロードマップ、モデル公開の時期、価格、技術開発の速度といった競争上重要な情報まで共有すれば、協調が競争制限へと変質しかねません。

反トラスト訴訟が浮き彫りにした緊張

米国では、Anthropic、OpenAI、SpaceXAI、GoogleがAI開発の速度を落とすことで違法に合意したとする、消費者による集団訴訟案が提起されています。これは原告側の主張であり、裁判所の認定ではありません。1

この訴訟は、安全性と競争の構造的な緊張を示しています。安全性を重視する立場からは、公開基準や一時停止を共同で設けることは慎重なリスク管理に映ります。反対に原告側は、それを有力な競合企業による供給・性能向上の制限と位置付け得ます。

このため、公開された技術的な安全テストに対象を絞った相互評価は、各社が「いつ公開するか」「どの速さで性能を高めるか」を共同で決めるより、正当化しやすいと考えられます。課題は、検証可能で範囲を限定した安全協力を可能にしつつ、競合他社間の事実上の足並みそろえにしない仕組みをどう整えるかです。

トランプ氏の国連演説とは対照的

安保理での議論は、最先端AIのリスクを国際的な安全策を要する「共同対処の問題」として捉えます。これに対し、トランプ米大統領は国連総会で、国際的なAI統制を退け、安全性に関する警告を「でっち上げ」と表現し、AI競争における米国の優位を強調しました。さらに連邦政府では「人工知能（artificial intelligence）」ではなく「スーパー・インテリジェンス（super intelligence）」という呼称を使うと述べました。3

報道では、この名称変更は米政府の公式文書・公式発信に適用されるものとして説明されています。2

フランス主導の会合が目指すのは、安全基準を下げる競争を避けるための共通ルールです。一方、トランプ氏の姿勢は、抑制を米国の技術競争力への脅威として捉えるものです。安全のための協力を促しながら、競争を損なう協調には踏み込ませない――その制度設計が、国際社会に残された核心的な課題です。