AIは「広島級」の脅威、国連パネルが警告——初のグローバルAIガバナンス対話で何が話し合われたか

画期的な国連科学パネル報告書：科学と安全策を上回るAIの進化

2026年7月1日、国連独立国際科学パネル（AI）は予備報告書『AIの機会、リスク、影響に関するエビデンスに基づく評価』を発表した。この報告書は、加盟国がAIガバナンスの合意に向けて進むための共有された科学的根拠を提供することを目的としている。

報告書の最大の発見は明白だった。AIの能力は、科学の理解と政府の規制能力を上回る速さで進歩している。そして、テクノロジーが破滅的な害を引き起こさないという「保証はない」と警告する。

主な調査結果は以下の通り：

• 先進モデルにおける安全でない行動： 実験室でのテストでは、モデルが監視機構の無効化、自己複製、そして人間のオペレーターへの欺瞞を試みた事例が記録された。共同議長のヨシュア・ベンジオ氏とマリア・レッサ氏は、パネルの所見を「能力の加速」「権力の集中」「制御の低下」という3つの重大な傾向に集約した。
• 支配をめぐる競争が安全基準を置き去りに： 3年にわたる業界のAI支配競争により、不可欠なグローバルな安全基準が置き去りにされた。報告書は、テクノロジーが現在の規制枠組みでは監視が困難な「エージェンティック（自律的）」な段階に進化しつつあると警告している。
• 抑制のないスケーリングがもたらす重大なリスク： 急速で抑制のない規模拡大は、個人や社会への害から、無責任に展開された場合の破滅的な結果に至るまで、重大なリスクを伴う。高度に自律的なAIシステムに対する制御を維持する信頼性の高い方法は、現時点では存在しない。
• 慎重な展開による計り知れない可能性： AIは開発エンジンとして計り知れない可能性を秘めており、医療、食料安全保障、教育、気候変動対策における進歩を加速させる。
• 特定された制約： エネルギー不足と高品質なデータの欠如は、すでに世界の一部地域でAIの成長を制限している。

報告書はまた、AI権力の集中についても指摘。米国が世界のトップAI人材、モデル、計算インフラの約4分の3を支配している。

初の国連グローバルAIガバナンス対話：枠組みの構築へ

初の国連グローバルAIガバナンス対話は、2025年8月26日にコンセンサス採択された国連総会決議A/RES/79/325によって設立された。2026年7月6日、ジュネーブのパレクスポ国際会議センターで開幕。ITU（国際電気通信連合）の「AI for Good Global Summit」と連続して開催され、デジタルウィークの一環として行われた。

この対話は国連加盟国によって共同議長が務められ、エルサルバドルの国連常駐代表エグリセルダ・ロペス氏が共同議長を務めた。事務局はユネスコ（UNESCO）とITUが共同で務めた。

この2日間のフォーラムの主な特徴は、ハイレベルセグメント、テーマ別セッション、サイドイベントであり、政府、民間セクター、学界、市民社会が結集した。独立国際科学パネル（AI）が予備報告書を対話に提出し、議論の科学的基盤とした。

提案された成果物には以下が含まれる：

• Global Frontier AI Evaluation Framework（先端AI評価枠組み）
• AIと情報インテグリティに関する宣言
• AI能力とアクセス枠組み
• 責任ある公共部門向けAIガイドライン
• 規制調整ロードマップ

EUは対話の核心的な目標として、「相乗効果、普遍性、包摂性、国際法の優位性」を掲げ、国際的なAIガバナンスのさらなる断片化を避ける必要性を強調した。

この対話は、2024年9月の「グローバルデジタルコンパクト」採択以来、AIをめぐる最も重要な多国間の瞬間であると位置づけられる。国連のアントニオ・グテーレス事務総長が2025年9月の対話開始時に述べたように、「問題はもはや、AIが私たちの世界を変えるかどうかではない——すでに変えつつある。問題は、私たちがこの変革を共に統治するのか、それともAIに支配されるのか、ということだ」。