国連初のAI安全性報告書：5つの重大リスクと、追いつかない世界のガバナンス

AIによる欺瞞行動。 国連の科学諮問委員会は、AIの欺瞞を、AIシステムが自身の知識、意図、または能力について人や他のシステムを誤解させることと定義しており、これは通常の誤りや幻覚とは異なります。このような行動の証拠はすでに広く使われているAIシステムで確認されており、AIがより高性能で自律的になり、日常的な意思決定に組み込まれるにつれて、リスクはさらに高まると予想されています。

情報の完全性の低下。 報告書は、AIによる音声や動画の捏造・操作を情報の完全性への直接的な脅威と位置づけ、分極化を促進し、公共の議論への信頼を損なうと指摘しています。

精神的健康と幸福への被害。 汎用AIによるいくつかの被害はすでに明確に確認されています。これには、詐欺、非合意の親密な画像（NCII）、児童性的虐待コンテンツ（CSAM）が含まれ、これらはすべて精神的健康に直接的な害を及ぼします。

サイバーセキュリティと詐欺のリスク。 AI関連のサイバーセキュリティ脅威や詐欺防止を評価するための標準化されたアプローチは限られたままであり、防御能力に重大なギャップを残しています。

世界のガバナンスギャップ

この報告書は、AIが科学や規制より速く進歩しているという根本的な構造問題を浮き彫りにしています。現在、AIリスクを独立して評価する権威ある国際的な制度は存在しません。ほとんどの国は高度なAIモデルを評価する能力を欠いており、AI能力を持つ少数の国家・企業とその他の国々との格差が広がっています。

このギャップは仮想的なものではありません。報告書は、政策立案者が深刻なジレンマに直面していると指摘しています。AIを統治するには科学的エビデンスが必要だが、AIの能力は科学そのものを上回っているのです。

パネルの仕組み：「AI版IPCC」

このパネルは、気候変動に関する政府間パネル（IPCC）および生物多様性及び生態系サービスに関する政府間科学政策プラットフォーム（IPBES）を明示的にモデルとしています。この科学政策モデルでは、政府がパネルの検討課題の設定に関与しますが、科学者たちは証拠の評価、報告書の作成、科学的結論の完全性の維持に全面的な責任を負います。

主な構造の詳細：

• 任務： パネルは、AIの機会、リスク、影響に関するエビデンスに基づく年次科学報告書を作成する任務を負います。必要に応じて、懸念事項に関するテーマ別概要も作成する場合があります。
• 制限： パネルは科学を評価し統合するものであり、ルールを設定したり、拘束力のある規制を作成したり、政策を執行したりするものではありません。
• 構成： 多様な背景を持つ40名の主要な科学者と専門家が個人の資格で参加します。
• 初動： パネルは初の対面サミットを開催し、2026年7月の期限に先立ち最初の報告書の作業を開始しました。

AIガバナンスに関するグローバル対話の役割

最初の年次報告書は、2026年7月6日から7日にジュネーブで開催される初のAIガバナンスに関するグローバル対話で正式に発表されます。グローバル対話は、国連総会決議A/RES/79/325によりパネルと同時に設立され、政府およびすべての関連ステークホルダーがAIガバナンスについて議論するためのプラットフォームです。その任務には、AI格差の解消、能力構築、断片的な政策からより一貫した国際的枠組みへの移行が含まれます。

なぜ重要なのか

この報告書は意図的に規範的ではありません。特定の政策や規制を推奨するものではないのです。その力は、政府、規制当局、国民がAIリスクについて情報に基づいた決定を下すために使用できる、信頼できる独立した国際的に受け入れられたエビデンスベースを確立することにあります。アントニオ・グテーレス国連事務総長が述べたように、世界は「イデオロギーではなく科学に、偽情報ではなく知識に基づいた、人工知能に関する共有された世界的な理解」を緊急に必要としています。