中国の陳一新氏が警告したAIリスクとは――ディープフェイクから技術主権まで

中国の陳一新・国家安全相が示したAIへの警戒は、単なる一般的な「AI安全」や人類存亡リスクの議論ではない。焦点は、中国共産党の統治と政治的安定、データ・重要インフラの防護、そして外国依存を避ける技術主権にある。陳氏は、敵対勢力がAIを利用すれば、中国の政治・制度・イデオロギー面の安全を直接脅かし得ると論じた。2

ディープフェイクやボットを使う「世論戦・認知戦」への懸念

陳氏が特に挙げたのは、ディープフェイク、AIが生成する文章・画像、自動化されたSNSアカウントの悪用だ。こうした手段によって政治的なうわさを捏造し、有害な情報を拡散し、社会の対立を増幅させ、「世論戦」や「認知戦」を仕掛けられる可能性があるという。

ここでいう世論戦・認知戦とは、軍事的な攻撃に限らず、情報操作を通じて人々の認識や判断、社会の結束に影響を及ぼそうとする活動を指す。陳氏の問題意識では、AIはその規模、速度、もっともらしい偽情報を作る能力を高める道具になり得る。2

スパイ活動、データ、重要インフラも対象

陳氏は、AIが膨大なデータを集約・分析し、人物や組織の特性を推定する能力を持つことが、外国の情報収集を助ける可能性にも言及した。対象になり得るのは国家機密だけでなく、商業・貿易情報や個人データである。23

さらに、AIがシステムの脆弱性を見つけ、それを突くマルウェアやソフトウェアを作り出す能力を強めている点も懸念材料とした。高度な米国製AIモデルが、中国の重要情報インフラに深刻なリスクをもたらし得るとの見方も示し、AIセキュリティを包括的に強化するよう求めた。23

技術主権を巡る競争という見方

陳氏にとってAIは、国家間の戦略競争の舞台でもある。先行国が国家安全保障を理由に技術規制を設け、標準を主導し、閉鎖的なエコシステムを構築する可能性を問題視している。2

この見方から導かれる政策上の重点は、国産技術の能力を高めること、データ・アルゴリズム・インフラへの国家の統制を確保すること、外部技術への依存を抑えることにある。つまり中国でいう「AI安全」は、モデルが暴走しないかという技術的な論点だけでなく、情報統制、審査、技術的自立、海外主導のルール形成への対抗も含む概念となる。2

アモデイ氏、アルトマン氏、マスク氏との違い

Anthropicのダリオ・アモデイCEOは、フロンティアAIの能力向上のペースを安全対策が追い付ける水準に抑えるべきだと主張した。その3段階の構想は、企業内部に近いアクセス権を持つ独立評価者の導入、民主主義国の政府・企業による共通の安全基準づくり、そして権威主義国も含めた国際協調である。1

これに対し陳氏の中心的な関心は、主権と政治秩序だ。先端AIが全世界にとって危険になり得るという問題だけではなく、対立する勢力がAIを使って中国の統治を揺さぶり、中国のデータを取得し、西側優位の技術秩序を固定化することをリスクとみなしている。2

OpenAIのサム・アルトマンCEOは「フロンティアのペースを調整する」必要があるというアモデイ氏の意見に賛同し、独立評価者に従業員に近いアクセスを認める考えも支持した。xAIのイーロン・マスク氏も「ダリオは正しい」と反応している。1 ただし、両者の主眼は先端モデルの能力進展を抑制・評価することであり、陳氏が語る体制防衛や技術的自律のプログラムとは同じではない。

共通点はあるが、隔たりは大きい

中国も、自律性を増すAIが将来、人間の管理を離れる可能性を安全上のリスクとして指摘している。この点には、米中が議論できる限定的な共通基盤がある。3

しかし、半導体へのアクセス、モデル、標準、AIガバナンスのルールを誰が決めるのかを巡る対立は残る。中国の政府・国営メディアの反応は、西側によるAI減速の呼びかけを、中立的な安全策というより、恐怖に基づく動き、競争を損なう動き、または中国の技術進歩を抑え込む試みとして描いてきた。2

予定される初の米中AI安全協議は、AIシステムが監督しにくくなるリスクという限定的な共有懸念を示すものだ。ただしそれは、AIを巡る広範な戦略競争の中での対話であり、両国のガバナンス観が一致したことを意味するものではない。3