陳一新氏が警告したAIの「6つの安全保障リスク」とは

中国の陳一新・国家安全相が公式誌『China Cyberspace』で示した警告の核心は、AIを単なる産業技術ではなく、国家安全保障と体制安全保障に直結する手段として捉える点にあります。急速に能力が高まるAIが敵対勢力に悪用されれば、中国の政治的安定、制度、イデオロギー、重要情報インフラが脅かされ得る、というのが同氏の主張です。57

陳氏が挙げた主な脅威

陳氏はAIに関する6つの安全保障リスクを示しました。とりわけ、ディープフェイクの音声・映像、AI生成の文章・画像、ソーシャルメディア上の自動アカウントが、政治的な流言を大量に作り出し、有害な情報を拡散し、社会的対立をあおるために使われ得ると指摘しています。こうした「世論」工作や認知戦は、中国の政治的・制度的・イデオロギー上の安全を直接損なうおそれがある、との警告です。57

さらに、AIはサイバー侵入やマルウェア開発の費用と技術的ハードルを下げ、システムの脆弱性を見つけて悪用する能力も高め得るとされます。国家機密、商業上重要な取引データ、個人情報の大規模な収集・流出を促し、重要情報インフラや社会統治を危険にさらす可能性も論じられました。31113

「AI安全」は技術主権の問題でもある

陳氏の論考では、AIをめぐる国際競争そのものが安全保障上の争点です。主要国が国家安全保障を理由に技術規制を設け、標準を主導・独占し、独自の閉鎖的な技術エコシステムを築こうとしている、という見方が示されています。57

この枠組みでは、AIの安全性はモデルの誤作動や犯罪利用だけの問題ではありません。技術への依存、サプライチェーンの支配、技術封じ込め、外国からの干渉といった問題と結び付いています。中国側にとっては、データ主権や重要インフラの防護、国外勢力による情報収集への警戒も、AIガバナンスの中心課題となります。57

米AI業界の「減速論」との違い

同時期にAnthropicのダリオ・アモデイCEOは、論考「We Must Pace the Frontier」で、AI開発の停止ではなく、能力向上の速度を安全対策が追いつける水準に抑えるべきだと提案しました。具体的には、最先端AI企業に継続的かつ従業員に近い権限で関与できる独立評価者を置くこと、民主主義国間で共通の安全コミットメントを整えること、最終的には権威主義国も含むより広い国際協調を進めることを挙げています。122

OpenAIのサム・アルトマンCEOは、この独立評価者の考えを採用すると表明し、イーロン・マスク氏もアモデイ氏の「最先端を急ぎすぎない」提案に賛意を示しました。101

両者は、AIがサイバー攻撃、スパイ活動、偽情報、軍事利用を後押しし得るとの認識では重なります。しかし重心は異なります。北京の視点は政治的安定、共産党の統治、イデオロギー管理、データ主権、外国による技術的強圧への抵抗を重視する国家中心のものです。一方、米国の最先端AI安全論は、整合性を確保できない高度モデル、危険な科学的悪用、自律的な有害行動、意味のある人間の統制の喪失を防ぐことに重点があります。57122

米中協議で焦点になりそうなこと

9月中旬に予定される米中のAI安全対話は、トランプ第2期政権下でAI安全に特化した初の公式な二国間協議になると報じられています。4

陳氏の論考は、中国が最先端モデルの整合性や破局的リスクだけでなく、外国干渉、データとインフラの保護、標準策定での対等な扱い、技術封じ込めへの反対まで含めた議題を求める可能性を示します。37

そのため包括合意は容易ではありません。一方で、AIを使ったサイバー攻撃、合成メディアによる詐欺、重大インシデントの通報、軍事的リスクをめぐる連絡手段など、具体的な被害の防止では協力余地があります。米国がリスク低減策とみなす外部評価や能力制限が、中国側には米国の技術的優位を守る仕組みと受け止められ得る点が、交渉の難所となりそうです。