中国の国家安全相、陳一新氏は、人工知能（AI）を単なる技術上の事故や、遠い将来の「超知能」リスクとしては捉えていない。生成AIが偽情報の拡散、機密データの収集、デジタルシステムへの攻撃、外国技術への依存を容易にし、中国の政治・制度・イデオロギー上の安全に直接影響し得るというのが同氏の見方だ。 17

中心にあるのは「体制」と情報空間の安全保障

陳氏は、敵対勢力や悪意ある個人が、ディープフェイクの音声・映像、AI生成の文章や画像、自動化されたオンラインアカウントを使い、政治的なデマを作り出し、有害な情報を広め、社会的な対立を増幅させる恐れがあると警告した。こうした行為を「世論戦」「認知戦」と呼び、政治的安全、制度的安全、イデオロギー上の安全への脅威と明確に結び付けた。 79

ここでの焦点は、AIが誤った内容を出力するかどうかだけではない。合成メディアと組織的に運用される自動アカウントが、大規模に情報環境や社会秩序、政府による情報統制を揺さぶる手段になり得る、という安全保障上の見方である。

データ収集、スパイ活動、重要インフラへのリスク

陳氏はAIを、諜報活動とサイバーセキュリティの問題とも結び付けた。外国の情報機関が、インテリジェントなウェブクローラー、データマイニング、プロファイリング分析などを用いて、重要な国家データ、営業秘密、市民の個人情報を幅広く収集・取得し得ると指摘した。

さらに、高度化するAIがシステムの脆弱性を見つけ出し、それを悪用するマルウェアなどのソフトウェアを生成できるようになるリスクにも言及した。重要情報インフラが攻撃対象となる可能性を念頭に置いたものだ。 1

要するに、AIは情報工作とサイバー諜報のコストを下げ、実行規模を広げ得る――これが陳氏の問題提起である。

AI競争は「技術主権」を巡る問題でもある

陳氏はAIを、大国間の戦略的競争における新たな舞台と表現した。 12 この枠組みでは、AIの安全保障とは、モデル単体の安全性だけではない。中核技術、データ、インフラ、そしてルール作りを中国がどこまで自ら管理できるかという問題でもある。

海外による技術規制、標準化の主導、独自仕様の閉鎖的なエコシステムは、この観点から政治的・戦略的な意味を持つ。AIの技術基盤を他国側が優位に握れば、中国に対する戦略的な影響力になり得るとの懸念だ。報道では、技術の独占や対外依存が、陳氏の示したリスク全体の一部として説明されている。 8

アモデイ氏の「フロンティアAIをペース調整せよ」という主張との違い

Anthropicの最高経営責任者（CEO）ダリオ・アモデイ氏は、別の問題から出発している。同氏は、AIの能力向上が、悪用や制御喪失のリスクを管理する制度・安全対策を上回る速度で進んでいるとして、開発を止めるのではなく、最先端AI（フロンティアAI）の能力向上を抑制的なペースにすべきだと訴えた。

アモデイ氏の3段階の提案は、主に次の内容で構成される。

• 独立した評価者に、大手AI企業のシステムと安全対策へ継続的かつ社員に近い水準でアクセスさせる
• フロンティアAI企業と民主主義国の政府が、安全基準と無制限な能力向上への制限で協調する
• AIリスクの管理に向け、より広い国際協力を進める

両者の違いは明確だ。

論点	陳一新氏の枠組み	アモデイ氏の枠組み
主な危険	敵対者がAIを政治秩序、データ、インフラ、国家の自律性に対して利用すること	フロンティアAIの能力が評価・安全対策・統治を上回ること
主な対象	国家の安全と技術主権	高度化するAIシステムの安全性と世界的な影響
想定される対応	データとインフラの防護、安全保障上の境界の強化、戦略的依存の低減	独立監査、共通安全基準、能力向上の協調的なペース調整

どちらもAIへの監督強化を支持する点では共通する。しかし、陳氏の議論ではAI統治は地政学的競争と国内安全保障から切り離せない。一方、アモデイ氏の提案は、先端AIの開発を企業・国家横断で検証可能かつ管理可能にすることを主眼としている。

アルトマン氏とマスク氏はどこに位置するか

OpenAIのサム・アルトマンCEOは、「フロンティアのペースを調整する」必要性に同意し、社員に近いアクセス権を持つ独立評価者の仕組みをOpenAIも採用すると述べた。xAIを率いるイーロン・マスク氏の反応は「ダリオは正しい」だった。

この支持は、無制限な能力競争を抑え、独立した安全性評価を強化するというアモデイ氏の当面の提案に近い。陳氏が重視する情報統制、外国からの影響工作、技術主権という国家中心の枠組みを支持したことを意味するものではない。

重なる部分はあるが、隔たりは大きい

重なる部分はある。中国当局と欧米の主要AI企業幹部はいずれも、自律性と能力を増すAIシステムが安全に監督しにくくなる可能性を警告している。中国も、人間による制御をAIが逸脱する可能性に備え始めている。

ただし、「安全性」を巡る共通の言葉が、根本的な対立を覆い隠すわけではない。中国の政府当局者や国営メディアは、欧米企業によるAI減速論について、恐怖をあおり競争を損なうもの、あるいは中国の技術進歩を抑え込むためのものだと批判している。 512

陳氏の警告は、モデル評価を改善しようという呼びかけにとどまらない。AIが今や、影響力、諜報、インフラ、標準、そして国家権力を巡るより大きな競争の一部になった、という認識を示すものだ。 12

中国の国家安全相、陳一新氏は、人工知能（AI）を単なる技術上の事故や、遠い将来の「超知能」リスクとしては捉えていない。生成AIが偽情報の拡散、機密データの収集、デジタルシステムへの攻撃、外国技術への依存を容易にし、中国の政治・制度・イデオロギー上の安全に直接影響し得るというのが同氏の見方だ。 17

中心にあるのは「体制」と情報空間の安全保障

陳氏は、敵対勢力や悪意ある個人が、ディープフェイクの音声・映像、AI生成の文章や画像、自動化されたオンラインアカウントを使い、政治的なデマを作り出し、有害な情報を広め、社会的な対立を増幅させる恐れがあると警告した。こうした行為を「世論戦」「認知戦」と呼び、政治的安全、制度的安全、イデオロギー上の安全への脅威と明確に結び付けた。 79

ここでの焦点は、AIが誤った内容を出力するかどうかだけではない。合成メディアと組織的に運用される自動アカウントが、大規模に情報環境や社会秩序、政府による情報統制を揺さぶる手段になり得る、という安全保障上の見方である。

データ収集、スパイ活動、重要インフラへのリスク

陳氏はAIを、諜報活動とサイバーセキュリティの問題とも結び付けた。外国の情報機関が、インテリジェントなウェブクローラー、データマイニング、プロファイリング分析などを用いて、重要な国家データ、営業秘密、市民の個人情報を幅広く収集・取得し得ると指摘した。

さらに、高度化するAIがシステムの脆弱性を見つけ出し、それを悪用するマルウェアなどのソフトウェアを生成できるようになるリスクにも言及した。重要情報インフラが攻撃対象となる可能性を念頭に置いたものだ。 1

要するに、AIは情報工作とサイバー諜報のコストを下げ、実行規模を広げ得る――これが陳氏の問題提起である。

AI競争は「技術主権」を巡る問題でもある

陳氏はAIを、大国間の戦略的競争における新たな舞台と表現した。 12 この枠組みでは、AIの安全保障とは、モデル単体の安全性だけではない。中核技術、データ、インフラ、そしてルール作りを中国がどこまで自ら管理できるかという問題でもある。

海外による技術規制、標準化の主導、独自仕様の閉鎖的なエコシステムは、この観点から政治的・戦略的な意味を持つ。AIの技術基盤を他国側が優位に握れば、中国に対する戦略的な影響力になり得るとの懸念だ。報道では、技術の独占や対外依存が、陳氏の示したリスク全体の一部として説明されている。 8

アモデイ氏の「フロンティアAIをペース調整せよ」という主張との違い

Anthropicの最高経営責任者（CEO）ダリオ・アモデイ氏は、別の問題から出発している。同氏は、AIの能力向上が、悪用や制御喪失のリスクを管理する制度・安全対策を上回る速度で進んでいるとして、開発を止めるのではなく、最先端AI（フロンティアAI）の能力向上を抑制的なペースにすべきだと訴えた。

アモデイ氏の3段階の提案は、主に次の内容で構成される。

• 独立した評価者に、大手AI企業のシステムと安全対策へ継続的かつ社員に近い水準でアクセスさせる
• フロンティアAI企業と民主主義国の政府が、安全基準と無制限な能力向上への制限で協調する
• AIリスクの管理に向け、より広い国際協力を進める

両者の違いは明確だ。

論点	陳一新氏の枠組み	アモデイ氏の枠組み
主な危険	敵対者がAIを政治秩序、データ、インフラ、国家の自律性に対して利用すること	フロンティアAIの能力が評価・安全対策・統治を上回ること
主な対象	国家の安全と技術主権	高度化するAIシステムの安全性と世界的な影響
想定される対応	データとインフラの防護、安全保障上の境界の強化、戦略的依存の低減	独立監査、共通安全基準、能力向上の協調的なペース調整

どちらもAIへの監督強化を支持する点では共通する。しかし、陳氏の議論ではAI統治は地政学的競争と国内安全保障から切り離せない。一方、アモデイ氏の提案は、先端AIの開発を企業・国家横断で検証可能かつ管理可能にすることを主眼としている。

アルトマン氏とマスク氏はどこに位置するか

OpenAIのサム・アルトマンCEOは、「フロンティアのペースを調整する」必要性に同意し、社員に近いアクセス権を持つ独立評価者の仕組みをOpenAIも採用すると述べた。xAIを率いるイーロン・マスク氏の反応は「ダリオは正しい」だった。

この支持は、無制限な能力競争を抑え、独立した安全性評価を強化するというアモデイ氏の当面の提案に近い。陳氏が重視する情報統制、外国からの影響工作、技術主権という国家中心の枠組みを支持したことを意味するものではない。

重なる部分はあるが、隔たりは大きい

重なる部分はある。中国当局と欧米の主要AI企業幹部はいずれも、自律性と能力を増すAIシステムが安全に監督しにくくなる可能性を警告している。中国も、人間による制御をAIが逸脱する可能性に備え始めている。

ただし、「安全性」を巡る共通の言葉が、根本的な対立を覆い隠すわけではない。中国の政府当局者や国営メディアは、欧米企業によるAI減速論について、恐怖をあおり競争を損なうもの、あるいは中国の技術進歩を抑え込むためのものだと批判している。 512

陳氏の警告は、モデル評価を改善しようという呼びかけにとどまらない。AIが今や、影響力、諜報、インフラ、標準、そして国家権力を巡るより大きな競争の一部になった、という認識を示すものだ。 12