中国の陳一新・国家安全相は、AIを単なる産業技術ではなく、国家安全保障に直結する問題として位置付けた。中国の政府系誌『中国網信』に寄せた論考で陳氏は、急速に高度化するAIが悪用されれば、政治の安定を損ない、機微情報を流出させ、重要インフラを危険にさらし、外国技術への依存を深めかねないと警告している。4

この警告は、米AI企業Anthropicのダリオ・アモデイCEOが、モデルの整合性（アラインメント）、安全性試験、外部からの監督が能力向上に追いつくよう、最先端AIモデルの開発速度を抑えるべきだと訴えた時期と重なる。両者とも安全対策の強化を求めているが、AI安全によって何を守るのかという出発点は大きく異なる。1

陳氏の警告：AIは政治・安全保障上の圧力手段になり得る

陳氏はAIに関するリスクを6つの大枠で示した。筆頭に置かれたのは政治安全保障への影響だ。敵対的な勢力がディープフェイクの映像・音声、AI生成の文章や画像、自動化されたオンラインアカウントを使い、政治的な偽情報を大量生産し、有害情報を拡散し、社会的な対立をあおる可能性があると指摘した。陳氏の見立てでは、こうした手法は「世論戦」や認知戦を支え、中国の政治・制度・イデオロギー上の安全を直接脅かし得る。4

懸念は偽情報にとどまらない。

• サイバー攻撃の高度化：AIは脆弱性の探索、マルウェア開発、攻撃的なサイバー作戦の自動化を促し、システムを攻撃するための専門性やコストのハードルを下げ得る。4
• 大規模な窃取・漏えい：外国の情報機関がAIを活用したウェブクローリング、データマイニング、プロファイリングを通じ、重要な国家データ、営業秘密、市民の個人情報を収集する恐れがあるとした。7
• 重要インフラへのリスク：能力を増すAIシステムは、重要情報インフラに深刻な危険をもたらし得るという。
• 技術格差と依存：AIを大国間競争の舞台と捉え、技術で先行する国が規制、標準、独自のエコシステムを通じてサプライチェーンに影響を及ぼし、競争相手を制約し得ると論じた。14
• 社会統治と軍事への影響：6項目の枠組みには、社会統治の仕組みへの構造的な衝撃と、戦争の性質そのものの変化も含まれる。

これは国家を中心に据えたAIリスク観だ。情報空間での影響工作、データ管理、インフラの強靱性、国産技術を開発・展開する能力を、相互に結び付いた安全保障の要素として扱っている。

北京にとっての核心は「技術主権」

陳氏の論考は、危険を無責任な利用者や安全でないソフトウェアだけの問題とはしていない。AI安全を、戦略的競争とも結び付けている。

同氏は、技術先進国が国家安全保障を理由に技術規制を導入し、標準を主導・独占し、閉鎖的なエコシステムを構築することで、世界のサプライチェーンを弱め、他国の技術的な選択肢を狭める可能性があると主張した。 中国政府も別途、自国の最先端AIモデルへの海外からのアクセスを制限する案を検討してきたと報じられており、北京とワシントンの双方が最先端AIを管理対象となる戦略資産とみなしつつあることを示している。

この見方では、海外製システム、外部監査、国際的に設計された安全ルールはいずれも政治的に敏感な課題となる。中立的なリスク低減策として提示された仕組みであっても、技術封じ込めや不平等なアクセスの手段と受け止められる可能性がある。

アモデイ氏の提案：安全策が追いつくまで能力向上の速度を調整する

アモデイ氏の論考『We Must Pace the Frontier』は、AI能力の向上速度を抑える別の論理を示す。技術進歩の停止を求めたのではない。企業がモデルを整合させ、安全に保護するための時間、そして独立した評価者が安全実務の有効性を検証するための時間を確保すべきだと主張した。

提案は3つの柱から成る。

1. 常駐型の独立評価者：先端AI企業は、第三者評価者に従業員に近い継続的なアクセスを提供し、安全対策、アラインメントのプロセス、インシデント報告を評価できるようにする。1
2. 民主主義国間での共通の取り組み：先端AI開発企業と民主主義国の政府が安全基準を調整し、能力競争が無制限に加速する誘因を抑える。110
3. より幅広い国際協調：長期的には、権威主義体制の政府も含むAIリスク管理の協力を目指す。10

アモデイ氏の焦点はAIの能力そのものにある。高度化するシステムが深刻な悪用を可能にしたり、既存の統制が及ばないほど自律的になったりする前に、十分な整合性、安全性、統治を確保できるかが問題だ。ロイター通信は、同氏の構想がAI悪用への懸念を背景に、リスク管理の時間を確保するため開発のペースを調整するよう求めるものだと報じた。1

OpenAIのサム・アルトマンCEOは、従業員に近いアクセスを持つ独立評価者という提案を採用すると表明した。イーロン・マスク氏も、先端領域の開発ペースを調整すべきだという呼びかけを公に支持した。1720

決定的な違い：「AI安全」は何を守るのか

両者には重なる部分もある。サイバー作戦、スパイ活動、合成メディア、重要インフラ、軍事利用のリスクをともに認識し、より強い統治の必要性も認めている。

ただし、優先順位は異なる。

北京の安全保障レンズ	先端AI企業の安全レンズ
政治的安定、イデオロギー上の安全、データ主権、技術的自立を守る	十分に制御されていない最先端AIの能力による危険を防ぐ
外国からの影響工作、情報収集、インフラ侵入、戦略的な威圧を重視する	アラインメント、評価、安全実務、高能力モデルの危険な悪用を重視する
標準、サプライチェーン、エコシステムの支配を地政学上の問題と捉える	共通の安全実務と独立評価を、システム全体のリスク低減策と捉える

この違いは言葉の定義にとどまらない。どの統治手法を受け入れられるかを左右する。北京はデータ、モデル、標準に対する主権的な管理を優先し得る一方、Anthropicのような企業は外部評価と国境をまたぐ安全上の約束を重視する。両者は原理的には両立し得るが、外部監督が国家安全保障上の統制と相いれないと見なされる場面では衝突する。

米中AI対話が難航し得る理由

米国と中国は9月中旬、トランプ大統領の第2期政権下で初めて、AI安全にのみ焦点を当てた公式の二国間協議を開く準備を進めていると報じられている。2 陳氏の論考は、北京の議題がモデルのアラインメントや抽象的な「制御不能」論を超えることを示唆する。

中国側はAI安全を、外国からの干渉、データ安全保障、インフラ防護、技術へのアクセス、標準策定への対等な参加と結び付ける可能性が高い。対して米国と米国の先端AI企業は、評価、サイバー防護、インシデント報告、危険な能力への統制を重視するとみられる。

限定的で実務的な協力の余地はある。合成メディアを使った詐欺、AI支援型サイバー攻撃、重大インシデントの報告、軍事リスクに関する意思疎通は、両国が比較的共通の利益を見いだしやすい具体的な課題だ。一方、普遍的な監査、能力への共通制限、世界標準を誰が決めるかといった広範な合意は難しい。同じ政策であっても、安全措置にも地政学的優位を得る手段にも見え得るからだ。

陳氏の警告が重要なのは、中国によるAI脅威評価にとどまらない。世界のAIガバナンスは、安全、主権、技術力をめぐる競合する見方を解消するか、少なくとも管理できるかにかかっていることを示している。2

中国の陳一新・国家安全相は、AIを単なる産業技術ではなく、国家安全保障に直結する問題として位置付けた。中国の政府系誌『中国網信』に寄せた論考で陳氏は、急速に高度化するAIが悪用されれば、政治の安定を損ない、機微情報を流出させ、重要インフラを危険にさらし、外国技術への依存を深めかねないと警告している。4

この警告は、米AI企業Anthropicのダリオ・アモデイCEOが、モデルの整合性（アラインメント）、安全性試験、外部からの監督が能力向上に追いつくよう、最先端AIモデルの開発速度を抑えるべきだと訴えた時期と重なる。両者とも安全対策の強化を求めているが、AI安全によって何を守るのかという出発点は大きく異なる。1

陳氏の警告：AIは政治・安全保障上の圧力手段になり得る

陳氏はAIに関するリスクを6つの大枠で示した。筆頭に置かれたのは政治安全保障への影響だ。敵対的な勢力がディープフェイクの映像・音声、AI生成の文章や画像、自動化されたオンラインアカウントを使い、政治的な偽情報を大量生産し、有害情報を拡散し、社会的な対立をあおる可能性があると指摘した。陳氏の見立てでは、こうした手法は「世論戦」や認知戦を支え、中国の政治・制度・イデオロギー上の安全を直接脅かし得る。4

懸念は偽情報にとどまらない。

• サイバー攻撃の高度化：AIは脆弱性の探索、マルウェア開発、攻撃的なサイバー作戦の自動化を促し、システムを攻撃するための専門性やコストのハードルを下げ得る。4
• 大規模な窃取・漏えい：外国の情報機関がAIを活用したウェブクローリング、データマイニング、プロファイリングを通じ、重要な国家データ、営業秘密、市民の個人情報を収集する恐れがあるとした。7
• 重要インフラへのリスク：能力を増すAIシステムは、重要情報インフラに深刻な危険をもたらし得るという。
• 技術格差と依存：AIを大国間競争の舞台と捉え、技術で先行する国が規制、標準、独自のエコシステムを通じてサプライチェーンに影響を及ぼし、競争相手を制約し得ると論じた。14
• 社会統治と軍事への影響：6項目の枠組みには、社会統治の仕組みへの構造的な衝撃と、戦争の性質そのものの変化も含まれる。

これは国家を中心に据えたAIリスク観だ。情報空間での影響工作、データ管理、インフラの強靱性、国産技術を開発・展開する能力を、相互に結び付いた安全保障の要素として扱っている。

北京にとっての核心は「技術主権」

陳氏の論考は、危険を無責任な利用者や安全でないソフトウェアだけの問題とはしていない。AI安全を、戦略的競争とも結び付けている。

同氏は、技術先進国が国家安全保障を理由に技術規制を導入し、標準を主導・独占し、閉鎖的なエコシステムを構築することで、世界のサプライチェーンを弱め、他国の技術的な選択肢を狭める可能性があると主張した。 中国政府も別途、自国の最先端AIモデルへの海外からのアクセスを制限する案を検討してきたと報じられており、北京とワシントンの双方が最先端AIを管理対象となる戦略資産とみなしつつあることを示している。

この見方では、海外製システム、外部監査、国際的に設計された安全ルールはいずれも政治的に敏感な課題となる。中立的なリスク低減策として提示された仕組みであっても、技術封じ込めや不平等なアクセスの手段と受け止められる可能性がある。

アモデイ氏の提案：安全策が追いつくまで能力向上の速度を調整する

アモデイ氏の論考『We Must Pace the Frontier』は、AI能力の向上速度を抑える別の論理を示す。技術進歩の停止を求めたのではない。企業がモデルを整合させ、安全に保護するための時間、そして独立した評価者が安全実務の有効性を検証するための時間を確保すべきだと主張した。

提案は3つの柱から成る。

1. 常駐型の独立評価者：先端AI企業は、第三者評価者に従業員に近い継続的なアクセスを提供し、安全対策、アラインメントのプロセス、インシデント報告を評価できるようにする。1
2. 民主主義国間での共通の取り組み：先端AI開発企業と民主主義国の政府が安全基準を調整し、能力競争が無制限に加速する誘因を抑える。110
3. より幅広い国際協調：長期的には、権威主義体制の政府も含むAIリスク管理の協力を目指す。10

アモデイ氏の焦点はAIの能力そのものにある。高度化するシステムが深刻な悪用を可能にしたり、既存の統制が及ばないほど自律的になったりする前に、十分な整合性、安全性、統治を確保できるかが問題だ。ロイター通信は、同氏の構想がAI悪用への懸念を背景に、リスク管理の時間を確保するため開発のペースを調整するよう求めるものだと報じた。1

OpenAIのサム・アルトマンCEOは、従業員に近いアクセスを持つ独立評価者という提案を採用すると表明した。イーロン・マスク氏も、先端領域の開発ペースを調整すべきだという呼びかけを公に支持した。1720

決定的な違い：「AI安全」は何を守るのか

両者には重なる部分もある。サイバー作戦、スパイ活動、合成メディア、重要インフラ、軍事利用のリスクをともに認識し、より強い統治の必要性も認めている。

ただし、優先順位は異なる。

北京の安全保障レンズ	先端AI企業の安全レンズ
政治的安定、イデオロギー上の安全、データ主権、技術的自立を守る	十分に制御されていない最先端AIの能力による危険を防ぐ
外国からの影響工作、情報収集、インフラ侵入、戦略的な威圧を重視する	アラインメント、評価、安全実務、高能力モデルの危険な悪用を重視する
標準、サプライチェーン、エコシステムの支配を地政学上の問題と捉える	共通の安全実務と独立評価を、システム全体のリスク低減策と捉える

この違いは言葉の定義にとどまらない。どの統治手法を受け入れられるかを左右する。北京はデータ、モデル、標準に対する主権的な管理を優先し得る一方、Anthropicのような企業は外部評価と国境をまたぐ安全上の約束を重視する。両者は原理的には両立し得るが、外部監督が国家安全保障上の統制と相いれないと見なされる場面では衝突する。

米中AI対話が難航し得る理由

米国と中国は9月中旬、トランプ大統領の第2期政権下で初めて、AI安全にのみ焦点を当てた公式の二国間協議を開く準備を進めていると報じられている。2 陳氏の論考は、北京の議題がモデルのアラインメントや抽象的な「制御不能」論を超えることを示唆する。

中国側はAI安全を、外国からの干渉、データ安全保障、インフラ防護、技術へのアクセス、標準策定への対等な参加と結び付ける可能性が高い。対して米国と米国の先端AI企業は、評価、サイバー防護、インシデント報告、危険な能力への統制を重視するとみられる。

限定的で実務的な協力の余地はある。合成メディアを使った詐欺、AI支援型サイバー攻撃、重大インシデントの報告、軍事リスクに関する意思疎通は、両国が比較的共通の利益を見いだしやすい具体的な課題だ。一方、普遍的な監査、能力への共通制限、世界標準を誰が決めるかといった広範な合意は難しい。同じ政策であっても、安全措置にも地政学的優位を得る手段にも見え得るからだ。

陳氏の警告が重要なのは、中国によるAI脅威評価にとどまらない。世界のAIガバナンスは、安全、主権、技術力をめぐる競合する見方を解消するか、少なくとも管理できるかにかかっていることを示している。2