陈一新谈AI安全风险：从深度伪造到技术封锁

陈一新在《中国网信》刊文中警示，人工智能的快速发展及其被恶意滥用，可能直接威胁中国的政治安全、制度安全和意识形态安全。他的核心判断是：AI不仅是生产力工具，也是可能被敌对力量用于影响舆论、窃取数据、实施网络攻击和冲击关键基础设施的国家安全变量。57

六类风险中，首先是舆论操纵与认知对抗

陈一新提到，深度伪造音视频、AI生成图文以及自动化社交媒体账号，可能被用于大规模制造政治谣言、传播有害信息、激化社会对立，并开展“舆论战”和认知战。这类能力一旦被敌对力量利用，风险不止于虚假信息本身，也可能外溢至政治稳定、制度运行和意识形态安全。57

他还指出，AI会降低网络入侵和恶意软件开发的成本与技术门槛；攻击者可利用其发现系统漏洞，并生成用于利用这些漏洞的恶意程序或软件。513

数据、基础设施与社会治理同样被纳入安全视角

在陈一新的论述中，AI驱动的网络爬虫、数据挖掘和画像分析，可能被境外情报机构用于搜集国家重要数据、商业秘密和公民个人信息，进而造成大规模敏感数据泄露。719

他同时警示，能力不断增强的AI系统可能给关键信息基础设施和社会治理带来风险。路透社报道称，他特别提及部分美国先进模型可能对中国关键信息基础设施构成严重风险，并呼吁全面强化AI安全。3

AI安全也关乎科技主权

陈一新将国际AI竞争描述为大国战略博弈的新领域：领先国家可能以国家安全为由实施技术管制，影响或垄断标准，并构建专有、封闭的技术生态。在这一框架下，AI安全不能脱离供应链控制、技术依赖、技术遏制和外部干预来谈。57

换言之，他的警示并非只针对模型失控或单一网络攻击，而是将AI置于政治安全、数据主权、基础设施防护和科技自主能力的综合议题中。37

与美国前沿AI安全讨论的侧重点不同

几乎同时，Anthropic首席执行官达里奥·阿莫代伊在《We Must Pace the Frontier》中呼吁放缓前沿模型能力提升的节奏，为模型对齐、安全防护和外部测试留出时间。他提出让独立评估人员以类似员工的持续权限进入前沿AI实验室、推动民主国家形成共同安全承诺，并最终开展更广泛的全球协调；他强调，这并不等于停止模型训练或技术进步。1212

两种安全叙事存在交集，例如网络攻击、间谍活动、虚假信息和军事用途；但关注重点不同：

• 陈一新的视角更偏国家与制度安全，强调政治稳定、数据主权、关键基础设施、技术自主以及防范外部干预。57
• 阿莫代伊的视角更偏前沿能力安全，强调模型能力可能超过人类现有的对齐、保护和治理能力，从而带来灾难性网络攻击、危险科学用途或失去有效人类控制等风险。212

据报道，美中计划在9月中旬举行特朗普第二任期内首场专门聚焦AI安全的官方双边对话。4 陈一新的文章表明，中方可能不仅关注前沿模型评测或能力限制，也会将境外干预、数据与基础设施安全、标准制定中的平等参与，以及反对技术遏制纳入讨论范围。37

因此，双方若要取得实际进展，或许更容易从AI辅助网络攻击、合成媒体诈骗、事故通报和军事风险沟通等具体问题入手；至于通用评测标准、外部监督机制和能力边界，仍可能受到主权、安全与技术竞争分歧的制约。