陳一新警告：AI一旦被濫用，可衝擊中國政治安全與關鍵基建

陳一新將人工智能主要界定為國家安全及政權安全問題：一旦被敵對勢力濫用，AI可被用作擾亂中國、竊取敏感資料、危害關鍵基礎設施，並令中國在重要技術上受制於人。這與Anthropic行政總裁Dario Amodei同期的警告有所不同：Amodei關注的是前沿AI能力提升得太快，以致人類未必來得及完成對齊、安全保護及有效管治。不過，兩者都主張加強防護與國際協調。3712

陳一新具體警告甚麼？

陳一新在官方《中國網信》雜誌撰文，列出六類與AI有關的安全風險。他稱，敵對勢力可利用深偽聲音和影片、AI生成文字與圖片，以及自動化社交媒體帳戶，大規模炮製政治謠言、散播有害資訊、激化社會矛盾，並進行「輿論戰」和認知戰，從而直接危及中國的政治安全、制度安全及意識形態安全。57

他亦警告，AI會降低網絡入侵和開發惡意程式的成本及技術門檻；它可協助情報蒐集，造成國家機密、具商業敏感性的貿易資料及個人資訊大規模外洩，亦可能危及關鍵信息基礎設施與社會治理。31113

「技術主權」也是安全問題

在陳一新的論述中，全球AI競爭不只是技術競爭。他認為，領先國家會以國家安全為理由施加技術管制、主導甚至壟斷標準，並建立專有或封閉的技術生態系統。因此，AI安全也涉及戰略依賴、供應鏈控制、技術遏制及外國干預等問題。57

換句話說，北京所說的AI安全，不只關乎模型會否出錯或被濫用，也關乎誰控制核心技術、數據和標準。

Amodei：不是停止AI，而是為安全爭取時間

Amodei在文章〈We Must Pace the Frontier〉提出，並非要叫停AI研發，而是應放慢模型能力推進的步伐，讓對齊研究、安全保護及外部測試有足夠時間跟上。他的建議包括：

• 在前沿AI公司內設置具長期、近似員工級別存取權的獨立評估者；
• 民主國家的AI企業就共同安全承諾作協調；
• 最終推動更廣泛、並涵蓋威權政府的全球協調機制。122

OpenAI行政總裁Sam Altman表示，公司會採納讓獨立評估者取得員工級別存取權的構想；Elon Musk亦公開認同應放慢前沿AI發展步伐。101

同叫「安全」，核心關注卻不同

北京的安全視角以國家為中心，重點是政治穩定、中國共產黨管治權威、意識形態控制、數據主權、基建安全，以及避免受到外國技術脅迫。57

矽谷的前沿安全視角則以模型能力為中心，關注未對齊或防護不足的模型會否促成災難性網絡攻擊、自主有害行動、危險科學用途，甚至令人類失去實質控制。對應工具主要是模型評估、技術防護及跨境安全規則。122

兩種立場並非完全對立。雙方都承認網絡濫用、間諜活動、虛假資訊及軍事用途的風險。不過，大家對應由誰訂立標準、「安全」規則會否變成戰略性技術限制，以及外部評估與國家主權能否並存，存在根本分歧。

美中AI安全對話為何難談？

據報，美中計劃在9月中舉行特朗普第二任期以來，首次專門討論AI安全的官方雙邊對話。4 陳一新的文章反映，北京很可能希望議程涵蓋外國干預、數據及基建安全、在標準制定上獲得平等對待，以及反對技術遏制，而不只是Amodei所強調的前沿模型對齊與災難風險。37

因此，較有機會達成共識的，或許是較具體的議題，例如AI輔助網絡攻擊、合成媒體詐騙、事故通報，以及軍事風險溝通。至於通用的模型評估制度或能力限制，則更難談攏：華府眼中的減風險措施，北京可能視為維持美國技術優勢的工具。