陳一新如何看待AI風險？北京將其視為國安與科技主權議題

陳一新警告，快速進步且遭惡意使用的人工智慧，可能不只是技術或網路犯罪問題，更會直接衝擊中國的政治安全、制度安全、意識形態安全與關鍵資訊基礎設施。他在官方《中國網信》雜誌的文章中，把AI放進國家安全、社會穩定、資料主權與大國科技競爭的整體框架下討論。57

他具體擔心什麼？

陳一新列出六類AI相關安全風險。其中，他尤其擔憂敵對勢力利用深偽影音、AI生成文字與圖像，以及自動化社群媒體帳號，大規模捏造政治謠言、傳播有害內容、激化社會對立，並進行所謂的「輿論戰」與認知作戰。依其說法，這些手段可能直接威脅中國的政治、制度與意識形態安全。57

他也指出，AI會降低網路入侵、發掘系統漏洞及開發惡意程式的成本與技術門檻，因而可能危及關鍵資訊基礎設施與社會治理。另一方面，AI驅動的網路爬蟲、資料探勘與人物剖析工具，也可能被用於蒐集國家重要資料、商業機密與公民個人資訊，擴大情報蒐集及大規模資料外洩風險。31113

AI安全，也是科技主權之爭

陳一新將國際AI競賽描述為大國戰略競爭的新場域：領先國家可能以國家安全為由實施技術管制、主導或壟斷技術標準，並建立封閉的專有生態系。從這個角度看，AI安全不能與供應鏈控制、技術依賴、技術遏制及外部干預切割。57

這也說明北京所談的AI安全，涵蓋的範圍比模型是否失控更廣：它同時涉及資料、基礎設施、社會穩定，以及在全球技術規則中是否擁有自主性與對等的發言權。

與阿莫代伊的「放慢前沿」主張有何不同？

Anthropic執行長達里奧・阿莫代伊在〈We Must Pace the Frontier〉中並未要求停止AI研發，而是主張適度放慢模型能力躍進，讓模型對齊、安全防護與獨立檢測有足夠時間追上。他提出三項方向：讓獨立評估者以近似員工的持續存取權進入前沿AI實驗室、由民主國家與業界建立共同安全承諾，以及最終推動更廣泛的全球協調，並納入威權政府。122

OpenAI執行長山姆・阿特曼表示，將採納讓獨立評估者取得近似員工權限的構想；馬斯克也公開認同阿莫代伊應放慢前沿發展步調的呼籲。101

兩種論述的差異在於焦點：

• 北京的安全視角以國家為中心：重視政治穩定、中國共產黨的權威、意識形態管控、資料主權、基礎設施安全，以及避免受到外國技術脅迫。57
• 矽谷的前沿安全視角以能力為中心：重視能力過強但未能妥善對齊或保護的模型，是否造成重大網攻、自主性有害行動、危險科學用途，或人類失去實質控制。122

兩者並非完全衝突：網路攻擊、間諜活動、假訊息與軍事用途，都是共同關切。然而，雙方對「由誰訂標準」以及外部評估是否會觸及主權與國安紅線，仍存在根本歧見。

對美中AI安全對話意味著什麼？

美中預計於9月中旬舉行聚焦AI安全的對話，據報是美國總統川普第二任期內，兩國首次專門討論AI的官方雙邊會談。4 陳一新的文章顯示，北京可能不會只聚焦前沿模型對齊或災難性風險，也會要求將外國干預、資料與基礎設施安全、標準制定的平等參與，以及反對技術遏制等議題納入討論。37

因此，較可行的合作起點，或許是AI輔助網攻、合成媒體詐騙、重大事件通報與軍事風險溝通等具體傷害；至於通用評估規範或模型能力限制，則更容易被捲入科技競爭與戰略優勢的爭議。