陳一新對人工智慧（AI）的警告，呈現了北京近年最完整的一套AI國安論述之一：AI不只是工具可能被濫用，也可能成為影響政治穩定、取得敏感資料、攻擊關鍵基礎設施，以及加深科技依賴的戰略槓桿。4

這與Anthropic執行長達里奧．阿莫迪（Dario Amodei）近日提出的主張形成鮮明對照。阿莫迪呼籲前沿模型的能力提升應適度放慢，讓對齊、安全測試與外部監督有時間跟上；他並非要求停止技術進步。1 兩方都說要強化防護，但「AI安全究竟要保護什麼」，答案並不相同。

陳一新：AI可能成為政治與國安施壓工具

陳一新在官方《中國網信》雜誌的文章中列出六項AI風險。排在首位的，是對政治安全環境的系統性影響。他稱，敵對勢力及「別有用心之人」可能運用深度偽造影音、AI生成圖文及自動化網路帳號，以低成本、大規模方式製造政治謠言、散播有害資訊、煽動對立情緒，進而發動輿論戰與認知戰；在其表述中，這會直接威脅中國的政治安全、制度安全與意識形態安全。4

其餘風險也不只限於假訊息：

• 網路攻擊能力升級： AI可提高漏洞挖掘、惡意程式開發與攻擊自動化效率，降低發動攻擊所需的技術門檻與成本。4
• 大規模竊密與資料外洩： 陳一新稱，境外情報機關可利用智慧爬蟲、資料探勘與人物畫像分析，蒐集關鍵資料、商業機密及公民個資。7
• 關鍵基礎設施暴露： 能力愈強的AI系統，可能為關鍵資訊基礎設施帶來嚴重風險。
• 科技失衡與依賴： 他將AI描述為大國競爭的新賽道，技術領先國家可能透過管制、標準與封閉生態系，影響供應鏈並限制競爭者的選擇。14
• 社會治理與軍事風險： 六項框架另包括對社會治理體系的結構性衝擊，以及對軍事鬥爭型態的根本改變。

這是一種以國家為中心的AI風險觀：資訊影響力、資料控制權、基礎設施韌性與自主研發部署能力，都被視為彼此相連的國家安全問題。

為何「科技主權」是北京論述核心？

陳一新並未把風險單純歸因於不負責任的使用者或不安全的軟體，而是把AI安全直接連結至戰略競爭。

他認為，技術先進國家可能以國家安全為由實施技術限制、主導甚至壟斷標準，並建立封閉生態系，進而削弱全球供應鏈並壓縮其他國家的技術選擇。 另據報導，北京也曾研議限制海外取得中國最先進AI模型，顯示中美都愈來愈將前沿AI視為需要管制的戰略資產。

因此，外國開發的模型、外部稽核，以及由國際機構主導的安全規則，在北京的視角中都帶有政治敏感性。一項被描述為中立的風險控管措施，也可能被解讀為科技遏制或不對等技術准入的工具。

阿莫迪的方案：讓安全措施追上模型能力

阿莫迪在〈We Must Pace the Frontier〉一文中主張，前沿AI的能力進展應放慢一些，以便企業有足夠時間完成模型對齊與安全防護，也讓獨立評估者能確認安全措施是否有效。

他的三項主張包括：

1. 常駐式獨立評估： 前沿AI公司應讓第三方評估團隊獲得持續、近似員工層級的存取權，以檢視安全實務、對齊流程與事故通報。1
2. 民主國家共同承諾： 前沿開發商與民主國家政府協調安全標準，降低無限制競逐模型能力的誘因。110
3. 更廣泛的國際協調： 長期目標是與包括威權政府在內的各方合作，處理AI風險。10

這套思路以「能力」為中心：模型若快速變得更強，可能在對齊、資安防護與治理機制尚未成熟前，就已能促成嚴重濫用或展現難以控制的自主性。路透報導，阿莫迪的提議正是希望為風險管理爭取更多時間。1

OpenAI執行長山姆．奧特曼（Sam Altman）表示，OpenAI將採納讓獨立評估者取得類員工存取權的構想；馬斯克（Elon Musk）也公開支持放慢前沿發展的呼籲。1720

分歧核心：AI安全究竟保護什麼？

兩種框架並非毫無交集。雙方都承認網路行動、間諜蒐情、合成媒體、關鍵基礎設施與軍事用途可能帶來風險，也都支持加強治理。

北京的安全視角	前沿AI實驗室的安全視角
重點在政治穩定、意識形態安全、資料主權與科技自主	重點在防止能力過強、控制不足的前沿模型造成危害
關注外國影響、情報蒐集、基礎設施入侵與戰略脅迫	關注模型對齊、評估、安全實務及高能力模型遭危險濫用
將標準、供應鏈與生態系控制視為地緣政治問題	將共同安全實務與獨立評估視為降低系統性風險的手段

這不只是措辭差異，而會實際影響可接受的治理方式。北京可能優先確保對資料、模型與標準的主權控制；Anthropic等公司則著重外部評估與跨境安全承諾。兩者原則上可以互補，但當外部監督被視為與國安控制相牴觸時，衝突也難以避免。

美中AI安全對話為何難談？

美中預計在9月中旬舉行對話，這被描述為川普第二任期以來，兩國首場專門聚焦AI安全的官方雙邊討論。2 陳一新的文章顯示，北京的議程不太可能只限於模型對齊或理論上的「失控」情境。

中國可能把AI安全與外國干預、資料安全、基礎設施保護、技術取得，以及平等參與標準制定等問題連結；美國與其前沿AI企業則可能更著重模型評估、資安防護、事故通報與危險能力控管。

雙方仍有有限但務實的合作空間，例如合成媒體詐騙、AI輔助網路攻擊、重大事故通報，以及軍事風險溝通。至於普遍適用的外部稽核、共同能力上限，或由誰制定全球規則，則更難形成共識：同一項政策，在一方看來是安全保障，在另一方眼中可能是地緣政治優勢的槓桿。

陳一新的警告因此不只是中國對AI威脅的評估，也提醒外界：全球AI治理能否推進，取決於各方能否處理、或至少管理彼此對安全、主權與科技權力的競爭性定義。2

陳一新對人工智慧（AI）的警告，呈現了北京近年最完整的一套AI國安論述之一：AI不只是工具可能被濫用，也可能成為影響政治穩定、取得敏感資料、攻擊關鍵基礎設施，以及加深科技依賴的戰略槓桿。4

這與Anthropic執行長達里奧．阿莫迪（Dario Amodei）近日提出的主張形成鮮明對照。阿莫迪呼籲前沿模型的能力提升應適度放慢，讓對齊、安全測試與外部監督有時間跟上；他並非要求停止技術進步。1 兩方都說要強化防護，但「AI安全究竟要保護什麼」，答案並不相同。

陳一新：AI可能成為政治與國安施壓工具

陳一新在官方《中國網信》雜誌的文章中列出六項AI風險。排在首位的，是對政治安全環境的系統性影響。他稱，敵對勢力及「別有用心之人」可能運用深度偽造影音、AI生成圖文及自動化網路帳號，以低成本、大規模方式製造政治謠言、散播有害資訊、煽動對立情緒，進而發動輿論戰與認知戰；在其表述中，這會直接威脅中國的政治安全、制度安全與意識形態安全。4

其餘風險也不只限於假訊息：

• 網路攻擊能力升級： AI可提高漏洞挖掘、惡意程式開發與攻擊自動化效率，降低發動攻擊所需的技術門檻與成本。4
• 大規模竊密與資料外洩： 陳一新稱，境外情報機關可利用智慧爬蟲、資料探勘與人物畫像分析，蒐集關鍵資料、商業機密及公民個資。7
• 關鍵基礎設施暴露： 能力愈強的AI系統，可能為關鍵資訊基礎設施帶來嚴重風險。
• 科技失衡與依賴： 他將AI描述為大國競爭的新賽道，技術領先國家可能透過管制、標準與封閉生態系，影響供應鏈並限制競爭者的選擇。14
• 社會治理與軍事風險： 六項框架另包括對社會治理體系的結構性衝擊，以及對軍事鬥爭型態的根本改變。

這是一種以國家為中心的AI風險觀：資訊影響力、資料控制權、基礎設施韌性與自主研發部署能力，都被視為彼此相連的國家安全問題。

為何「科技主權」是北京論述核心？

陳一新並未把風險單純歸因於不負責任的使用者或不安全的軟體，而是把AI安全直接連結至戰略競爭。

他認為，技術先進國家可能以國家安全為由實施技術限制、主導甚至壟斷標準，並建立封閉生態系，進而削弱全球供應鏈並壓縮其他國家的技術選擇。 另據報導，北京也曾研議限制海外取得中國最先進AI模型，顯示中美都愈來愈將前沿AI視為需要管制的戰略資產。

因此，外國開發的模型、外部稽核，以及由國際機構主導的安全規則，在北京的視角中都帶有政治敏感性。一項被描述為中立的風險控管措施，也可能被解讀為科技遏制或不對等技術准入的工具。

阿莫迪的方案：讓安全措施追上模型能力

阿莫迪在〈We Must Pace the Frontier〉一文中主張，前沿AI的能力進展應放慢一些，以便企業有足夠時間完成模型對齊與安全防護，也讓獨立評估者能確認安全措施是否有效。

他的三項主張包括：

1. 常駐式獨立評估： 前沿AI公司應讓第三方評估團隊獲得持續、近似員工層級的存取權，以檢視安全實務、對齊流程與事故通報。1
2. 民主國家共同承諾： 前沿開發商與民主國家政府協調安全標準，降低無限制競逐模型能力的誘因。110
3. 更廣泛的國際協調： 長期目標是與包括威權政府在內的各方合作，處理AI風險。10

這套思路以「能力」為中心：模型若快速變得更強，可能在對齊、資安防護與治理機制尚未成熟前，就已能促成嚴重濫用或展現難以控制的自主性。路透報導，阿莫迪的提議正是希望為風險管理爭取更多時間。1

OpenAI執行長山姆．奧特曼（Sam Altman）表示，OpenAI將採納讓獨立評估者取得類員工存取權的構想；馬斯克（Elon Musk）也公開支持放慢前沿發展的呼籲。1720

分歧核心：AI安全究竟保護什麼？

兩種框架並非毫無交集。雙方都承認網路行動、間諜蒐情、合成媒體、關鍵基礎設施與軍事用途可能帶來風險，也都支持加強治理。

北京的安全視角	前沿AI實驗室的安全視角
重點在政治穩定、意識形態安全、資料主權與科技自主	重點在防止能力過強、控制不足的前沿模型造成危害
關注外國影響、情報蒐集、基礎設施入侵與戰略脅迫	關注模型對齊、評估、安全實務及高能力模型遭危險濫用
將標準、供應鏈與生態系控制視為地緣政治問題	將共同安全實務與獨立評估視為降低系統性風險的手段

這不只是措辭差異，而會實際影響可接受的治理方式。北京可能優先確保對資料、模型與標準的主權控制；Anthropic等公司則著重外部評估與跨境安全承諾。兩者原則上可以互補，但當外部監督被視為與國安控制相牴觸時，衝突也難以避免。

美中AI安全對話為何難談？

美中預計在9月中旬舉行對話，這被描述為川普第二任期以來，兩國首場專門聚焦AI安全的官方雙邊討論。2 陳一新的文章顯示，北京的議程不太可能只限於模型對齊或理論上的「失控」情境。

中國可能把AI安全與外國干預、資料安全、基礎設施保護、技術取得，以及平等參與標準制定等問題連結；美國與其前沿AI企業則可能更著重模型評估、資安防護、事故通報與危險能力控管。

雙方仍有有限但務實的合作空間，例如合成媒體詐騙、AI輔助網路攻擊、重大事故通報，以及軍事風險溝通。至於普遍適用的外部稽核、共同能力上限，或由誰制定全球規則，則更難形成共識：同一項政策，在一方看來是安全保障，在另一方眼中可能是地緣政治優勢的槓桿。

陳一新的警告因此不只是中國對AI威脅的評估，也提醒外界：全球AI治理能否推進，取決於各方能否處理、或至少管理彼此對安全、主權與科技權力的競爭性定義。2