中國國家安全部部長陳一新，近日就點解人工智能（AI）屬於國家安全議題，提出北京至今其中一個最清晰、最完整嘅說法。他喺官方《中國網信》雜誌發表文章，警告 AI 技術急速進步，加上被惡意利用，可能衝擊政治穩定、洩露敏感資料、危及關鍵基礎設施，亦會加深中國對外國技術嘅依賴。4

另一邊廂，Anthropic 行政總裁 Dario Amodei 則呼籲，前沿 AI 模型嘅能力提升要放慢節奏，等模型對齊（即令系統行為符合人類預期）、安全測試同外部監察有時間跟上。兩者都主張加強防護，但要保護嘅「安全」其實唔係同一樣嘢。1

陳一新嘅警告：AI 可成為政治同國安施壓工具

陳一新列出 AI 帶來嘅六大風險，排首位係政治安全環境。他指敵對勢力可利用深度偽造影音、AI 生成圖文同自動化網絡帳號，低成本、大規模炮製政治謠言、散播有害資訊，並煽動社會對立。按佢嘅說法，呢類手段可用於「輿論戰」同認知戰，直接威脅中國嘅政治安全、制度安全同意識形態安全。4

其餘風險亦不止於假消息：

• 網絡攻擊能力提升： AI 可以提升漏洞發掘、惡意程式開發及進攻性網絡行動自動化嘅效率，令發動攻擊所需嘅技術門檻同成本降低。4
• 大規模竊取及洩密： 陳一新警告，外國情報機關可透過 AI 驅動嘅網絡爬蟲、數據挖掘同用戶畫像分析，蒐集關鍵國家數據、商業秘密同公民個人資料。7
• 關鍵基礎設施受威脅： 佢認為，能力愈來愈高嘅系統會為關鍵資訊基礎設施帶來嚴重風險。
• 科技失衡與依賴： 陳一新將 AI 視為大國競爭嘅重要賽場；科技領先國家可透過管制、標準同專有生態系統影響供應鏈，並限制競爭對手嘅選擇。14
• 社會治理與軍事風險： 佢嘅六項框架亦包括對社會治理體系嘅結構性衝擊，以及軍事衝突形態嘅根本改變。

呢個係以國家為中心嘅 AI 風險觀：資訊影響力、數據控制、基建韌性，以及本土技術研發同部署能力，都被視為連成一體嘅國安問題。

點解「科技自主」係北京視角嘅核心

陳一新嘅文章，並無將風險單純歸因於不負責任嘅用家或者不安全軟件，而係將 AI 安全直接放入戰略競爭框架之中。

佢認為，科技先進國家可能以國家安全為由實施技術限制、主導甚至壟斷標準、建立封閉生態，從而削弱全球供應鏈，並收窄其他國家嘅科技選擇。 中國亦曾討論限制海外取得其最先進 AI 模型，反映北京同華盛頓都愈來愈將前沿 AI 視為需要管控嘅戰略資產。

喺呢種視角下，外國開發嘅系統、外部審核，以及由國際主導制訂嘅安全規則，都會變得政治敏感。一項被描述為中立風險管理嘅措施，亦可能被理解為技術遏制，或者造成不平等准入嘅工具。

Amodei 嘅建議：放慢能力升級，畀防護措施追返進度

Amodei 喺文章《We Must Pace the Frontier》中提出另一套理由，主張減慢模型能力躍升嘅速度。佢唔係要求停止技術進步，而係認為企業要預留足夠時間，做好模型對齊及保安工作，並由獨立評估者核實安全措施是否有效。

佢提出三個方向：

1. 常駐式獨立評估者： 前沿 AI 公司應畀第三方評估團隊持續而近似僱員級別嘅接觸權限，以檢視安全實務、對齊流程同事故通報。1
2. 民主國家之間嘅共同承諾： 前沿開發商同民主政府協調安全標準，減少無約束地鬥快提升能力嘅誘因。110
3. 更廣泛嘅國際協調： 長遠目標係就 AI 風險管理展開合作，亦包括同威權政府協作。10

Amodei 關注嘅核心係模型能力：愈強大嘅系統，可能喺真正被用於嚴重濫用、或者自主程度超出現行管控能力之前，已經變得難以對齊、保護同治理。路透社報道，佢嘅方案旨在於 AI 濫用憂慮升溫之際，放慢發展節奏，換取更多時間處理風險。1

OpenAI 行政總裁 Sam Altman 表示，OpenAI 會採納畀獨立評估者提供近似僱員級別存取權嘅構想；Elon Musk 亦公開支持放慢前沿發展步伐。1720

根本分歧：AI「安全」究竟保護乜？

兩套框架確有重疊：雙方都承認網絡行動、間諜活動、合成媒體、關鍵基建同軍事應用所帶來嘅風險，亦都支持加強監管。

但優先次序明顯不同：

北京嘅安全視角	前沿 AI 實驗室嘅安全視角
保護政治穩定、意識形態安全、數據主權及科技自主	防範前沿模型能力過強但未受充分控制嘅風險
聚焦敵對外國勢力影響、情報蒐集、基建滲透及戰略脅迫	聚焦模型對齊、評估、保安實務，以及高能力模型被危險濫用
視標準、供應鏈及生態系統控制為地緣政治問題	視共同安全實務同獨立評估為降低系統性風險嘅方法

分別唔只係字眼問題，而係直接影響各方認為咩管治方法可以接受。北京可能優先主張對數據、模型同標準嘅主權控制；Anthropic 等公司則強調外部評估同跨境安全承諾。原則上，兩者可以互補；但當外部監察被視為同國安控制相衝突時，兩者亦可以正面碰撞。

點解中美 AI 對話唔容易談

美國同中國原定於 9 月中舉行對話，據報係特朗普第二任期內，兩國首次專門聚焦 AI 安全嘅官方雙邊會談。2 陳一新嘅文章顯示，北京關心嘅議程會遠超模型對齊，或者 AI 失控等理論性風險。

中國預料會將 AI 安全連結到外國干預、數據安全、基建保護、技術取得，以及參與制訂標準嘅平等權利。美國及其前沿 AI 公司則較可能側重模型評估、網絡防護、事故通報，以及限制危險能力。

雙方仍有有限而實際嘅合作空間，例如針對合成媒體詐騙、AI 輔助網絡攻擊、嚴重事故通報，以及軍事風險溝通。至於通用審核制度、共同能力限制，或者由邊個制訂全球規則，則會更難達成共識：同一項政策，既可被視為安全措施，亦可被視為地緣政治競爭嘅槓桿。

所以，陳一新嘅警告唔只係中國對 AI 威脅嘅一份評估，更提醒外界：全球 AI 管治能否推進，取決於各方可否處理——至少係管理——對安全、主權同科技力量嘅競爭性理解。2

中國國家安全部部長陳一新，近日就點解人工智能（AI）屬於國家安全議題，提出北京至今其中一個最清晰、最完整嘅說法。他喺官方《中國網信》雜誌發表文章，警告 AI 技術急速進步，加上被惡意利用，可能衝擊政治穩定、洩露敏感資料、危及關鍵基礎設施，亦會加深中國對外國技術嘅依賴。4

另一邊廂，Anthropic 行政總裁 Dario Amodei 則呼籲，前沿 AI 模型嘅能力提升要放慢節奏，等模型對齊（即令系統行為符合人類預期）、安全測試同外部監察有時間跟上。兩者都主張加強防護，但要保護嘅「安全」其實唔係同一樣嘢。1

陳一新嘅警告：AI 可成為政治同國安施壓工具

陳一新列出 AI 帶來嘅六大風險，排首位係政治安全環境。他指敵對勢力可利用深度偽造影音、AI 生成圖文同自動化網絡帳號，低成本、大規模炮製政治謠言、散播有害資訊，並煽動社會對立。按佢嘅說法，呢類手段可用於「輿論戰」同認知戰，直接威脅中國嘅政治安全、制度安全同意識形態安全。4

其餘風險亦不止於假消息：

• 網絡攻擊能力提升： AI 可以提升漏洞發掘、惡意程式開發及進攻性網絡行動自動化嘅效率，令發動攻擊所需嘅技術門檻同成本降低。4
• 大規模竊取及洩密： 陳一新警告，外國情報機關可透過 AI 驅動嘅網絡爬蟲、數據挖掘同用戶畫像分析，蒐集關鍵國家數據、商業秘密同公民個人資料。7
• 關鍵基礎設施受威脅： 佢認為，能力愈來愈高嘅系統會為關鍵資訊基礎設施帶來嚴重風險。
• 科技失衡與依賴： 陳一新將 AI 視為大國競爭嘅重要賽場；科技領先國家可透過管制、標準同專有生態系統影響供應鏈，並限制競爭對手嘅選擇。14
• 社會治理與軍事風險： 佢嘅六項框架亦包括對社會治理體系嘅結構性衝擊，以及軍事衝突形態嘅根本改變。

呢個係以國家為中心嘅 AI 風險觀：資訊影響力、數據控制、基建韌性，以及本土技術研發同部署能力，都被視為連成一體嘅國安問題。

點解「科技自主」係北京視角嘅核心

陳一新嘅文章，並無將風險單純歸因於不負責任嘅用家或者不安全軟件，而係將 AI 安全直接放入戰略競爭框架之中。

佢認為，科技先進國家可能以國家安全為由實施技術限制、主導甚至壟斷標準、建立封閉生態，從而削弱全球供應鏈，並收窄其他國家嘅科技選擇。 中國亦曾討論限制海外取得其最先進 AI 模型，反映北京同華盛頓都愈來愈將前沿 AI 視為需要管控嘅戰略資產。

喺呢種視角下，外國開發嘅系統、外部審核，以及由國際主導制訂嘅安全規則，都會變得政治敏感。一項被描述為中立風險管理嘅措施，亦可能被理解為技術遏制，或者造成不平等准入嘅工具。

Amodei 嘅建議：放慢能力升級，畀防護措施追返進度

Amodei 喺文章《We Must Pace the Frontier》中提出另一套理由，主張減慢模型能力躍升嘅速度。佢唔係要求停止技術進步，而係認為企業要預留足夠時間，做好模型對齊及保安工作，並由獨立評估者核實安全措施是否有效。

佢提出三個方向：

1. 常駐式獨立評估者： 前沿 AI 公司應畀第三方評估團隊持續而近似僱員級別嘅接觸權限，以檢視安全實務、對齊流程同事故通報。1
2. 民主國家之間嘅共同承諾： 前沿開發商同民主政府協調安全標準，減少無約束地鬥快提升能力嘅誘因。110
3. 更廣泛嘅國際協調： 長遠目標係就 AI 風險管理展開合作，亦包括同威權政府協作。10

Amodei 關注嘅核心係模型能力：愈強大嘅系統，可能喺真正被用於嚴重濫用、或者自主程度超出現行管控能力之前，已經變得難以對齊、保護同治理。路透社報道，佢嘅方案旨在於 AI 濫用憂慮升溫之際，放慢發展節奏，換取更多時間處理風險。1

OpenAI 行政總裁 Sam Altman 表示，OpenAI 會採納畀獨立評估者提供近似僱員級別存取權嘅構想；Elon Musk 亦公開支持放慢前沿發展步伐。1720

根本分歧：AI「安全」究竟保護乜？

兩套框架確有重疊：雙方都承認網絡行動、間諜活動、合成媒體、關鍵基建同軍事應用所帶來嘅風險，亦都支持加強監管。

但優先次序明顯不同：

北京嘅安全視角	前沿 AI 實驗室嘅安全視角
保護政治穩定、意識形態安全、數據主權及科技自主	防範前沿模型能力過強但未受充分控制嘅風險
聚焦敵對外國勢力影響、情報蒐集、基建滲透及戰略脅迫	聚焦模型對齊、評估、保安實務，以及高能力模型被危險濫用
視標準、供應鏈及生態系統控制為地緣政治問題	視共同安全實務同獨立評估為降低系統性風險嘅方法

分別唔只係字眼問題，而係直接影響各方認為咩管治方法可以接受。北京可能優先主張對數據、模型同標準嘅主權控制；Anthropic 等公司則強調外部評估同跨境安全承諾。原則上，兩者可以互補；但當外部監察被視為同國安控制相衝突時，兩者亦可以正面碰撞。

點解中美 AI 對話唔容易談

美國同中國原定於 9 月中舉行對話，據報係特朗普第二任期內，兩國首次專門聚焦 AI 安全嘅官方雙邊會談。2 陳一新嘅文章顯示，北京關心嘅議程會遠超模型對齊，或者 AI 失控等理論性風險。

中國預料會將 AI 安全連結到外國干預、數據安全、基建保護、技術取得，以及參與制訂標準嘅平等權利。美國及其前沿 AI 公司則較可能側重模型評估、網絡防護、事故通報，以及限制危險能力。

雙方仍有有限而實際嘅合作空間，例如針對合成媒體詐騙、AI 輔助網絡攻擊、嚴重事故通報，以及軍事風險溝通。至於通用審核制度、共同能力限制，或者由邊個制訂全球規則，則會更難達成共識：同一項政策，既可被視為安全措施，亦可被視為地緣政治競爭嘅槓桿。

所以，陳一新嘅警告唔只係中國對 AI 威脅嘅一份評估，更提醒外界：全球 AI 管治能否推進，取決於各方可否處理——至少係管理——對安全、主權同科技力量嘅競爭性理解。2