陳一新將人工智能(AI)描述為國家安全挑戰,焦點不只在技術出錯,亦不是純粹討論超級智能的假想風險。在他的論述中,敵對方可藉生成式AI影響輿論、蒐集敏感數據、攻擊數碼系統,以及利用科技依賴施加壓力;這些風險可直接觸及中國所說的政治、制度和意識形態安全。
1
7
核心憂慮:AI可成擾亂政治與意識形態的工具
陳一新警告,「敵對勢力」及惡意人士可利用深偽聲音及影片、AI生成文字與圖片,以及自動化網絡帳號,捏造政治謠言、散播有害資訊、放大社會分歧。他把這類手法稱為「輿論戰」和「認知戰」,並直接連結到政治、制度及意識形態安全的威脅。
7
9
這是一種以政權安全為中心的觀點:問題不單是模型會否產生錯誤內容,而是合成媒體配合自動化、大規模傳播後,會否衝擊社會秩序與政府對資訊的管控。
數據蒐集、情報活動與關鍵基建
陳一新亦把AI與情報及網絡安全風險扣連。他稱,外國情報機關可透過智能網絡爬蟲、智能數據挖掘及人物畫像分析,廣泛蒐集國家重要數據、商業秘密和公民個人私隱資料。
他同時指出,能力愈來愈高的AI可協助找出系統漏洞,並生成惡意軟件或其他用作利用漏洞的程式,令關鍵資訊基礎設施面對更大風險。
1
合起來看,這套論述的意思是:AI可能降低資訊戰與網絡情報蒐集的成本,同時把行動規模大幅放大。
AI競爭亦是科技主權問題
陳一新形容AI已成為大國戰略競爭的新領域。
12 在這個框架下,AI安全亦關乎中國能否掌握關鍵技術、數據、基建,以及相關規則的主導權。
因此,外國科技管制、標準制定權及封閉式專有生態系統,都不只是商業或技術問題,而帶有政治意義。其擔憂在於:若AI產業鏈的控制權高度不均,便可能成為別國向中國施加戰略影響力的槓桿。關於陳一新言論的報道,亦把技術壟斷和對外依賴列為整體風險的一部分。
8
與Dario Amodei「為前沿AI減速」有何分別?
Anthropic行政總裁Dario Amodei同期提出的主張,出發點不同:AI能力的進步速度,可能快過制度與安全措施應對濫用及失控風險的速度。他不是要求停止研發,而是主張為前沿AI的能力提升「減速」。
他的三步方案包括:
- 讓獨立評估人員以近似僱員的持續存取權,檢視領先AI公司的系統及安全做法;
- 前沿AI公司與民主政府協調,共同訂立安全標準,並限制未受制衡的能力競賽;
- 擴大國際合作,以管理AI風險。
兩者的差別可概括如下:
| 問題 |
陳一新的框架 |
Amodei的框架 |
| 首要危險 |
對手藉AI衝擊政治秩序、數據、基建與國家自主性 |
前沿AI能力超越評估、保障及治理能力 |
| 關注單位 |
國家安全與科技主權 |
日益強大的AI系統安全及其全球影響 |
| 隱含對策 |
強化安全邊界、保護數據與基建、降低戰略依賴 |
獨立審查、共通安全標準、協調能力發展步伐 |
兩種取向都支持加強AI監管,但優先次序不同。陳一新的角度,將AI治理視為地緣政治競爭和國內安全不可分割的一環;Amodei則聚焦如何令先進AI的開發,在跨公司、跨國層面更容易驗證和控制。
Altman與Musk的位置
OpenAI行政總裁Sam Altman公開表示,同意業界需要「為前沿領域調節步伐」,並稱OpenAI會採納讓獨立評估人員取得近似僱員存取權的構想。Elon Musk的回應則是:「Dario is right(Dario說得對)。」
兩人的表態,較接近Amodei當下關於避免無制衡推高前沿AI能力、加強獨立安全審查的議程;這並不等同認同陳一新以資訊管控、外國影響行動與科技主權為核心的國家主導式框架。
有限共識之下,是更大的戰略分歧
雙方確有一個交集:中國官方與多名西方AI業界領袖,都曾警告更自主、能力更強的系統或會變得難以安全監督。中國亦正為AI可能脫離人類控制的風險作準備。
不過,不能因為同樣談「安全」便忽視底層分歧。中國官員和官方媒體曾批評西方要求放慢AI發展的呼籲,是由恐懼驅動、損害競爭,或意圖限制中國科技進步。
5
12
所以,陳一新的警告不只是要求加強模型測試,而是表明AI已成為影響力、情報、基建、標準與國家實力競逐的一部分。
12