陳一新的警告,核心並不是一般意義上的AI「失控」或末日風險,而是政權安全與科技主權。他認為,敵對勢力可能利用AI衝擊政治與意識形態穩定、滲透資料與基礎設施,並讓中國落入由外國主導的不對等技術秩序。
2
深偽與自動化帳號:AI可成為資訊戰工具
陳一新指出,深偽技術、AI生成的文字與影像,以及自動化社群媒體帳號,可能被用來捏造政治謠言、傳播有害資訊、放大分歧,並支援所謂的「輿論戰」與「認知戰」。在他的框架裡,這些操作可直接威脅中國的政治安全、制度安全與意識形態安全。
2
資料蒐集、網路攻擊與關鍵基礎設施
他也警告,AI能夠彙整、分析並描繪海量資料,可能協助外國情報蒐集國家機密、商業或貿易資訊及個人資料。隨著AI更擅長找出系統漏洞、產生惡意程式或可用於利用漏洞的軟體,關鍵資訊基礎設施面臨的風險也會升高。
2
3
科技主權:不只防風險,也防依賴
陳一新將AI定位為大國戰略競爭的主戰場之一。他認為,技術領先國家可能以國家安全為由實施技術限制、主導標準,並建立封閉的技術生態系統。由此衍生的政策取向,是提升自主技術能力、加強國家對資料、演算法與基礎設施的控制,並降低對外部技術的依賴。
2
與阿莫代伊、奧特曼、馬斯克有何不同?
Anthropic執行長達里奧・阿莫代伊(Dario Amodei)主張放緩前沿模型能力提升的速度,讓安全措施有時間跟上;他的三步方案包括讓獨立評估人員取得近似員工層級的系統存取權、由民主國家與企業協調共同安全標準,以及推動包含威權國家的全球合作。
1
OpenAI執行長山姆・奧特曼(Sam Altman)表示認同「放慢前沿」的方向,並支持第三方安全評估;xAI負責人馬斯克(Elon Musk)則簡短回應:「Dario is right。」
1
相較之下,陳一新的重點是主權與政治秩序:他所指的AI風險,不只是模型對所有人都可能不安全,更包括外部勢力利用AI削弱中國共產黨統治、取得中國資料,或延續西方的技術優勢。因此,在這套論述中,「安全」也意味著資訊控制、安全審查、核心技術自主,以及反制外國主導的規則制定。
2
雙方並非完全沒有交集。中國也已將AI日益自主、甚至可能脫離人類控制列為未來安全風險,因此美中之間仍有有限的對話空間。
3 不過,這種共識無法消除晶片、模型、技術標準與AI治理規則主導權上的更大競爭。
中國官方與官媒對西方減緩AI發展呼籲的反應,也呈現這項分歧:相關主張被描繪為出於恐懼、損害競爭,或意在限制中國技術進步,而非中立的安全政策。
2 因此,規劃中的首場美中AI安全接觸,反映的是對「系統可能變得難以監督」的有限共同憂慮,而非雙方已形成一致的AI治理方法。
3