陳一新嘅警告,唔係單純講「AI會唔會失控」或者抽象的末日風險;他將AI視為可被敵對力量利用、直接衝擊中國政權安全與科技主權的工具。他認為,AI既可以擾亂政治及意識形態秩序,亦可以協助滲透數據、攻擊基建,並令中國在由外國主導的科技競爭中處於不利位置。
2
深度偽造、機械人帳號可成為輿論戰工具
陳一新警告,敵對行為者可以利用深度偽造(deepfake)、AI生成文字及圖片,以及自動化社交媒體帳號,捏造政治謠言、散播有害資訊、放大社會分歧,並進行「輿論戰」和「認知戰」。按其說法,這類做法可直接威脅中國的政治安全、制度安全及意識形態安全。
2
換句話講,問題不止是網上有假片假圖,而是AI令假訊息可以更快、更大規模、更有針對性地傳播,從而影響公眾認知與政治穩定。
情報蒐集、數據外洩與關鍵基建風險
陳一新亦聚焦AI的資料處理能力:AI可以聚合、分析及描繪海量數據,因而可能幫助外國情報活動取得國家機密、商業或貿易資料及個人數據。
2
3
他同時指出,AI愈來愈有能力發現系統漏洞,並製作惡意軟件或用作利用漏洞的程式;先進AI模型尤其可能為關鍵資訊基建帶來嚴重風險。
2
3
科技主權:不只防攻擊,亦要防依賴
在陳一新的框架中,AI是大國戰略競爭的戰場。領先國家可能以「國家安全」為理由實施技術限制、主導技術標準,並建立封閉的科技生態系統。
2
由此引申的政策方向,是提升自主技術能力,加強國家對數據、演算法及基建的控制,並減少對外國關鍵技術的依賴。這反映其所講的「安全」,既包括防範網絡及情報威脅,也包括避免在技術供應鏈和規則制定上受制於人。
2
同Amodei、Altman、Musk有咩分別?
Anthropic行政總裁Dario Amodei主張放慢前沿AI模型能力提升速度,讓安全措施有時間追上。他提出三步:讓具實質系統存取權的獨立評估者檢驗安全做法、由民主政府與科技公司協調共同標準,以及最終推動涵蓋威權國家的全球協作。
1
陳一新同樣關心AI可能難以監管甚至失控,但主要出發點是主權與政治秩序:他所擔心的是,對手利用AI削弱中共管治、取得中國數據,或維持西方在科技上的優勢。
2
3
OpenAI行政總裁Sam Altman表示認同要「調節前沿」的步伐,亦支持讓第三方安全評估者獲得近似員工級別的存取權;Elon Musk則簡短回應:「Dario is right。」兩人的公開表態,焦點是在放慢及評估前沿能力進展,而非陳一新所主張、以國家安全和技術自主為核心的方案。
1
所以,中美之間確有一個有限交集:雙方都承認更自主的AI系統可能愈來愈難由人監督。不過,晶片與模型的取得、技術標準由誰制定,以及治理規則由誰主導,仍然是更大的戰略競爭所在。
3
中國官方及官媒的反應亦顯示這個分歧:西方要求放慢AI發展,往往被描述為出於恐懼、損害競爭,或意圖限制中國的技術進步,而非中立的安全政策。
2