陳一新對人工智慧的警告,並非主要聚焦於模型出錯,或遙遠的「超級智慧」情境;他的論述將AI置於國家安全框架之中:對手可能藉此影響輿論、蒐集敏感資料、攻擊數位系統,並利用技術依賴形成戰略壓力。陳一新認為,這些風險可直接衝擊中國的政治安全、制度安全與意識形態安全。
1
7
深偽與自動帳號:AI被視為政治與意識形態風險
陳一新警告,所謂「敵對勢力」與惡意行為者可能利用深偽音訊和影片、AI生成文字與圖片,以及自動化網路帳號,大量製造政治謠言、散播有害資訊並放大社會分歧。他將這類行動稱為「輿論戰」與「認知戰」,並明確連結到政治、制度與意識形態安全。
7
9
換言之,這不只是「模型會不會生成錯誤資訊」的問題,而是合成媒體配合自動化傳播後,是否能以低成本、大規模地影響社會秩序與資訊環境。
從資料蒐集到關鍵基礎設施:AI的情報與資安面向
陳一新也將AI與情報蒐集、網路安全相連結。他表示,外國情報機構可能深度運用智慧網路爬蟲、智慧資料探勘與智慧輪廓分析等技術,廣泛蒐集重要國家資料、商業機密與公民個人隱私。
此外,他提到,能力日益提升的AI可能找出系統弱點,並生成惡意程式或其他可用來利用漏洞的軟體,讓關鍵資訊基礎設施面臨風險。
1
這套判斷的重點在於:AI不只提升假訊息操作效率,也可能降低網路攻擊與情報蒐集的成本,同時擴大其規模。
AI競爭也是科技主權之爭
陳一新將AI形容為大國戰略競爭的新場域。
12 在此脈絡下,AI安全不只是單一系統是否可靠,也關乎一國能否掌握核心技術、資料、基礎設施,以及相關規則的制定權。
因此,外國的技術管制、標準制定與封閉式專有生態系,均具有政治與戰略意義。相關報導指出,技術壟斷與對外部技術的依賴,是陳一新所描繪風險的一部分。
8
與阿莫迪主張「放慢前沿」有何不同?
Anthropic執行長達里奧・阿莫迪(Dario Amodei)的同期主張,起點不同。他的核心憂慮是:AI能力進步速度,可能快過人類建立評估機制、安全防護與治理能力的速度。因此,他主張前沿AI開發應「放慢節奏」,但不是停止研發。
阿莫迪提出三項方向:
- 讓獨立評估人員以近似公司員工的持續存取權,檢視領先AI公司的系統與安全實務;
- 由前沿AI企業與民主政府協調共同安全標準,並限制未受約束的能力躍進;
- 推動更廣泛的國際合作,以管理AI風險。
| 問題 |
陳一新的框架 |
阿莫迪的框架 |
| 首要風險 |
對手以AI衝擊政治秩序、資料、基礎設施與國家自主性 |
前沿AI能力超過評估、安全措施與治理能力 |
| 關切的核心單位 |
國家安全與科技主權 |
高能力AI系統的安全及其全球影響 |
| 隱含的回應 |
強化安全邊界、保護資料與基礎設施、降低戰略依賴 |
獨立監督、共通安全標準,以及協調能力發展節奏 |
兩者都支持更嚴格的AI監督,但優先順序不同。陳一新的觀點把AI治理與地緣政治競爭、國內安全緊密綁定;阿莫迪則著重於讓先進AI的研發與部署更可驗證、可管理。
奧特曼與馬斯克站在哪裡?
OpenAI執行長山姆・奧特曼(Sam Altman)公開表示同意應「調節前沿進展的速度」,並稱OpenAI也會採行讓獨立評估人員獲得近似員工存取權的做法。伊隆・馬斯克(Elon Musk)則簡短回應:「Dario is right。」
因此,兩人的表態較接近阿莫迪當下的主張:避免前沿能力在缺乏充分安全審查下無節制加速,並強化獨立安全評估。這並不等於他們認同陳一新以資訊控制、外來影響行動與科技主權為中心的國家安全框架。
有限交集下的更大分歧
雙方確有一項交集:中國當局與西方主要AI企業高層都警告,愈來愈具自主性的強大系統,可能更難受到安全監督;中國也正為AI可能脫離人類控制的風險作準備。
不過,共同使用「安全」語言,不代表對問題或解方已有共識。中國官員與官方媒體曾批評西方放慢AI發展的呼籲,認為這類主張是製造恐懼、傷害競爭,或意在遏制中國技術進步。
5
12
從這個角度看,陳一新的警告不只是呼籲改善模型測試,而是將AI定位為一場涉及影響力、情報、基礎設施、技術標準與國家力量的更大競逐。
12