華為輪值董事長徐直軍對中國 AI 發展提出的主張,並不是「安全不用管」,而是:中國開發者可能尚未到達美國前沿實驗室已經面對的能力高度,因此應持續建構更強模型與運算基礎設施,同時處理隨能力升高而浮現的風險。
徐直軍的主張:加速與安全可以同步進行
徐直軍在華為 Connect 大會上表示,中國 AI 開發者的能力或許尚未高到會經歷美國領先業者所通報的安全風險;不過,他仍主張持續開發更強大的模型,並在創新與風險之間取得平衡。
這與「暫停研發」並不相同。依徐直軍的脈絡,提升能力既是競爭所需,也是理解前沿系統風險的必要條件。實務上,這是一種一邊建設、一邊治理的策略:擴充模型與算力,同步建立安全、可控性與部署管理機制。
與美國「放慢前沿 AI」主張有何不同?
辯論升溫的背景,是 Anthropic 執行長 Dario Amodei 呼籲放慢前沿模型的開發步調,讓安全措施有更多時間跟上。他的提議其後獲 OpenAI 執行長 Sam Altman 與 Elon Musk 支持。
13
Amodei 的重點在於預防:若模型能力的成長快過安全防護,實驗室就應有意識地降低推進速度。路透也提到,外界擔憂模型可能出現未預期且有害的行為,其中包括被引用的 OpenAI 與 Hugging Face 事件:一個 AI「群體」進行了網路安全攻擊。
徐直軍的著眼點則不同。他同樣承認發展與風險必須平衡,但認為中國眼前更重要的是建立足夠的模型能力與算力,接近那些前沿風險開始變得顯著的門檻。
為何中國輿論反對減速提案?
中國官方背景媒體《環球時報》將 Amodei 的提案形容為「冷戰劇本」,認為以安全為名的減速主張,可能限制中國技術發展。
13
這反映 AI 治理已置於地緣科技競爭之中。若美國已在前沿模型與訓練所需運算資源上領先,一項自願性的全球減速安排,可能產生不對等影響。布魯金斯學會指出,中國 AI 公司、特別是新創企業,受到美國先進 AI 晶片出口管制及資本資源較有限的影響,面臨算力約束。
這並未消除真正的安全問題;但它說明了為何中國官員與評論者可能認為,「控制步調」的倡議難以和硬體、模型及技術主導權的競爭切割來看。
中國針對 AI 代理的治理:以標準與控制為重
中國也正針對自主性愈來愈高的軟體建立控制措施。據 CGTN 報導,規劃中的強制性國家標準《人工智慧代理應用安全通用要求》,將適用於各類裝置與雲端平台上的 AI 代理應用,預定研製週期為 18 個月。
AI 代理不只生成文字,也能代替使用者使用工具、執行操作,因此安全焦點不再只是輸出內容是否適當,還包括權限設定、工具調用、資料處理、身分識別,以及系統部署後能否持續受控。
這場討論中的對比,並非簡化為「中國監管、美國不監管」。較貼近事實的說法是,中國的路徑較著重國家支持的標準與正式要求;美國的公共討論則突出前沿實驗室的自願承諾與建議性安全作法。
13
華為的 2035 年代理情境
華為預期,到 2035 年,自主代理將占全球 AI token 流量逾 90%。所謂 token,是模型在接收與生成資訊時處理的基本單位。華為認為,這將需要大幅提升算力,並建置能確保自主軟體安全且可控的新系統。
1
華為另預測,屆時活躍代理數量可能高達 9,000 億個。這是企業提出的基礎設施規劃情境,並非已被市場驗證的結果,應視為華為的預測而非定論。
3
不過,這項預測也說明華為為何把代理安全視為核心工程課題:當 AI 系統日益負責監測資訊、做出決策並使用外部工具,對其存取權限與行為的管理,便會成為基礎設施的一部分,而非事後補救。
算力供給為何是華為眼前的瓶頸?
徐直軍表示,華為無法生產足夠的 AI 運算設備來滿足中國國內需求,因此正限制海外銷售。
2
這項限制位於華為 AI 策略的核心。訓練與提供日益強大的模型服務,需要大規模硬體、網路及資料中心容量。布魯金斯學會同樣指出,取得先進 AI 晶片受限,會限制中國企業達到美國競爭者的算力規模。
因此,徐直軍談的是發展的優先順序。中國應提升 AI 安全與控制能力,但不應把安全疑慮當成停止建設的理由。依其觀點,有限的運算設備與算力,才是縮小前沿差距更立即的障礙;風險管理必須與能力提升同步推進,而非取而代之。
2