華為輪值董事長徐直軍嘅講法,重點唔係「中國 AI 冇風險」,而係中國開發商未必已經去到美國前沿實驗室所觸及嘅能力層級,因而未必遇到同一類最先進、最難預料嘅模型行為。他主張,中國應繼續研發更強嘅模型,但創新同風險要一齊衡量。
徐直軍嘅主張:加速同安全可以同步做
徐直軍喺華為 Connect 大會上表示,中國 AI 開發商可能未夠先進,未必感受到美國領先企業已報告嘅安全風險;不過,佢認為開發商仍應繼續建立更強模型,同時平衡創新與風險。
呢個立場同「全面暫停」唔同。按徐直軍嘅邏輯,能力提升既係競爭所需,亦係理解前沿系統風險嘅前提。換言之,策略係一邊發展、一邊治理:模型、算力基建繼續推進,而安全、可控性同部署監管亦要同步跟上。
同美國「放慢前沿 AI」主張有咩分別?
Anthropic 行政總裁 Dario Amodei 曾呼籲放慢前沿模型發展速度,騰出更多時間處理日益增加嘅安全風險。路透社報道,OpenAI 行政總裁 Sam Altman 同 Elon Musk 後來亦支持呢項主張。
13
Amodei 側重預防原則:如果模型能力跑得快過安全護欄,實驗室就應刻意減速。路透社亦提及外界對非預期及可能有害模型行為嘅憂慮,包括 OpenAI 與 Hugging Face 一宗涉及 AI「群體」進行網絡安全攻擊嘅事件。
徐直軍則將焦點放喺另一頭:中國更迫切嘅問題係要累積足夠能力,尤其係算力,先可以接近前沿模型所處嘅位置;而當風險浮現時,治理亦要同步加強。
點解中國輿論反對「減速」?
中國官方背景媒體《環球時報》將 Amodei 嘅建議形容為「冷戰劇本」,認為以安全為名嘅減速措施,可能限制中國嘅技術發展。
13
呢種反應同 AI 治理背後嘅地緣競爭有關。如果美國已在前沿模型同訓練所需運算資源上佔優,全球自願放慢發展嘅效果未必平均。Brookings 指出,中國 AI 公司、特別係初創企業,受美國先進 AI 晶片出口管制及資金限制影響,面對算力不足問題。
呢啲因素唔會自動解決 AI 安全爭議,但可解釋點解中國官員同評論者會將「控制發展節奏」視為硬件、模型與技術主導權競爭嘅一部分。
中國對 AI 代理嘅安全方向:標準與控制
中國正計劃制定一項強制性國家標準,名為《人工智能代理應用通用安全要求》,覆蓋裝置及雲端平台上嘅 AI 代理應用。據 CGTN 報道,標準制定周期列為 18 個月。
AI 代理唔止係生成文字,仲可以代表用戶使用工具、執行操作。因此,安全問題唔單止係輸出內容準唔準確,亦包括權限、工具使用、資料處理、身份識別,以及系統上線後可否有效控制。
呢場討論唔應簡化成「中國有監管、美國冇監管」。較準確嘅對比係:中國更著重由國家推動嘅標準及針對代理應用嘅正式要求;美國相關討論則較突出由前沿實驗室提出嘅自願承諾與安全實務。
13
華為對 2035 年代理經濟嘅預測
華為預計,到 2035 年,自主 AI 代理可佔全球 AI token 流量逾 90%。Token 即模型接收及產生資訊時所處理嘅單位。華為認為,呢個趨勢會需要大幅增加算力,亦要有新系統確保獨立運作嘅軟件安全、可控。
1
華為亦預測,屆時活躍代理數目最多可達 9,000 億個。呢個係企業對未來基建需求嘅情境預測,唔係已獲證實嘅市場結果。
3
不過,呢個預測反映咗華為點解將代理安全視為工程核心:當 AI 系統愈來愈多監察資訊、作出決定同使用外部工具,如何管理其存取權限及行為,就會成為基建問題,而唔可以等出事先處理。
算力點解先係華為眼前嘅樽頸?
徐直軍表示,華為無法生產足夠 AI 運算設備滿足中國內地需求,因此正限制海外銷售。
2
訓練及提供更強模型服務,需要大規模硬件、網絡與數據中心容量。Brookings 同樣指出,取得先進 AI 晶片受限,令中國企業難以達到美國競爭對手嘅算力規模。
所以,徐直軍講嘅核心其實係發展次序:中國應提升 AI 安全同控制措施,但唔應將安全憂慮變成停止建設嘅理由。喺佢睇嚟,有限算力先係縮窄前沿差距嘅即時障礙;風險管理要同能力提升並行,而唔係取而代之。
2