高通以 HBC 打 AI 推理戰：挑戰 Nvidia，成敗繫於「近記憶體運算」

高通想挑戰 Nvidia，唔係簡單推出一款「平替 GPU」。佢瞄準嘅係 AI 基礎設施一個越來越關鍵嘅痛點：大型模型做推理時，要不停由記憶體讀取模型權重，數據搬運本身可能成為功耗、延遲同成本嘅主要來源。

高通嘅答案係 Dragonfly 平台，將 High Bandwidth Compute（HBC）近記憶體運算、伺服器 CPU、網絡、軟件可移植性，以及由雲端到邊緣嘅部署整合埋一齊。不過，呢套架構現時仍然係一個有野心嘅產品路線圖；真正決定成敗嘅，會係量產硬件、獨立 benchmark、供應鏈執行能力，同埋客戶有冇落地採用。

HBC 對準 AI 推理嘅「記憶體牆」

自回歸式 AI 推理每生成一個 token，都要反覆讀取模型數據。因此，數據點樣由記憶體搬到處理器、搬運要用幾多電，以及存取延遲有幾高，會直接影響服務大型模型嘅經濟效益。

高通嘅 HBC 設計，係將運算 die 放喺堆疊式 LPDDR 記憶體下面，再利用密集嘅矽穿孔（TSV）連接各層，令運算更加貼近數據。245

呢個分別相當重要。高通唔係單純聲稱 LPDDR 嘅傳統峰值頻寬高過所有 HBM 系統，而係話：對於適合嘅推理工作負載，部分運算可以喺封裝內、靠近記憶體嘅位置完成，減少記憶體同主處理器之間嘅數據搬運，從而提升有效頻寬同 token 生成效率。29

高通表示，配備 HBC Gen 1 嘅 Dragonfly AI250，每張卡設計上可提供 133 TB/s 有效記憶體頻寬，較採用 LPDDR5X 嘅 AI200 提升 18 倍。4 其他報道則提到，高通聲稱每瓦頻寬最多可達現有 HBM 實作嘅 6 倍。813

但呢啲數字唔可以直接當成同一把尺比較。有效頻寬、單卡頻寬、機架級頻寬，以及單一 HBM stack 嘅頻寬，係唔同層級嘅量度。將數百 TB/s 同一個 HBM stack 嘅數字並列，未必係公平嘅 apples-to-apples 性能測試。

所以，喺未有獨立 token throughput benchmark 之前，高通嘅數字應該理解為架構及每瓦性能宣稱，而唔係已經證實嘅全面勝出。

Samsung、SK hynix 令 HBC 變成製造業押注

高通負責運算層設計同系統整合；據報 Samsung Electronics 同 SK hynix 會以記憶體夥伴身份參與 HBC 計劃。相關分工顯示，記憶體堆疊、3D 組裝及先進封裝，將會由供應鏈夥伴扮演重要角色。15

換句話講，HBC 唔只係一場處理器設計競賽，亦係一場封裝及量產競賽。產品能否商業化，取決於記憶體認證、3D 組裝良率、散熱、測試，以及能否以合理成本穩定生產。

一個架構就算喺投影片上好吸引，如果良率不足、散熱難處理，或者供應量追唔上，仍然可能無法同 Nvidia 現有方案競爭。

高通目前嘅路線圖係：第一代 HBC 於 2027 年商業化，第二代則預計於 2028 年推出。14 因此，HBC 更似係一個跨幾代產品嘅平台轉型，而唔係即時取代數據中心現有 Nvidia 硬件。

Dragonfly 唔只係一張加速卡

高通將 Dragonfly 包裝成完整資料中心產品組合，而唔係獨立 AI 加速器。路線圖包括 AI 推理系統、HBC、C1000 伺服器 CPU、網絡方案，以及客製化晶片服務。1516

Dragonfly C1000 係一款採用 chiplet 架構嘅伺服器處理器，針對 agentic AI、一般用途工作負載及 AI head node。7 高通同 Meta 已公布多代 CPU 合作，首代 C1000 預計由 2028 年下半年開始投產。18

呢項合作係一個有分量嘅客戶驗證訊號，因為 Meta 係已公布嘅 hyperscaler CPU 客戶，亦為高通打開進入大型伺服器機隊嘅路徑。但要留意，合作本身唔等於 Meta 已承諾大規模部署 HBC 加速器。

最終會唔會採用 HBC，仍然要睇性能、可靠性、軟件支援、供應、網絡整合及總擁有成本。

軟件係高通對抗 CUDA 鎖定嘅一着

單靠硬件，要撼動一個已經成熟嘅 AI 平台並唔容易。Nvidia 嘅優勢唔只係 GPU，亦包括 CUDA、函式庫、工具鏈、開發者習慣同多年生產環境經驗。

高通收購 Modular，將 Mojo 程式語言及 MAX 軟件平台納入自己嘅策略。高通表示，兩者結合後，目標係支援由資料中心到邊緣裝置嘅生成式及 agentic AI。19

策略重點係「可移植性」：開發者理論上可以將模型及工作負載搬到不同處理器，而唔使為單一供應商重新打造整套軟件。Modular 亦一直推動開放生態；2026 年相關大會報道指，Mojo 及其 compiler 已全面開源。46

如果做得到，客戶比較 Qualcomm、Nvidia、AMD 或其他加速器時，轉換平台嘅成本可能會降低。不過，開源本身唔會自動複製 CUDA 嘅深度、工具成熟度及開發者基礎。至於聲稱較原生實作有大幅性能提升，仍然要等透明而且可重現嘅 benchmark 支持，先可以視為已確立結果。

高通亦正透過 RISC-V 擴充 CPU 策略。現有文件所記載嘅收購對象係 Ventana Micro Systems，唔係原始研究問題提到嘅另一個公司名稱。高通表示，Ventana 會加強其 RISC-V 工程能力及生態系統工作。2354

Hugging Face 連接雲端同邊緣

高通同 Hugging Face 擴大合作，目標係將 Hugging Face 工作負載帶到 Dragonfly 資料中心系統，協助模型導入，並支援裝置同資料中心之間嘅混合式協調。21

呢個合作配合高通更廣泛嘅定位：由資料中心、手機，到嵌入式系統及 physical AI，建立一條較連貫嘅部署路徑。理想情況下，開發者可以由雲端一路將模型推到邊緣裝置。

但要由「產品組合廣泛」變成 Nvidia 嘅實際替代方案，關鍵仍然係開發者能否輕鬆部署真實模型，以及營運商喺生產環境係咪真係慳到錢、電力或延遲。

HBC 亦係整個記憶體產業重新設計嘅一部分

高通嘅方案並唔係孤軍作戰。整個業界都開始由「單純增加 HBM 頻寬」，轉向減少數據需要搬運嘅距離。

Samsung 嘅 LPDDR5X-PIM，就係將處理邏輯加入低功耗 DRAM，令部分運算可以靠近儲存數據嘅位置完成。Samsung 公布嘅示範顯示，LPDDR5X-PIM 喺特定 AI 推理比較中，輸出速度由傳統 LPDDR5X 嘅每秒 27 個 token，提升至每秒 81.3 個 token。313639

SK hynix 就由 HBM 方向處理同一個問題。其 hybrid bonding 同 iHBM 工作，針對記憶體 stack 越疊越高、頻寬越來越大之後出現嘅散熱及密度限制。32 另有報道指，公司預計 hybrid bonding 未能趕上 HBM4E，可能要到之後一代 HBM 先正式轉用。40

與此同時，Samsung 表示其 HBM4E sample 每個 stack 頻寬最高可達 3.6 TB/s，pin speed 最高 16 Gbps。41 呢個 HBM 路線圖十分重要，因為 HBC 面對嘅唔會係一個停留喺 2025 或 2026 年水平嘅 HBM，而係一個同樣不斷進步緊嘅競爭對手。

至於 Samsung CXL-based MX1 計算記憶體裝置、DeepX 採用情況，以及 Micron 對瓶頸惡化作出嘅特定警告，現有證據未足以喺本文當中視為已確認資料。

高通下一步要證明乜嘢？

高通嘅策略邏輯係完整嘅：

• 先攻推理市場： HBC 對準 decode-heavy 工作負載，呢類工作負載入面，記憶體搬運可能主導每個 token 嘅成本。29
• 整合完整系統： Dragonfly 將加速器、CPU、網絡及客製化晶片放入同一個平台，而唔係只賣一粒晶片。1516
• 降低軟件門檻： Mojo 同 MAX 旨在令工作負載更容易跨硬件平台移植。1946
• 建立客戶信心： Meta 嘅 C1000 合作提供咗一個已公布嘅 hyperscaler CPU 關係，生產計劃排喺 2028 年下半年。18
• 擴大部署範圍： Hugging Face 支持高通由雲端延伸到邊緣嘅平台策略。21

但風險同樣清楚。HBC 要以可接受嘅良率同散熱條件量產；高通要發布可信、針對具體工作負載嘅比較，清楚區分有效頻寬同原始介面頻寬；compiler 同 runtime 要可靠支援真實模型；記憶體夥伴要有能力大規模供貨；客戶亦要判斷，HBC 帶來嘅好處是否足以抵銷同時採用另一套平台嘅成本。

結論：方向合理，但仲未足以取代 Nvidia

高通已經設計出一套具合理邏輯嘅替代架構，正正針對 AI 基礎設施最重要嘅限制之一：推理時嘅記憶體搬運。

不過，以目前路線圖嚟講，HBC 仍然係一個未經市場充分驗證嘅未來挑戰，而唔係已經證實可以取代 Nvidia 嘅方案。真正關鍵嘅時間點包括 2027 年第一代 HBC 硬件、2028 年下半年 C1000 預計投產，以及客戶對實際性能同總擁有成本嘅獨立驗證。