高通押注近記憶體運算：HBC 能否成為 Nvidia AI 版圖的破口？

高通正試圖從 AI 基礎設施最棘手、也最容易被忽略的瓶頸切入：大型模型在推論時，必須不斷把模型權重從記憶體搬到運算單元，造成頻寬、延遲與耗電成本大增。

高通提出的答案不是單獨打造一款 GPU，而是以 Dragonfly 為核心，整合近記憶體運算、資料中心 CPU、高速網路、軟體可攜性，以及從雲端到邊緣的部署能力。其中最受關注的技術，是 High Bandwidth Compute（HBC，高頻寬運算）。

不過，這仍是一項有待驗證的長期押注。真正決定成敗的，不只是架構簡報上的數字，還包括量產晶片、獨立基準測試、先進封裝良率、供應鏈執行力，以及客戶是否願意在 CUDA 生態系之外採用另一套平台。

HBC 瞄準 AI 推論的記憶體瓶頸

在自回歸推論中，模型會隨著每個新 token 的生成反覆讀取模型資料。因此，資料搬移、記憶體存取能耗與延遲，會直接影響大型模型的服務成本。高通的 HBC 設計，是將運算晶粒置於堆疊式 LPDDR 記憶體下方，再透過密集的矽穿孔（TSV）連接上下層，讓部分運算更接近資料所在位置。245

這項差異需要正確理解。高通並不是單純宣稱 LPDDR 的傳統峰值頻寬高於所有 HBM 系統，而是主張：對適合的推論工作負載而言，若部分運算能在封裝內完成，就能減少記憶體與主處理器之間的資料往返，從而提高「有效頻寬」。29

高通表示，搭載第一代 HBC 的 Dragonfly AI250，每張卡的設計目標是提供 133 TB/s 的有效記憶體頻寬，相較採用 LPDDR5X 的 AI200 提升 18 倍。4 其他報導則指出，高通宣稱其每瓦頻寬最高可達目前 HBM 實作的 6 倍。813

但這些數字不能直接混為一談。有效頻寬、單卡頻寬、機架級頻寬，以及單一 HBM 堆疊的頻寬，代表的是不同測量範圍。將數百 TB/s 與單一 HBM 數字直接並列，並不能構成公平的效能比較。

因此，在獨立的 token 生成吞吐量測試出爐前，高通的數字更適合被視為架構與每瓦效能主張，而不是已經獲得驗證的全面性 HBM 替代方案。

三星與 SK hynix 讓 HBC 成為製造業的賭注

高通負責運算層設計與整體系統整合；據報三星電子與 SK hynix 將以記憶體夥伴身分參與 HBC 計畫，堆疊製程與記憶體相關工作則可能由這些供應商承擔，先進封裝也將是整體系統的關鍵環節。15

這意味著 HBC 不只是處理器設計，更是一場封裝與製造能力的考驗。商業化能否成功，取決於記憶體認證、3D 組裝良率、散熱、測試，以及能否以合理成本穩定生產足夠數量的系統。

一項架構即使在紙面上十分有吸引力，仍可能因封裝限制、熱設計或供應不足而失去競爭力。高通目前的產品路線圖，是在 2027 年推出第一代 HBC，並於 2028 年推出第二代 HBC。14

因此，HBC 比較像是跨越數個產品週期的平台轉型，而不是立即取代已部署在資料中心的 Nvidia 硬體。

Dragonfly 不只是一張加速卡

高通將 Dragonfly 定位為完整的資料中心產品組合，涵蓋 AI 推論系統、HBC、C1000 伺服器 CPU、網路產品與客製化晶片服務。1516

其中，Dragonfly C1000 是採用 chiplet（小晶片）架構的伺服器處理器，面向代理式 AI、一般用途工作負載與 AI head node 等場景。7 高通與 Meta 已宣布多世代 CPU 合作，第一代 C1000 預計自 2028 年下半年開始量產。18

這項合作是值得注意的驗證訊號：它讓 Meta 成為已宣布的 CPU 客戶，也替高通打開進入超大規模雲端業者伺服器機隊的可能性。

但不能過度解讀。Meta 的協議目前確認的是 CPU 合作與供應關係，並不等於 Meta 已承諾大規模部署 HBC 加速器。後者仍取決於效能、可靠度、軟體支援、供應量、網路整合與整體持有成本。

Modular 與 Mojo：高通想降低 CUDA 的轉換成本

單靠硬體，很難撼動已建立的 AI 平台。高通收購 Modular 後，取得 Mojo 程式語言與 MAX 軟體平台，並表示這些技術將支援資料中心與邊緣環境中的生成式 AI 與代理式 AI。19

這項策略的核心是「可攜性」：開發者應能在不同處理器之間搬移模型與工作負載，而不必為單一供應商重新打造整套軟體。Modular 也持續推動開放生態系；2026 年該公司會議的報導指出，Mojo 及其編譯器已完全開源。46

如果能夠實現，這或許會降低客戶同時評估高通、Nvidia、AMD 與其他加速器時的轉換成本。但它不會自動複製 Nvidia CUDA 的完整優勢，包括函式庫、開發工具、開發者熟悉度與長期生產經驗。

至於宣稱大幅超越原生實作的效能數字，在缺乏透明且可重現的獨立基準測試前，仍應視為前瞻性或供應商主張。類似地，現有資料也不足以確認 AMD 已正式評估相關技術。

高通同時透過 RISC-V 擴大 CPU 戰略。已確認的收購對象是 Ventana Micro Systems，並非原研究問題中提到的另一個公司名稱。高通表示，Ventana 將強化其 RISC-V 工程能力與生態系布局。2354

Hugging Face 串起雲端到邊緣的部署故事

高通與 Hugging Face 的合作，目標是將 Hugging Face 的工作負載帶到 Dragonfly 資料中心系統，協助模型導入，並支援裝置與資料中心之間的混合式 AI 工作負載協調。21

這支持高通更大的定位：同一家公司希望同時服務資料中心、手機、嵌入式裝置與實體 AI。若能順利落地，客戶便可能沿著同一套平台，將模型從雲端部署到邊緣裝置。

然而，廣泛的產品組合只有在開發者能夠輕鬆部署真實模型、營運商也能在生產環境中取得更好經濟效益時，才會真正構成 Nvidia 的替代方案。

HBC 也身處更大的記憶體架構競賽

高通的方案並非產業唯一方向。整個 AI 產業都在尋找降低記憶體與運算之間資料搬移量的方法。

三星的 LPDDR5X-PIM，是在低功耗 DRAM 中加入處理邏輯，讓部分運算能在更接近資料的位置完成。三星公布的示範結果顯示，相較傳統 LPDDR5X，其 AI 推論效能有所提升；《Hot Chips》相關報導則描述一項比較結果：每秒 81.3 個 token，相較基準的每秒 27 個 token。313639

SK hynix 則從 HBM 方向處理同一問題。其 hybrid bonding（混合鍵合）與 iHBM 技術，針對記憶體堆疊日益增高、頻寬持續增加後的散熱與密度挑戰。32 但另有報導指出，SK hynix 預期混合鍵合可能趕不上 HBM4E，轉而在更後續的 HBM 世代導入。40

另一方面，三星已公布 HBM4E 樣品，每個堆疊的頻寬最高可達 3.6 TB/s，pin 速度最高 16 Gbps。41 這提醒市場：HBC 競爭的不是停留在 2025 或 2026 年水準的 HBM，而是同樣持續進化中的記憶體技術。

現有證據不足以確認三星 CXL 架構 MX1 計算記憶體裝置、DeepX 採用情況，或美光對瓶頸惡化所提出的特定警告。因此，這些細節不應在本分析中被當作已證實事實。

高通接下來必須證明什麼？

高通的戰略邏輯相當完整：

• 先從推論切入： HBC 瞄準解碼階段負載，這類工作中記憶體搬移可能主導每個 token 的經濟成本。29
• 整合完整系統： Dragonfly 將加速器、CPU、網路與客製化晶片服務放在同一產品組合，而非只依賴單一晶片。1516
• 降低軟體門檻： Mojo 與 MAX 的目的，是讓工作負載更容易在不同硬體平台間移植。1946
• 建立客戶可信度： Meta 的 C1000 合作，提供了已宣布的超大規模雲端 CPU 關係，量產規劃落在 2028 年下半年。18
• 擴大部署範圍： Hugging Face 支援高通從雲端到邊緣的部署策略。21

風險同樣明確。HBC 必須在可接受的良率與散熱條件下進入量產；高通必須公布可信、針對特定工作負載的比較，清楚區分有效頻寬與原始介面頻寬；編譯器與執行環境必須可靠支援真實模型；記憶體夥伴必須能大規模供貨；客戶則必須認為導入另一套平台的收益，足以抵銷並行維護 CUDA 生態系的成本。

結論：合理的替代架構，但還不是 Nvidia 的取代者

高通提出了一套具有邏輯性的替代架構，正面挑戰 AI 基礎設施中最重要的限制之一：推論階段的記憶體資料搬移。

但按照目前路線圖，HBC 仍是「未來的挑戰」，而不是已經證明能取代 Nvidia 的產品。市場接下來應關注三個時間點：2027 年的第一代 HBC 硬體、2028 年下半年 C1000 的量產，以及客戶對效能與整體持有成本的獨立驗證。在這些證據出現以前，高通的 Dragonfly 更適合被視為一項雄心勃勃、但仍待量產與市場驗收的長期布局。