高通想挑战英伟达在数据中心AI领域的主导地位,切入点并不是简单复制一套GPU方案,而是瞄准大模型推理中的一个关键成本来源:模型权重在内存和处理器之间反复搬运所消耗的带宽、能耗与延迟。
高通给出的答案是Dragonfly平台。平台由近存计算架构HBC、AI推理加速器、服务器CPU、网络连接、软件工具链以及从云端到边缘设备的部署能力组成。若要真正撼动英伟达,高通不仅要证明芯片设计有效,还必须解决先进封装、量产、软件迁移和客户验证等一系列问题。
HBC瞄准AI推理的内存瓶颈
在自回归推理过程中,系统每生成一个令牌,都要不断读取模型数据。对于解码阶段而言,计算本身未必是唯一瓶颈,数据从内存移动到处理器的过程同样会带来显著的能耗和延迟。
高通的High Bandwidth Compute(HBC,高带宽计算)采用近存计算思路:把计算裸片放置在堆叠式LPDDR内存结构下方,并通过密集的硅通孔(TSV)连接内存与计算层,让部分数据密集型操作尽可能在封装内部、靠近数据的位置完成。
2
4
5
这一区别很重要。高通并不是简单宣称LPDDR的传统峰值带宽高于所有HBM系统,而是认为,对于适合的推理工作负载,计算靠近内存可以减少内存与主处理器之间的数据往返,从而提升有效带宽、代币生成效率以及每瓦性能。
2
9
高通表示,搭载第一代HBC的Dragonfly AI250每张加速卡设计目标为133 TB/s有效内存带宽,相比采用LPDDR5X的AI200提升18倍。
4其他报道则转述了高通“每瓦带宽最高可达到当前HBM方案6倍”的说法。
8
13
不过,这些数字不能直接与单个HBM堆栈的带宽相提并论。有效带宽、单卡带宽、机架级带宽,以及单个HBM堆栈的接口带宽,衡量的并不是同一件事。把数百TB/s的系统级或架构级指标与某个HBM堆栈的数字直接比较,并不能构成严格的同口径性能测试。
因此,在独立的代币吞吐量、延迟、能耗和总拥有成本测试发布之前,高通的相关数字更适合被视为架构与性能功耗比方面的厂商声称,而不是已经得到验证的英伟达替代方案。
三星和SK海力士让HBC成为制造业赌注
据报道,三星电子和SK海力士将作为内存合作伙伴参与高通的HBC项目。高通负责计算层设计、TSV方案和系统整合,内存供应商则可能承担堆叠LPDDR等关键工作,先进封装也将决定最终产品能否落地。
1
5
这意味着HBC不仅是一场处理器设计竞赛,也是一场封装与制造能力的较量。商业化成败将取决于多个环节:
- 内存产品能否完成认证;
- 3D堆叠和键合的良率是否足够高;
- 堆叠结构能否有效散热;
- 测试和维修流程是否可控;
- 供应链能否以合理成本持续交付。
一套架构即使在纸面上拥有吸引力,如果封装良率不足、热设计难以控制,或无法达到数据中心所需的交付规模,也很难与成熟的英伟达平台竞争。
高通给出的路线图是:第一代HBC计划于2027年实现商业化,第二代计划于2028年推出。
1
4这说明HBC更像是一项跨越多个产品周期的平台转型,而不是立刻替换已经部署在数据中心中的英伟达硬件。
Dragonfly不只是一张加速卡
高通正在把Dragonfly包装成完整的数据中心产品组合,而不是孤立的AI加速器。路线图包括AI推理系统、HBC、Dragonfly C1000服务器CPU、高速网络方案以及定制芯片服务。
15
16
其中,C1000是一款采用芯粒(chiplet)设计的服务器处理器,面向智能体AI、通用计算和AI头节点等工作负载。
7高通与Meta已经宣布开展多代CPU合作,第一代C1000计划于2028年下半年开始量产。
18
这项协议是一个重要的客户验证信号:它表明Meta已经成为高通公开宣布的服务器CPU客户,也为高通进入超大规模云服务商的服务器体系提供了路径。但协议本身并不意味着Meta已经承诺大规模部署HBC推理加速器。
后续是否采用HBC,还要取决于实际性能、稳定性、软件支持、供货能力、网络整合以及总拥有成本。CPU设计赢单与整套AI推理基础设施进入超大规模部署,是两个不同层次的结论。
软件:高通试图降低CUDA迁移成本
硬件很难单独撼动一个已经形成开发者习惯和工具链壁垒的平台。英伟达的竞争优势不仅来自GPU本身,也来自CUDA、加速库、开发工具、文档、人才储备和多年的生产环境积累。
高通收购Modular后,将Mojo编程语言和MAX软件平台纳入自身战略。高通表示,这套AI原生软件技术将支持数据中心与边缘环境中的生成式AI和智能体AI。
19
其核心目标是可移植性:开发者可以在不同类型的处理器之间迁移模型和工作负载,而不必针对每一家芯片供应商重写软件栈。Modular还持续推动开放生态;2026年相关大会的报道显示,Mojo及其编译器已经完全开源。
46
如果这一策略奏效,客户在评估高通、英伟达、AMD及其他加速器时,切换平台的成本可能下降。但开源并不会自动复制CUDA生态的深度、工具成熟度和开发者熟悉度。有关大幅超越原生实现的性能说法,在缺乏透明、可复现基准测试前,仍应视为前景性或厂商主张。
高通还在推进RISC-V路线。不过,已有证据显示,相关收购对象是Ventana Micro Systems,而不是原始研究问题中提到的其他名称。高通称,Ventana将增强其RISC-V工程能力以及生态建设。
23
54
Hugging Face连接云端与边缘
高通与Hugging Face扩大合作,计划把Hugging Face的内部和开发者工作负载引入Dragonfly数据中心系统,支持模型接入,并推动设备与数据中心之间的混合编排。
21
这正是高通“云到边缘”叙事的一部分:同一家公司希望覆盖数据中心、手机、嵌入式设备和实体AI场景。理论上,这能够为开发者提供一条从云端训练或部署,到终端和边缘设备运行的连续路径。
但广泛的产品覆盖只有在真实模型可以便捷部署、运维团队能够稳定运行、客户能在生产环境中获得更好的经济性时,才会转化为对英伟达的实际竞争力。
HBC处在更广泛的内存重构浪潮中
高通的路线并非孤立事件。整个AI半导体行业都在尝试减少计算与内存之间的数据搬运,而不只是不断提高传统内存接口的峰值带宽。
三星的LPDDR5X-PIM在低功耗DRAM中加入处理逻辑,使部分运算可以在更靠近存储数据的位置完成。三星公布的演示数据显示,在相关AI推理测试中,LPDDR5X-PIM达到81.3 tokens/s,而对比的传统LPDDR5X为27 tokens/s。
31
36
39
SK海力士则从HBM方向推进混合键合和iHBM技术,试图应对内存堆叠变高、带宽增加后出现的散热和密度问题。
32但另一份报道指出,SK海力士预计混合键合无法赶上HBM4E,最早可能要推迟到后续HBM世代。
40
与此同时,三星披露的HBM4E样品每个堆栈带宽最高可达3.6 TB/s,针脚速率最高为16 Gbps。
41这意味着HBC未来面对的不会是静止不变的HBM,而是同样在快速演进的HBM路线。
现有证据不足以确认有关三星基于CXL的MX1计算内存设备、DeepX采用情况,或美光对内存瓶颈恶化的具体警告。因此,这些细节不应在本分析中被当作已证实事实。
高通接下来必须证明什么
高通的战略逻辑相对完整:
- **先攻推理市场:**HBC围绕解码阶段设计,目标是解决内存搬运主导代币经济性的工作负载。
2
9
- **整合完整系统:**Dragonfly同时包含加速器、CPU、网络和定制芯片服务,而不是只销售一颗芯片。
15
16
- **降低软件壁垒:**Mojo和MAX旨在让工作负载更容易跨不同硬件平台迁移。
19
46
- **建立客户信誉:**Meta的C1000协议提供了一个公开宣布的超大规模云服务商CPU合作案例,量产计划在2028年下半年。
18
- **覆盖多种部署场景:**Hugging Face合作强化了从云端到边缘的部署战略。
21
相应的风险也十分明确。HBC必须以可接受的良率和热特性进入量产;高通需要发布能够区分有效带宽与原始接口带宽的、按工作负载划分的可验证对比;编译器和运行时必须稳定支持真实模型;内存合作伙伴需要保证规模化供货;客户还必须相信,采用另一套硬件和软件平台的收益足以抵消与CUDA并行运营的成本。
结论:这是一个可信的长期挑战,而非已完成的替代
高通确实提出了一套具有内在逻辑的替代架构:通过把计算放到内存附近,针对AI推理中反复搬运模型权重的瓶颈,争取改善代币吞吐量、能效和总拥有成本;再以Dragonfly C1000、网络、Modular软件和Hugging Face合作,构建一套更完整的平台。
但截至当前路线图,HBC仍然是一个面向未来的竞争方案,而不是已经证明能够取代英伟达的产品。最关键的观察节点包括:2027年第一代HBC硬件能否按计划落地、2028年下半年C1000能否进入量产,以及独立基准测试和客户部署能否验证其性能与总拥有成本优势。
高通的真正挑战,不是提出一个漂亮的架构,而是把这套架构从演示、路线图和厂商指标,变成可靠、可供货、易部署且值得客户迁移的生产系统。