此芯AGX X2瞄准端侧大模型：亮眼参数之外，还要看实测

此芯科技在2026年9月18日举行的深圳客户大会上发布了AGX X2（AGXcelerator），将其定位为面向边缘推理和智能体应用的平台，并与生态伙伴一同发布了终端产品和行业方案。对考虑部署本地大模型的买家来说，关键不只是它标称能运行多大的模型，而是在选定配置下，模型跑得多快、耗电多少。目前公开的主要数字仍是厂商宣称，并非独立验证的实测结果。4

这些参数能说明什么？

此芯给出的范围包括80—300 TOPS端侧峰值算力、64—160GB LPDDR5统一内存，以及对70亿至1220亿参数模型的原生推理支持；公司还称，单个Token的能耗比未明确指明的行业比较对象低50%以上。Token可理解为模型处理或生成文本时使用的基本单位。4

较大的内存容量和可扩展算力，指向在本地承载更大模型及智能体任务的目标。但这些区间不能当作同一台设备的完整成绩单：现有报道没有说明各项数字分别对应什么硬件配置、模型设置和运行条件。尤其是TOPS代表峰值计算能力，不能直接推导出某个模型的回答速度；“能运行”也不等于在目标场景下“运行得够快”。4

从芯片到平台：此芯打算如何组织算力？

按照此芯的描述，AGX X2采用开放式设计，可兼容AI加速卡、GPU卡和VPU卡，并通过连接更多加速器扩展算力。其Agentic OS旨在协调客户端与服务端资源，配合端云协同；“模型即服务”（MaaS）方案则计划统一Token的生产与计量。不过，发布信息尚不足以核实实际的任务调度、设备与云之间的切换，以及Token计量方式。4

这一构想并非从AGX X2才开始。此芯在2026年7月提出的AGX Agentic Compute战略，已覆盖终端、边缘系统和云端资源。18 在此次深圳大会上，公司展示了合作伙伴开发的终端及行业方案；报道提到的消费场景之一，是集计算、存储与全屋智能功能于一体的家庭AI中枢。4

软件生态也要区分平台。Ubuntu发行商Canonical曾宣布为此芯P1芯片开发优化的Ubuntu体验。这与此芯的软件生态建设有关，但不能据此认定Ubuntu已支持AGX X2的各类配置，更不能用来证明AGX X2的性能宣称。9

买家应要求什么测试？

最有用的证据，是针对拟采购的每一种配置提供可复现结果：注明模型、量化方式和上下文长度，测量首个Token响应时间、持续每秒生成Token数、内存占用及整机插座端功耗。若要判断“单Token能耗降低超50%”，还需公开对照设备或方案、测试方法，并在可比条件下给出每Token消耗的焦耳数。现有报道未提供这些独立测试，因此AGX X2的实际速度与能效仍有待验证。4