此芯 AGX X2 主打邊緣大模型推論：亮眼規格之外，還缺哪些實測？

此芯科技在 2026 年 9 月 18 日的深圳客戶大會上發表 AGX X2（AGXcelerator），將其定位為本地 AI 推論與智能體應用平台，並與合作夥伴一同發表終端產品及產業方案。目前公開的效能數字是廠商宣稱，而非獨立驗證結果。4

大模型「能跑」，不等於「跑得快」

此芯宣稱，AGX X2 可提供 80–300 TOPS 端側峰值算力、64–160 GB LPDDR5 統一記憶體，並原生支援 7B–122B 參數（約 70 億至 1,220 億參數）模型的推論。公司另稱，相較未明確指明的業界比較基準，每產生一個 token 的能耗可降低逾 50%；token 可理解為模型處理或產生文字時使用的基本單位。4

算力與記憶體的配置範圍，反映此芯希望讓較大型模型及智能體工作負載在裝置端運行。但這些範圍不代表某一台固定配置的測試成績：現有報導沒有說明各項數字分別對應哪些硬體、模型設定及運作條件。單看峰值 TOPS，也無法判斷特定模型多久會開始回答、後續產生文字有多快。4

從加速卡到雲端：平台打算如何串起來？

依此芯的描述，AGX X2 採開放式設計，可搭配 AI 加速卡、GPU、VPU 等運算元件，並透過串接加速器擴充算力。其 Agentic OS 旨在協調用戶端與伺服器端資源；「模型即服務」（MaaS）則被用來統一提供及計量 token 產出。不過，公告尚未提供足夠細節，讓外界核實工作如何排程、裝置與雲端如何交接，或 token 如何計量。4

這並非此芯首次提出跨裝置的構想。公司於 2026 年 7 月公布 AGX Agentic Compute 策略，涵蓋裝置、邊緣系統與雲端資源。18 這次深圳大會則展示合作夥伴開發的終端與產業方案；報導提及的消費端例子，是結合運算、儲存與智慧家庭功能的家用 AI 中樞。4

Ubuntu 發行商 Canonical 另已宣布，將為此芯的 P1 晶片打造最佳化的 Ubuntu 體驗。這有助於理解此芯的軟體生態布局，卻不能推論 Ubuntu 已支援 AGX X2 各種配置，更不能當作 AGX X2 效能的佐證。9

採購前，應要求哪些證據？

買方需要的是針對每一種擬採用配置、可重現的測試結果：使用哪款模型與量化設定、上下文長度、首個 token 延遲、持續每秒產生的 token 數、記憶體占用，以及從電源插座量到的整機功耗。若要檢驗「每 token 能耗降低逾 50%」，還須公開比較對象與量測方法，並以相同條件比較每 token 所耗費的焦耳數。現有報導未提供這類獨立測試，因此 AGX X2 的實際速度與能源效率仍是待解問題。4