Axera 在上海舉行的 CIIF 2026 發表 6 奈米 AX8860 邊緣 AI 晶片系列,主打讓大型模型在資料產生的現場運作,而不是一律把推論工作送往遠端雲端。應用方向包括智慧製造、倉儲物流與機器人;Axera 將這類能在現場感知、判斷並採取行動的系統,定位為「實體 AI」。
4
6
不過,讀者需要把兩件事分開看:一是 Axera 公布的產品規格,二是合作夥伴 Sipeed 對照 NVIDIA DGX Spark 提出的效能與價格說法。後者目前並非獨立實驗室驗證的基準測試結果。
6
13
AX8860 公布了哪些規格?
Axera 列出的主要規格如下:
6
- **製程與運算:**採 6 奈米製程,最高可達 256 TOPS 混合精度運算,原生支援 FP4。
- **記憶體:**最高支援 128 GB LPDDR5X,記憶體頻寬最高 273 GB/s。
- **影像處理:**支援 64 路影片解碼與 16 路影片編碼。
- **擴充與連接:**支援 AXLink 多晶片級聯,以及 PCIe 5.0,供系統擴充與多晶片協同使用。
TOPS 是晶片運算能力的規格指標,不能直接等同於實際應用速度;實際表現仍會受到模型、軟體與測試條件等因素影響。
從晶片到模組、推論卡與伺服器
除了 AX8860 系列,Axera 也推出元曦 A256S 模組,並展示推論卡與推論伺服器,提供從晶片到系統的不同產品形式。
6
8
Wccftech 報導一款搭載四個模組的 PCIe 卡,總算力標示超過 1,000 TOPS。若以單顆最高 256 TOPS 的規格乘以四,名目峰值為 1,024 TOPS;這是規格加總,不代表特定模型或工作負載已達到同等實測效能。
11
軟體工具也是部署的一環
相關報導提到,開發環境支援 vLLM、SGLang 與 PyTorch,並提供相容 OpenAI API 形式的服務介面,以及量化、模型轉換、編譯、效能分析與除錯工具。
9 這些功能關係到模型如何部署與管理,但僅列出支援項目,並不能證明所有模型與配置都能直接相容或達到特定效能。
與 DGX Spark 的比較,先看清來源
Sipeed 聲稱,搭載 AX8860 的系統執行 Qwen 27B 時,輸入處理階段(prefill)約快 25%,生成階段(decode)約快 30%;該公司也稱產品價格約為 NVIDIA DGX Spark 的一半。
13
這些數字來自合作夥伴的說法,並非獨立驗證的基準測試。現有報導也沒有充分交代測試條件,因此不能據此推論 AX8860 在其他模型、工作負載或設定下都會勝出。價格比較同樣應視為 Sipeed 的說法,而非 Axera 的官方定價。
13
目前較明確的訊息,是 AX8860 瞄準工業與實體 AI 場景的現場推論,並公布最高 256 TOPS、最高 128 GB 記憶體等規格。至於和 DGX Spark 的速度及價格差距,仍需在測試條件清楚、結果可獨立檢驗後,才能做更可靠的比較。
6
13