四台 GEEKOM A9 Mega 組成 AI 叢集，在本地運行 DeepSeek V4 Flash，但效能仍是未知數

GEEKOM 於 2026 年 8 月展示了一套由四台 A9 Mega 迷你電腦組成的分散式本地推理叢集，用來運行 DeepSeek V4 Flash。四個節點透過 USB4 互連，並由 Ubuntu、AMD ROCm 與 DwarfStar 軟體負責本地部署；完成配置後，系統可透過 OpenAI 相容 API 對其他應用程式提供模型服務。

這項展示的重點，不只是「迷你電腦也能跑大型語言模型」，而是 GEEKOM 試圖把多部桌面級設備組合成一套部署在企業內部網路的私有 AI 服務。換句話說，提示詞、內部文件與模型輸出理論上可留在組織自己的環境中，而不必將每次請求送往雲端基礎設施。

為何需要四部迷你電腦？

DeepSeek V4 Flash 被描述為一個約有 2,840 億參數的混合專家模型（Mixture of Experts，MoE），但每個 Token 實際啟用的參數約為 130 億。模型支援最長達 100 萬 Token 的上下文視窗。

需要注意的是，MoE 的「啟用參數」不等於模型的總記憶體需求。模型權重、執行時期開銷、KV Cache、作業系統與其他服務仍須佔用記憶體；實際可用容量會受到精度、量化格式與軟體配置影響。因此，四台電腦合計 512GB 記憶體，不能直接理解為 512GB 全部都能用來存放模型。

四節點的硬體規格

每台 A9 Mega 採用 AMD Ryzen AI Max+ 395，配備 16 核心、32 執行緒，並搭載 Radeon 8060S 整合式顯示核心。四台設備合計的主要規格如下：

• 64 個 CPU 核心、128 條執行緒
• 160 個 Radeon 8060S 計算單元，採用 RDNA 3.5 架構
• 512GB LPDDR5X-8000 統一記憶體，每個節點 128GB
• 四台獨立迷你電腦，共同作為分散式推理平台

A9 Mega 的統一記憶體設計是這套方案的核心。CPU 與 GPU 可共享同一記憶體池，叢集則把工作負載分散到多個節點的記憶體與圖形運算資源上，而不是依賴一張必須獨自容納整個模型的離散 GPU。

不過，多節點並不代表效能會隨節點數量線性增加。模型平行化需要節點之間頻繁交換資料；互連頻寬、延遲、分片方式與軟體排程，都可能成為瓶頸。

模型如何在本地部署？

根據 GEEKOM 的說法，四台 A9 Mega 透過 USB4 通訊，軟體堆疊則包括 Ubuntu、AMD ROCm 與 DwarfStar。最佳化後的 DeepSeek V4 Flash 會被分割到不同節點，再由整個叢集透過 OpenAI 相容端點提供服務。

OpenAI 相容 API 的價值在於降低整合門檻。已經支援 OpenAI 格式端點的內部工具、代理程式與開發框架，理論上可以連接這套本地模型，而不必完全重寫整合層。這也意味著 GEEKOM 瞄準的並非單一使用者在桌面上開啟聊天機器人，而是企業在自有環境內建立一項私有 AI 服務。

但目前公布的資料仍不足以讓外界完整重現這套部署。GEEKOM 沒有說明實際網路拓撲、有效頻寬、延遲、模型精度、量化格式、分片策略、協調設定或故障復原行為。這些因素都可能顯著影響分散式推理表現。

儲存空間與連接能力

每台 A9 Mega 配備兩個 PCIe 4.0 M.2 插槽，規格上最高支援 8TB SSD。 若四台設備都配置至標示上限，整套叢集的理論儲存容量可達 32TB。這個數字與 512GB 系統統一記憶體是兩回事，也不能用來推斷 DeepSeek V4 Flash 部署本身需要多少磁碟空間。

叢集節點之間使用 USB4 連接；GEEKOM 的產品資料則列出 USB4 最高 40Gbps 的介面規格。 不過，介面標稱速度不等同於實際叢集效能。協定開銷、連接拓撲，以及軟體傳輸資料的方式，才會決定分散式推理能取得的有效頻寬與延遲。

私有 AI 的企業用途與代價

GEEKOM 將這套方案定位為部署在企業內部的私有 AI 設備。對有資料駐留、隱私或網路隔離要求的組織而言，這種架構的吸引力在於：提示詞、內部文件與生成結果可留在自家網路，企業應用程式與 AI 代理則透過本地 API 使用模型。ROCm 也提供 AMD GPU 所需的軟體層，不必在這個設計中採用 NVIDIA CUDA 平台。

但本地部署同時代表責任轉移給營運者。企業必須自行處理硬體可用性、系統更新、模型檔案、存取控制、監控、散熱、耗電量與軟體穩定性。相較雲端服務，這不是單純「買四台電腦」就能完成的方案，而是一項需要持續維運的基礎設施投資。

四台設備要花多少錢？

GEEKOM 目前列出的 A9 Mega 售價為 3,999 美元。 因此，四個節點的硬體價格約為 15,996 美元。這還未包括超出原有配置的儲存設備、線材、網路設備、安裝、電費、維護與技術支援。

對一套尚未由獨立測試確認生產效能的系統而言，這是一筆不小的支出。真正值得比較的，不只是四部迷你電腦的採購價，而是整套分散式推理服務的總持有成本，以及它能否穩定支援實際工作負載。

最大疑問：到底跑得多快？

GEEKOM 的公告證實，公司曾將 DeepSeek V4 Flash 部署到四台 A9 Mega 上，但沒有提供針對這個確切配置的獨立、標準化結果。目前看不到持續生成速度、首個 Token 延遲、同時使用者數量、長上下文延遲、功耗或節點故障行為等數據。

因此，這次展示應被視為「可以部署」的概念驗證，而不是已經證明適合生產環境的基準測試。模型支援 100 萬 Token 上下文是一項重要規格，但不代表這個四節點叢集能夠快速或經濟地處理 100 萬 Token 請求。實際表現仍取決於模型版本、精度、記憶體分配、提示詞長度、並行請求數量，以及節點之間的通訊開銷。

GEEKOM 的硬體是否獨一無二？

Ryzen AI Max+ 395 平台並非 GEEKOM 獨有。市場上也有其他採用相同處理器的迷你電腦，部分型號同樣提供 128GB 統一記憶體。 Minisforum N5 Max 是其中一個相近設計，但 ServeTheHome 報道指出，零售版搭載的是焊接式 64GB LPDDR5X 統一記憶體，而不是 CES 2026 早期原型機展示的 128GB 配置。

因此，GEEKOM 更具辨識度的地方，是宣稱完成了四節點軟體部署展示，而不是 Ryzen AI Max+ 395 處理器本身。這種做法能否超越技術展示、成為可用的企業方案，仍要看 GEEKOM 是否公布可重現的安裝步驟、標準化基準測試、網路測量、功耗資料，以及在現實工作負載下長時間穩定運作的證據。

結論：有趣的本地 AI 展示，尚非已驗證的伺服器替代品

GEEKOM 展示了一種以四台迷你電腦組成大型記憶體 AMD 推理平台的方式：整套系統具備 64 個 CPU 核心、128 條執行緒、160 個 Radeon 8060S 計算單元與 512GB 統一記憶體，並以 USB4 連接，再由 Ubuntu、ROCm 與 DwarfStar 管理。

它的實際賣點，是讓組織透過熟悉的 API，在本地取得一個規模龐大的 MoE 模型，同時減少將敏感資料送往雲端的需要。不過，目前證據只支持「這套部署曾經存在」，還不足以判定它的速度、效率或生產就緒程度。

在 GEEKOM 公布可重現的基準測試與更多實作細節之前，這個四節點 A9 Mega 叢集較適合被理解為一項引人注目的本地 AI 概念展示，而不是已證實能取代專用 AI 基礎設施的完整方案。