當新一代 AI 伺服器需要更多記憶體、DRAM 又昂貴且難買時,Meta 的做法不是報廢舊伺服器裡仍可用的 DDR4,而是把「舊伺服器」與「舊記憶體」拆開看。
它以自研的 Vistara 晶片,將從退役伺服器回收的 DDR4 RDIMM 放入專用記憶體擴充設備,並透過 **CXL(Compute Express Link)**連接到採用 DDR5 的現代主機。對於更受記憶體容量、而非極低延遲限制的工作負載,Meta 表示,這種設計可讓所需伺服器數量最多減少 25%。
1
關鍵不在「轉接」,而在 CXL 記憶體擴充
DDR4 與 DDR5 是不同世代,不能把 DDR4 DIMM 當成一般周邊,直接插入 DDR5 主機板插槽。Meta 的路徑是把 DDR4 做成獨立、經 CXL 連接的容量層,而非製作簡單的 DDR4 對 DDR5 插槽轉接器。
Vistara 是符合 CXL 2.0/1.1 的 Type-3 記憶體擴充器 ASIC,透過 PCIe Gen5 x16 介面,把 DDR4 記憶體橋接給主機處理器。每顆 ASIC 整合兩條 DDR4 通道;搭配 64GB DIMM 時,單顆最高可支援 256GB 容量。
2
9
換句話說,新伺服器仍保留直接連接、速度較高的 DDR5;回收 DDR4 則在 CXL 另一端提供額外容量。營運商不必為每台機器的尖峰容量需求,全數採購昂貴的新 DRAM,而能把已持有的 DDR4 用於適合的資料與工作負載。
軟體資料放置策略,和硬體一樣重要
CXL 連接的 DDR4 並不是本機 DDR5 的全面替代品。Meta 生產環境的相關報告顯示,這個擴充層的頻寬約只有本機 DDR5 的十分之一,延遲則高出約 60%。
4
因此,系統會將 CXL 容量視為類似獨立 NUMA 節點的記憶體層:
- **本機 DDR5:**存放活躍、延遲敏感或需要高頻寬的資料。
- **CXL 連接的回收 DDR4:**提供可容忍較低頻寬與較高延遲的額外容量。
- **作業系統與工作負載策略:**決定哪些頁面應留在 DDR5、哪些可遷移至 DDR4 層。
4
13
這正是「分層記憶體」的核心:不是讓 DDR4 變快,而是把較慢、但成本基礎較低的容量納入可管理資源。真正的效益在於讓適合的工作負載以更少機器完成,而不是提升 DDR4 的原始速度。
Meta 公布了哪些實際效益?
Meta 表示,其 CXL 記憶體擴充已部署於數百萬台伺服器。在部分分離式推論工作負載中,額外記憶體容量最多可讓伺服器需求減少 25%。
1
這是整體機群效率的改善:若每台伺服器可承載更多有用資料,同樣的工作可由更少主機處理,也就可能連帶少用一些 CPU、網路硬體、機櫃空間與電力。不過,這個數字不能套用到所有 AI 任務;若工作負載主要受記憶體頻寬或存取延遲制約,效益可能有限,且更依賴精準的資料放置策略。
Meta 也提到,某個分散式快取工作負載在增加這個記憶體層後,平均查詢處理時間降低 29%,顯示更多可用記憶體若能提升快取命中效果,確實可能帶來性能改善。
15
Google 也在回收 DDR4,但技術細節較少
公開報導指出,Google 同樣正從退役伺服器回收 DDR4,因應緊張的 DRAM 供應;不過,目前公開資訊對 Google 實作方式的技術描述,遠少於 Meta 對 Vistara 的揭露。
14
較大的啟示是:擁有龐大退役機群的超大規模雲端業者,手上本來就有大量相容、且已購置的 DIMM 庫存。CXL 擴充與記憶體池化,讓這批資產得以進入新系統,而非直接成為電子廢棄物。
為何此時回收記憶體特別有吸引力?
AI 基礎設施建設正在加劇記憶體供需壓力。報導指出,傳統 DRAM 合約價格在 2026 年第 1 季季增約 90% 至 95%。
1 摩根大通全球研究則估計,到 2026 年底,DRAM 價格將比 2024 年初高出逾 400%。
20
記憶體在雲端基礎設施支出中的占比也持續提高。根據引用 TrendForce 的預估,DRAM 與 NAND 合計到 2027 年可能占主要雲端服務業者硬體資本支出的 68%,高於 2026 年的 47%。
18
在這種市場裡,回收 DIMM 不只是環保選項,也是一單位無須在緊繃的現貨或合約市場重新購買的可用容量。
為什麼新建晶圓廠未必能很快紓解缺貨?
AI 系統同時拉動一般伺服器 DRAM 與 HBM(高頻寬記憶體)需求。供應商將更多資源轉向 AI 系統所需的 HBM,也使其他記憶體產品供應更緊。
19
20
即使產業加大投資,新半導體產能仍需要長時間興建、驗證與量產。Deloitte 指出,現有擴產計畫帶來的新供應,預期要到 2029 年或 2030 年才會上線。
供應集中度也放大風險。路透報導,三星與 SK 海力士合計掌握約三分之二的 DRAM 市場;當需求急升或生產受干擾時,市場可供替代的冗餘產能相對有限。
SK 海力士執行長郭魯正則預測,業界最嚴重的供應短缺可能發生在 2027 年,且客戶需求可能在 2030 年後仍超過該公司的生產能力。這是企業高層的預測,不是既成事實;但它說明了為何超大規模業者現在就投入回收、記憶體分層與資源解耦,而非只等待新廠產能開出。
對基礎設施團隊的實務意義
Meta 的模式要發揮價值,通常必須同時符合三項條件:
- 手上有具規模的退役記憶體庫存;
- 平台支援 CXL 記憶體擴充;
- 工作負載能明確容忍較慢的第二層記憶體。
條件吻合時,舊 DDR4 就能重新成為有用的容量資源;但對延遲極敏感的資料路徑,它仍不是熱資料該停留的位置。Meta 的關鍵創新並非一個插槽轉接器,而是一整套結合 CXL 控制器、回收 DIMM 與資料放置軟體的系統設計。