關鍵唔係「轉插」,而係 CXL 記憶體擴充
Meta 面對 DRAM 供應緊張同價格上升,做法唔係用一個簡單轉接器,將舊 DDR4 DIMM 直接插入只支援 DDR5 嘅主機板。DDR4 同 DDR5 屬於不同世代,實際可行嘅方案係將退役伺服器拆出嚟、仍然可用嘅 DDR4 RDIMM,裝入專用記憶體設備,再經由 CXL(Compute Express Link) 連接新主機。
Meta 嘅自研晶片叫 Vistara:屬 CXL 2.0/1.1 Type-3 記憶體擴充器,透過 PCIe Gen5 x16 將 DDR4 記憶體橋接至主機處理器。每粒 ASIC 整合兩條 DDR4 通道;配合 64GB DIMM 時,理論上每粒可支援最多 256GB。
2
9
換言之,新伺服器仍保留直接連接、速度較高嘅 DDR5,同時多咗一層由回收 DDR4 提供嘅額外容量。重點係避免為所有伺服器嘅峰值記憶體需求,都買入昂貴嘅新 DRAM。
慢好多,點解仲有用?關鍵在於分層管理
CXL 接入嘅 DDR4 並唔可以取代本機 DDR5,尤其係延遲同頻寬敏感嘅工作。Meta 生產環境數據顯示,擴充層頻寬大約只有本機 DDR5 嘅十分一,而延遲約高 60%。
4
因此,系統將 CXL 記憶體視為一個獨立、近似 NUMA 節點嘅記憶體層:
- 本機 DDR5:擺放活躍、對延遲敏感嘅熱資料;
- 經 CXL 連接嘅回收 DDR4:提供較平嘅額外容量,存放可容忍較低頻寬及較高延遲嘅冷資料;
- 作業系統與工作負載策略:決定資料應該擺邊一層,以及何時搬移。
所以,Vistara 嘅價值唔係令舊 DDR4 跑得快,而係以軟硬件配合,令現有記憶體庫存重新變成可管理嘅容量資源。
Meta 報稱:部分 AI 推論可少用最多 25% 伺服器
Meta 表示,其 CXL 記憶體擴充已部署於數百萬台伺服器;對部分分離式推論工作負載,所需伺服器數量最多可減少 25%。
1
呢個係容量與資源利用率嘅成果,而唔係 DDR4 效能提升:每部機容納更多有用資料,工作負載便可能毋須攤分到咁多機器,連帶減少部分 CPU、網絡硬件、機櫃空間同耗電需求。不過,唔可以將 25% 套用到所有 AI 工作負載;若程式主要受記憶體頻寬或延遲限制,得益可能有限,甚至需要更精準嘅資料放置策略。
Meta 亦報告,在一個特定分散式快取工作負載中,加入額外記憶體容量後,平均查詢處理時間減少 29%;原因係快取容量增加後,快取命中效果改善。
15
Google 都回收 DDR4,但公開技術細節較少
公開報道指,Google 同樣會從退役伺服器回收 DDR4,用於新 AI 機器,以應對緊張嘅 DRAM 供應。
14
但目前 Google 對實際硬件架構披露嘅資料,遠少於 Meta Vistara。較穩妥嘅結論係:大型雲端營運商擁有大量退役機隊,亦即手上有一批已購買、兼容而未必需要報廢嘅 DIMM;CXL 擴充及記憶體池化,令呢批庫存有機會服務新系統,而非直接成為電子廢物。
DRAM 急升價,令「回收容量」變得更值錢
AI 基建熱潮正推高記憶體壓力。報道指,傳統 DRAM 合約價在 2026 年第一季按季上升 90% 至 95%。
1 摩根大通全球研究則估計,到 2026 年底,DRAM 價格將較 2024 年初高逾 400%。
20
記憶體亦正佔據雲端基建更大部分預算。按 TrendForce 為基礎嘅預測,DRAM 與 NAND 合計,到 2027 年可能佔主要雲端服務商硬件資本開支 68%,高於 2026 年嘅 47%。
18
喺呢種市況下,回收 DIMM 不只係減廢;對已有龐大機隊嘅營運商而言,亦係一批毋須再到緊缺市場採購嘅實際記憶體容量。
點解大舉擴廠都未必即時解決短缺?
AI 系統同時需要一般伺服器 DRAM 同高頻寬記憶體 HBM。供應商將產能轉投 AI 所需、利潤較高嘅 HBM,令其他記憶體產品供應更緊。
19
20
即使廠商增加資本開支,新晶圓廠由興建到認證及量產都需時。Deloitte 指,現時擴產計劃帶來嘅新增供應,預計要到 2029 或 2030 年先會上線。
市場集中度亦增加風險。路透社報道,Samsung 同 SK hynix 合共控制約三分之二 DRAM 市場;當需求急升或生產受干擾時,市場可替代嘅冗餘供應較少。
SK hynix 行政總裁 Kwak Noh-jung 更預測,行業最嚴重供應短缺或在 2027 年出現,客戶需求可能到 2030 年後仍超過公司產能。呢個係企業高層嘅預測,並非既定事實;但亦解釋咗點解超大型雲端營運商而家已經投入記憶體回收、分層同解耦設計,而唔係單純等新廠投產。
對基建團隊嘅啟示
Meta 呢套模式要成功,通常要同時符合三個條件:
- 手上有大量可回收、可驗證嘅退役記憶體;
- 平台支援 CXL 記憶體擴充;
- 工作負載容許存在一個明確較慢嘅第二記憶體層。
符合條件時,舊 DDR4 可以重獲實用價值;但對極度延遲敏感嘅服務,熱資料仍應留喺本機 DDR5。真正嘅創新並非一件轉插配件,而係 CXL 控制器、回收 DIMM 同資料放置軟件整合而成嘅系統設計。