AI基建眼前最棘手的限制,未必只是GPU,而可能是較少人留意的記憶體。
Intel行政總裁陳立武(Lip-Bu Tan)9月15日在美國加州聖克拉拉舉行的AI Infra Summit表示,記憶體供應不足已令商業項目延誤,價格更大約升了5至7倍。他警告,隨着AI系統持續吸納供應,短缺情況只會更差。
4
5
有運算晶片,未必代表起到系統
建立AI伺服器,除了處理器或加速器,還需要大量記憶體,當中包括高頻寬記憶體(HBM)。HBM是專為高效能運算而設、數據傳輸速度較高的一類記憶體,AI伺服器用量尤其大。
峰會報道指出,AI伺服器正大量吸納HBM供應,令短缺和加價的影響開始外溢至個人電腦及智能手機。
4 換言之,即使企業已安排好運算硬件,若拿不到足夠記憶體,整套部署仍然無法完成;記憶體已由一般零件成本,變成影響項目上線時間的實際樽頸。
為何短期內難以補足?
目前可見的核心問題,是AI基建需求上升速度快過供應商增加可用產能的速度。陳立武說,記憶體已成為瓶頸,並預期市況會惡化。
5
他在2026年初亦曾表示,按他與主要業內人士的交流所得,「據我所知」供應到2028年前都不會有紓緩。
8 這是企業高層對市場前景的判斷,並非全行業已確認的交貨時間表。
供應壓力集中在HBM尤其重要:AI伺服器對這類記憶體的需求大增,會收緊整體市場的可供應量,繼而推高其他裝置的零件成本。
4
緊張供應會維持多久?
現有資料沒有一個獲一致確認的正常化時間表,但多個警告均指向這並非短期波動:
- 陳立武的看法: 他稱從主要供應商聽到的訊息,是到2028年前或仍未有紓緩。
8
- Phison的看法: 行政總裁K.S. Pua預期,NAND快閃記憶體在2027年可能出現最嚴重的短缺。
17
- 市場結構: 有分析形容供應持續緊張、價格上升,加上買家正作多年度採購安排;三星電子、SK hynix及Micron合計掌握全球約九成至九成半DRAM產能。
57
上述都屬預測或市場評估,並非必然結果。日後新增供應、AI投資步伐改變,以及令模型或系統更慳記憶體的技術進展,都可能改變走勢。
對公司及消費裝置有何影響?
短期最直接的後果,是採購難度提高和整機成本上升。當有限記憶體優先分配予AI基建,對價格較敏感或優先次序較低的產品類別,可能面對較少供應或更高零件成本。峰會相關報道已點名智能手機和個人電腦會受波及。
4
對籌備AI容量的企業而言,重點包括:
- 提早安排記憶體採購。 有運算晶片供應,不等於系統一定能落地。
- 把記憶體當成架構限制。 系統設計初期已要考慮容量、頻寬及供應分配風險。
- 預備連鎖式瓶頸。 增加加速器數量,通常亦會同時推高對記憶體、供電和散熱的要求。
電力與散熱,同樣不能忽略
陳立武並非只談記憶體。他同時點出,取得足夠電力,以及推進散熱技術,將是晶片及AI基建市場的重大問題。
5
這反映擴展AI不是單靠買更多晶片就能解決。運算、記憶體、網絡、供電和熱管理必須一同配合;即使記憶體供應改善,高密度AI系統的實體限制亦不會自動消失。
總結
陳立武的警告是:AI硬件的樽頸正由處理器延伸至記憶體。供應不足已拖慢項目,價格顯著上漲,而短期前景仍然緊張。他早前所說的「2028年前未見紓緩」,加上Phison對2027年NAND短缺的預警,都突顯壓力可能維持多年;但兩者始終是預測,而非定論。
4
8
17
對計劃擴充AI基建的公司來說,記憶體供應、電力和散熱,現時都應與加速器採購看齊,成為必須由設計階段開始處理的基建風險。