黃仁勳警告：AI真正的瓶頸其實是記憶體

人工智慧（AI）的需求仍在爆發式成長，但Nvidia執行長黃仁勳（Jensen Huang）最近指出，產業真正的瓶頸已經不是GPU本身，而是記憶體供應。

在美國拉斯維加斯舉行的 Dell World 活動上，黃仁勳表示，目前AI成長最大的限制仍然來自供應鏈，而其中最關鍵的環節就是記憶體。這顯示AI基礎設施競賽正遇到新的物理限制，也讓市場開始更密切關注Nvidia的供應鏈狀況。

AI時代的新瓶頸：高頻寬記憶體（HBM）

現代AI加速器需要大量資料在GPU與記憶體之間高速流動，因此高度依賴一種特殊技術：高頻寬記憶體（High‑Bandwidth Memory, HBM）。這種記憶體透過3D堆疊DRAM晶片，大幅提升資料傳輸速度與頻寬。

Nvidia最新的AI產品，例如 H200 以及採用 Blackwell架構 的系統，都大量使用HBM技術。

隨著AI模型規模不斷變大，對記憶體容量與頻寬的需求也急速增加。黃仁勳先前就指出，未來AI效能的提升，不只取決於運算能力，也同樣取決於記憶體能力。

這帶來一個現實問題：

如果沒有足夠的HBM，即使GPU需求再高，完整的AI加速器系統也無法出貨。

換句話說，記憶體供應正在直接限制AI硬體能交付給客戶的數量。

為什麼HBM短缺會影響整個AI產業

目前全球能大規模生產HBM的公司其實非常少，主要包括：

• SK海力士（SK Hynix）
• 三星電子（Samsung）
• 美光（Micron）

隨著AI資料中心投資暴增，對HBM的需求也急速飆升。

如果供應跟不上需求，可能帶來幾個連鎖效應：

• AI基礎設施建設變慢：雲端服務商與企業可能需要更長時間才能部署GPU叢集。
• 硬體成本上升：稀缺的記憶體元件可能推高整體AI系統價格。
• ：記憶體製造商在產業鏈中的影響力上升。