三星的 zHBM,核心構想是將 AI 記憶體由「橫向並排」改成「垂直堆疊」:把高頻寬記憶體(HBM)直接放到 AI 加速器上方,而不是像現時主流設計般,與處理器並排放在矽中介層上。
1
4
這種幾何布局有望縮短處理器與記憶體之間的數據路徑,從而提升頻寬、降低數據搬運耗電,亦可令 AI 封裝更加緊湊。不過,zHBM 暫時仍不是經認證、可供客戶採購的商用產品。三星目前的目標是約 2029 年推出,最快可能在 2028 年登場;在此之前,公司要證明這種架構既能夠量產,亦能在長時間 AI 工作負載下穩定散熱。
13
zHBM 與傳統 HBM 有咩分別?
現時的 HBM 系統一般採用 2.5D 設計:多層 HBM 堆疊放在 CPU、GPU 或其他加速器旁邊,再透過矽中介層互相連接。三星的 zHBM 就改為沿 Z 軸把 HBM 垂直堆疊在加速器上方。
2
4
距離縮短後,數據往返處理器與記憶體的路徑理論上會更短,因而有機會帶來更高頻寬、更低功耗及更高封裝密度。三星將 zHBM 描述為面向大型 AI 訓練及推理的新一代 3D 記憶體架構。
3
4
這種設計預計會依賴晶圓級整合及混合銅鍵合(hybrid copper bonding)。與傳統使用焊料微凸塊的方式不同,混合銅鍵合是直接連接銅表面,讓邏輯晶片與記憶體之間可以放入更高密度的互連。
10
14
「8 倍性能」目前仍只是三星預測
三星表示,採用 zHBM 的新一代介面系統,性能有望約為 HBM5 的 8 倍,記憶體密度則超過 HBM5 的 10 倍。公司及相關報道亦提到,能源效益可能提升 3 倍,而熱阻可降低超過一半。
3
11
25
但要留意,這些數字是三星對未來架構的預測,並不是已經出貨的 zHBM 產品所做的獨立基準測試。三星在活動上展示的是概念模型,實際商用規格、生產時間表及最終配搭的 AI 加速器,現時都未完全確定。
4
5
此外,拿 zHBM 與 HBM5 比較,本身也是面向未來的路線圖比較,而非兩款已上市產品的同場測試。三星未公布經認證零件及完整系統數據之前,這些宣稱更能反映公司的野心有幾大,未能代表客戶短期內可以買到的實際性能。
最大難關:記憶體放在最熱的地方上面
zHBM 最大賣點,同時也是最棘手的工程問題,就是將記憶體直接放在 AI 加速器上方。AI 加速器本身會產生大量熱力;當 HBM 疊在最熱的運算區域之上,就可能阻礙熱力沿最直接的路徑排走。三星美國半導體業務主管亦指出,散熱是 zHBM 商用化的主要關卡。
13
三星曾討論一種稱為「熱管模組」(heat-pipe block)的方案,嘗試將堆疊內的熱點抽走。不過,提出散熱機制不等於已經有可量產的解決方案。公司仍要證明記憶體、鍵合介面及 AI 加速器,在持續運行的 AI 伺服器工作負載下可以長期可靠地協同工作。
13
18
而且,散熱只是其中一關。zHBM 若要真正商用,還要解決混合鍵合良率、大面積晶片的精準對位、長期可靠性、與客戶加速器的兼容性,以及複雜封裝能否大規模生產等問題。換句話說,這不單是物理學難題,也是工廠量產難題。
2028 至 2029 年是目標,不是保證日期
三星表示,第一代 zHBM 產品預計約在 2029 年出現,最快可能提前至 2028 年。
13 但這只是目標時間表。概念要變成客戶可以部署的產品,還要經過架構定義、與加速器共同設計、散熱驗證、可靠性認證,以及量產準備等階段。
zHBM 的研發亦會與 HBM、先進封裝及 AI 晶片設計的其他進展同步進行。最終價值不只取決於峰值頻寬或記憶體容量,還要看 AI 加速器製造商是否願意圍繞一種高度整合、與現有設計不同的 3D 封裝重新設計產品。
415×510 毫米 FO-PLP 是另一條封裝路線
在 zHBM 以外,三星計劃保留 415×510 毫米面板尺寸,用於扇出型面板級封裝(FO-PLP),目標在 2028 年開始量產。公司正將這項封裝能力定位為面向大型 AI 及高效能運算(HPC)封裝的基礎。
17
24
這項計劃與三星整體先進封裝策略有關,但不應直接視為 zHBM 將於 2028 年推出的承諾。FO-PLP 若能在 2028 年量產,可以提供更大封裝的產能及製造經驗;但單靠 FO-PLP 量產,並不能證明垂直堆疊 HBM 已經準備好投入商用。
德州泰勒擴建,補上美國製造版圖
三星亦計劃在三年內啟用德州泰勒第二座先進晶圓代工廠,主要服務美國客戶。
13 若連同記憶體及先進封裝業務一併考慮,這反映三星正嘗試為未來 AI 系統提供更完整的半導體供應鏈。
這種整合策略對 zHBM 尤其重要,因為它需要記憶體、邏輯晶片、鍵合、封裝及 AI 加速器設計之間密切配合。不過,增加晶圓廠產能並不能消除基本技術風險;三星始終要先證明垂直堆疊架構符合散熱、可靠性、良率及成本要求。
總結:zHBM 能否成真,關鍵不只是跑得快
zHBM 是三星目前最明確的一次押注:下一輪 AI 記憶體性能提升,未必只靠堆更多傳統 HBM,而是要改變整個封裝的空間布局。理論上,較短互連、較高頻寬、更大密度及更佳能源效益,都具備相當吸引力。
但真正決定成敗的問題,是三星能否在記憶體堆疊之下或周圍,為高功耗 AI 加速器建立可靠散熱路徑;同時又要以穩定良率生產混合銅鍵合封裝。在這些問題獲得實證之前,約 8 倍性能及 2028 至 2029 年商用時間表,仍然是進取的路線圖目標,而不是已經落實的產品上市日期。