面對 AI 運算對電力的巨大需求,DSX MaxLPS 是一套專注於功耗與效率的軟體套件。它能在 GPU、機架(Rack)以及工作負載等級動態管理電力,精準地在固定的電力預算內,最大化每兆瓦電力的 Token 性能 。NVIDIA 指出,這項技術能讓 AI 工廠在相同的電力包絡(Power Envelope)內,以最高能源效率運行多達 40% 的 GPU,從而實現最低的單位 Token 成本
。這項技術的關鍵在於其結合了45 度攝氏溫水液冷技術與細膩的機架內功耗調配,能有效回收並利用那些被「閒置」的電力,在不對性能造成顯著影響的前提下,部署更多 GPU
。
為了讓 AI 工廠成為能源生態系中的好公民,DSX Flex 技術應運而生。它能將 AI 工廠直接連結至電力公司的電網服務,根據來自公用事業端的信號,如需量卸載(Load Shedding)、需量反應(Demand Response)及即時電價事件,動態調整 AI 工作負載 。此外,它還能協調來自市電、場域內再生能源與儲能設備間的電力調度
。目前,DSX Flex 已與 美國矽谷電力公司(Silicon Valley Power) 及 Emerald AI 共同啟動一項規模達數兆瓦的商業先導計畫,展示 AI 工廠如何在不犧牲關鍵工作負載性能的前提下,回應公用事業電網的調度指令,為電網的穩定性與可負擔性盡一份力
。
NVIDIA 正積極與業界領先的台灣系統製造商合作,擴展 DSX 生態系,這些廠商將以極致的協同設計為核心,打造支援 DSX 的系統 。同時,以下全球頂尖的雲端合作夥伴也正在部署 DSX 平台的核心組件
:
Comments
0 comments