簡單講,NVIDIA 而家唔係淨係賣 GPU 畀你,係直頭教你點樣由零開始,興建、管理同營運一間識得慳電、高效率嘅 AI 工廠。
以下就係今次發佈嘅幾個核心組件:
DSX OS 係一個開源、模組化嘅軟件層。佢嘅角色就好似成間 AI 工廠嘅大腦同中樞神經,負責將生命週期管理、運行環境一致性、自動化健康檢查、系統彈性、多租戶 AI 工廠營運同平台服務 黐返埋一齊 。
NVIDIA 嘅策略係透過呢個共同設計嘅架構,徹底整合運算、軟件、設施同夥伴技術,等唔同廠商唔使各自為政,減少碎片化 。
講到香港數據中心最頭痛嘅電費同供電上限問題,DSX MaxLPS 就係救星。呢套軟件可以喺 GPU、機櫃同工作負載層面,動態管理電力分配,喺固定嘅電力預算入面最大化 Token 產出 。
NVIDIA 聲稱,配合45 度液冷散熱技術,AI 工廠可以喺同樣嘅電量下,運行多達 40% 嘅 GPU,而且全部都維持喺最高能源效益嘅狀態,變相令每個運算 Token 嘅成本降至最低 。呢個對於要控制營運成本嘅企業嚟講,好大誘惑。
AI 工廠愈起愈大,用電量分分鐘勁過一個小鎮。DSX Flex 嘅作用就係令 AI 工廠識得同電力公司「傾偈」。佢可以接收電網訊號,例如降低負載(Load Shedding)、需求反應(Demand Response)同埋定價事件(Pricing Events),然後動態調節 AI 工作 。
甚至,佢仲可以協調唔同嘅電力來源,包括市電、現場太陽能呢類可再生能源同埋儲能設備 。目前 DSX Flex 已經喺美國同 Silicon Valley Power 進行緊商業級嘅多兆瓦試點計劃,示範點樣喺唔影響 AI 工作表現嘅前提下,幫手穩定電網 。
NVIDIA 今次明顯係要帶埋成個產業鏈一齊玩。佢哋宣布會同領先嘅台灣系統製造商合作,擴大 DSX 生態系統 。
與此同時,以下呢批雲端合作夥伴已經喺度部署 DSX 平台嘅核心組件(包括 DSX Sim 模擬器、DSX MaxLPS 同 DSX OS),務求更快咁將 AI 雲端容量投入市場 :
NVIDIA 決定將 DSX OS 開源,背後嘅商業邏輯好清晰。佢哋想將 DSX 打造成 AI 工廠嘅業界標準操作系統,情況就好似當年開源軟件逐步統治咗雲端同企業基礎設施市場咁 。
透過開放同模組化,NVIDIA 可以:
簡單講,NVIDIA 而家唔係淨係賣 GPU 畀你,係直頭教你點樣由零開始,興建、管理同營運一間識得慳電、高效率嘅 AI 工廠。
以下就係今次發佈嘅幾個核心組件:
DSX OS 係一個開源、模組化嘅軟件層。佢嘅角色就好似成間 AI 工廠嘅大腦同中樞神經,負責將生命週期管理、運行環境一致性、自動化健康檢查、系統彈性、多租戶 AI 工廠營運同平台服務 黐返埋一齊 。
NVIDIA 嘅策略係透過呢個共同設計嘅架構,徹底整合運算、軟件、設施同夥伴技術,等唔同廠商唔使各自為政,減少碎片化 。
講到香港數據中心最頭痛嘅電費同供電上限問題,DSX MaxLPS 就係救星。呢套軟件可以喺 GPU、機櫃同工作負載層面,動態管理電力分配,喺固定嘅電力預算入面最大化 Token 產出 。
NVIDIA 聲稱,配合45 度液冷散熱技術,AI 工廠可以喺同樣嘅電量下,運行多達 40% 嘅 GPU,而且全部都維持喺最高能源效益嘅狀態,變相令每個運算 Token 嘅成本降至最低 。呢個對於要控制營運成本嘅企業嚟講,好大誘惑。
AI 工廠愈起愈大,用電量分分鐘勁過一個小鎮。DSX Flex 嘅作用就係令 AI 工廠識得同電力公司「傾偈」。佢可以接收電網訊號,例如降低負載(Load Shedding)、需求反應(Demand Response)同埋定價事件(Pricing Events),然後動態調節 AI 工作 。
甚至,佢仲可以協調唔同嘅電力來源,包括市電、現場太陽能呢類可再生能源同埋儲能設備 。目前 DSX Flex 已經喺美國同 Silicon Valley Power 進行緊商業級嘅多兆瓦試點計劃,示範點樣喺唔影響 AI 工作表現嘅前提下,幫手穩定電網 。
NVIDIA 今次明顯係要帶埋成個產業鏈一齊玩。佢哋宣布會同領先嘅台灣系統製造商合作,擴大 DSX 生態系統 。
與此同時,以下呢批雲端合作夥伴已經喺度部署 DSX 平台嘅核心組件(包括 DSX Sim 模擬器、DSX MaxLPS 同 DSX OS),務求更快咁將 AI 雲端容量投入市場 :
NVIDIA 決定將 DSX OS 開源,背後嘅商業邏輯好清晰。佢哋想將 DSX 打造成 AI 工廠嘅業界標準操作系統,情況就好似當年開源軟件逐步統治咗雲端同企業基礎設施市場咁 。
透過開放同模組化,NVIDIA 可以: