心臟部分係台積電嘅 「緊湊型通用光子引擎」(COUPE, Compact Universal Photonic Engine) 平台。佢用上台積電「系統整合晶片」(SoIC, System on Integrated Chips) 技術——即係 3D 混合鍵合 (3D hybrid bonding)——將光子晶粒 (photonic dies) 同電子晶粒 (electronic dies) 堆疊連接。呢種整合密度係前所未有嘅,令 NVIDIA 可以喺單一裝置塞入更多頻寬,又唔使擔心耗電量爆錶 。
NVIDIA 網絡業務高級副總裁 Gilad Shainer 喺會上話:「呢部交換器用上 NVIDIA 最先進嘅 CPO 技術。」佢仲透露,公司已經開始向合作夥伴供貨,預計2026 年下半年會擴大產能 。
NVIDIA 今次唔止係出貨咁簡單,仲首次將自家嘅 NVLink Fusion 互連標準,開放俾外面嘅光子學合作夥伴。Lightmatter 同 Ayar Labs 齊齊宣布加盟,目標係令佢哋嘅 CPO 同近封裝光學 (NPO) 產品,可以光學上同電氣上同 NVIDIA 嘅 SerDes 及光學技術完全兼容 。
Lightmatter 正將佢嘅雙向光學鏈路架構 (bi-directional optical link architecture)——包括 Passage 光子互連 (photonic interconnects) 同 Guide 雷射光源 (laser sources)——調整到符合 NVIDIA 嘅規格。咁樣就可以為半客製化 AI 工廠整一個統一平台,仲可以將光纖同連接器嘅需求大劈 50% 。
大家要知,有啲下一代 AI 數據中心要用成 300 英里咁多嘅線纜,呢個減幅對營運商嚟講好襟計 。實際好處係,客戶嘅半客製化 XPU 處理器,可以透過 Lightmatter 嘅 CPO 或者 NPO 產品直接插落 NVIDIA 嘅交換晶片,喺 NVLink Fusion 架構下實現多廠商晶片之間嘅無縫連接 。
Ayar Labs 嘅方向就互補補啲,佢哋集中火力搞光學架構,要將成千上萬粒 GPU 跨越多個機櫃,連結成單一超大規模運算叢集。佢哋嘅 CPO 產品咬實咗超大規模 AI 工作負載對頻寬、低延遲同功耗效率嘅苛刻要求。加盟 NVLink Fusion 之後,Ayar Labs 嘅技術可以同 NVIDIA 嘅主導硬件疊埋一齊推,幫手將 CPO 技術更快推落真實嘅機櫃級 AI 基礎設施 。
呢堆發布背後,呼應緊 NVIDIA 行政總裁黃仁勳由 2025 年 GTC 開始反覆講嘅大策略:只要物理極限未到,就用銅線互連;到頻寬同距離要求超出銅線負荷,先轉用光學。
黃仁勳喺台北 GTC 話:「我哋應該盡可能用銅,用到盡為止,但銅有佢嘅極限。正確嘅策略係喺你仲可以用銅嘅時候盡量向上擴展,之後如果仲要向上擴就要用光,向外擴展用光,跨域擴展都係用光。」
實際執行上,即將推出嘅 Vera Rubin NVL72 同 Kyber Ultra NVL144 系統,內部向上擴展連結仍然會用銅線。全面 CPO 化嘅向上擴展,最快要等到 2028 年嘅 Feynman 世代先會降臨 。但對於串聯成個 AI 工廠嘅橫向同跨域網絡,光學轉型就係而家進行緊嘅事。
NVIDIA 一邊出貨量產級 CPO 交換器,一邊開放互連生態俾第三方光子學新創,呢兩步棋加埋,等於向業界宣告:AI 基建已經由「光學幾時有用」嘅辯論,踏入「點樣可以最快部署」嘅新階段。
心臟部分係台積電嘅 「緊湊型通用光子引擎」(COUPE, Compact Universal Photonic Engine) 平台。佢用上台積電「系統整合晶片」(SoIC, System on Integrated Chips) 技術——即係 3D 混合鍵合 (3D hybrid bonding)——將光子晶粒 (photonic dies) 同電子晶粒 (electronic dies) 堆疊連接。呢種整合密度係前所未有嘅,令 NVIDIA 可以喺單一裝置塞入更多頻寬,又唔使擔心耗電量爆錶 。
NVIDIA 網絡業務高級副總裁 Gilad Shainer 喺會上話:「呢部交換器用上 NVIDIA 最先進嘅 CPO 技術。」佢仲透露,公司已經開始向合作夥伴供貨,預計2026 年下半年會擴大產能 。
NVIDIA 今次唔止係出貨咁簡單,仲首次將自家嘅 NVLink Fusion 互連標準,開放俾外面嘅光子學合作夥伴。Lightmatter 同 Ayar Labs 齊齊宣布加盟,目標係令佢哋嘅 CPO 同近封裝光學 (NPO) 產品,可以光學上同電氣上同 NVIDIA 嘅 SerDes 及光學技術完全兼容 。
Lightmatter 正將佢嘅雙向光學鏈路架構 (bi-directional optical link architecture)——包括 Passage 光子互連 (photonic interconnects) 同 Guide 雷射光源 (laser sources)——調整到符合 NVIDIA 嘅規格。咁樣就可以為半客製化 AI 工廠整一個統一平台,仲可以將光纖同連接器嘅需求大劈 50% 。
大家要知,有啲下一代 AI 數據中心要用成 300 英里咁多嘅線纜,呢個減幅對營運商嚟講好襟計 。實際好處係,客戶嘅半客製化 XPU 處理器,可以透過 Lightmatter 嘅 CPO 或者 NPO 產品直接插落 NVIDIA 嘅交換晶片,喺 NVLink Fusion 架構下實現多廠商晶片之間嘅無縫連接 。
Ayar Labs 嘅方向就互補補啲,佢哋集中火力搞光學架構,要將成千上萬粒 GPU 跨越多個機櫃,連結成單一超大規模運算叢集。佢哋嘅 CPO 產品咬實咗超大規模 AI 工作負載對頻寬、低延遲同功耗效率嘅苛刻要求。加盟 NVLink Fusion 之後,Ayar Labs 嘅技術可以同 NVIDIA 嘅主導硬件疊埋一齊推,幫手將 CPO 技術更快推落真實嘅機櫃級 AI 基礎設施 。
呢堆發布背後,呼應緊 NVIDIA 行政總裁黃仁勳由 2025 年 GTC 開始反覆講嘅大策略:只要物理極限未到,就用銅線互連;到頻寬同距離要求超出銅線負荷,先轉用光學。
黃仁勳喺台北 GTC 話:「我哋應該盡可能用銅,用到盡為止,但銅有佢嘅極限。正確嘅策略係喺你仲可以用銅嘅時候盡量向上擴展,之後如果仲要向上擴就要用光,向外擴展用光,跨域擴展都係用光。」
實際執行上,即將推出嘅 Vera Rubin NVL72 同 Kyber Ultra NVL144 系統,內部向上擴展連結仍然會用銅線。全面 CPO 化嘅向上擴展,最快要等到 2028 年嘅 Feynman 世代先會降臨 。但對於串聯成個 AI 工廠嘅橫向同跨域網絡,光學轉型就係而家進行緊嘅事。
NVIDIA 一邊出貨量產級 CPO 交換器,一邊開放互連生態俾第三方光子學新創,呢兩步棋加埋,等於向業界宣告:AI 基建已經由「光學幾時有用」嘅辯論,踏入「點樣可以最快部署」嘅新階段。