AI數據中心嘅問題,開始由「有幾多GPU」變成「可以喺邊度起到足夠大嘅GPU系統」。當電力供應、土地、電網接入、審批,甚至地方政治因素,令營運商難以興建一個超大型園區,將GPU算力分散到多個地點可能會變成更實際嘅選擇。
Relativity Networks押注嘅,就係用一種更低延遲嘅光纖,令相隔較遠嘅數據中心更似一個緊密協作嘅系統。
中空光纖點解可以幫手?
Relativity嘅ChronoCore平台採用中空光纖,唔係喺傳統實心玻璃入面引導光線,而係透過充滿空氣嘅中空核心傳輸。公司指,ChronoCore嘅傳播延遲約為每公里3.4至3.5微秒;普通光纖就約為每公里5微秒。1618
光纖當然唔會令兩個數據中心之間嘅實際距離消失,但可以減少光訊號喺路上花費嘅時間。對於需要喺多組GPU之間不斷交換資料嘅AI訓練或推理工作,呢個差距就可能變得重要。
Relativity嘅目標係數據中心之間嘅互連。公司表示,其線纜可提供24條低延遲通道,連接不同AI設施;同時,中空光纖可以喺相若延遲下,令資料傳輸距離增加約1.5倍。1424
簡單講,營運商未必要再將「一個完整而連續嘅超大型園區」視為唯一方案,而係有機會將幾個電力同發展條件較合適嘅地點組合起來。
AI工作負載令幾微秒差距更關鍵
對一般網絡連接而言,多幾微秒延遲未必有明顯影響。但當一項AI工作負載分散喺幾個設施,而且要頻繁同步資料,距離累積出來嘅延遲就可能影響整體協作效率。Relativity嘅說法係,降低光纖本身嘅傳播延遲,有助分散式訓練及推理喺更大地理範圍內保持同步。110
公司將呢個概念形容為「地理位置成為電腦一部分」:網絡唔再只係連接幾座獨立設施,仲會影響呢啲設施可以相隔幾遠,先至仍然能夠似一座協調運作嘅AI工廠。1718
不過,較快嘅光纖唔代表幾個數據中心就會自動變成同一個GPU叢集。最終表現仲取決於交換器、收發器、網絡拓撲、軟件、工作負載嘅資料交換模式,以及路徑上其他所有延遲來源。中空光纖主要處理嘅,只係光訊號嘅傳播時間。
「快50%」應該點理解?
部分報道將中空光纖形容為比傳統光纖快約50%。2但Relativity自己嘅資料較接近47%:ChronoCore約為每公里3.4微秒,同一距離嘅延遲則低約32%。18
呢幾個百分比唔可以當成完全相同。若果由每公里5微秒減至3.5微秒,代表單程傳播延遲減少30%;如果用速度增加幅度去表達,喺呢個簡化比較下大約係43%。最後數字會視乎採用邊個基準同量度方法而不同。
所以,較值得留意嘅未必係「50%」呢個標題數字,而係:如果用空氣核心取代玻璃作為傳播介質,節省落嚟嘅時間,可能足以令AI設施之間保持更遠距離。
2,200萬美元融資之外,4,000萬美元訂單更有訊號?
Relativity宣布完成2,200萬美元SAFE融資,另外取得一張來自未具名超大規模雲端服務商、價值4,000萬美元嘅後續訂單。23
SAFE,即「未來股權簡單協議」,一般會喺公司日後進行定價融資時轉換成股權。因此,呢2,200萬美元較適合理解為早期成長資金,而唔係一輪已經按估值定價嘅傳統股權融資。2
4,000萬美元訂單就提供另一種訊號。有報道指,該超大規模雲端服務商先測試ChronoCore用於數據中心互連,之後再落後續訂單,反映至少有一間大型雲端營運商已經由初步評估,行前一步。113
但呢件事仍然唔代表市場已經普遍採用。客戶身份未有公開,訂單嘅部署時間表、技術測試結果,以及最終會支援幾多基建,亦未見公開資料。換句話講,4,000萬美元係商業興趣嘅證據,但唔係中空光纖必然取代傳統光纖嘅保證。
AI基建正由「一個園區」走向多個地點
Relativity瞄準嘅限制,其實唔係GPU晶片本身,而係「有冇地方同電力可以擺低足夠多GPU」。公司資料及相關報道都提到,營運商正將AI基建分散到地理上分開嘅園區,尋找可用電力同較可行嘅開發地點。1627
呢個轉變亦改變網絡嘅角色。傳統數據中心建設入面,網絡主要係連接同一座設施內嘅機器;但喺分散式AI建設入面,跨數據中心互連本身,可能決定幾座設施可唔可以一齊參與同一個AI系統。
因此,中空光纖被定位成一層「地理位置啟用」基建:營運商或可將幾個電力條件可行嘅地點集合起來,而唔使等一個同時具備充足電力、土地、電網接入同地方支持嘅超級園區出現。Optics.org引述Relativity嘅比較指出,傳統光纖常見約60公里嘅限制,ChronoCore則有潛力將距離推至約90公里;不過,任何特定AI工作負載實際可接受嘅距離,仍然要視乎完整系統設計。24
呢次宣布透露咗乜,又未證明到乜?
事件反映出AI業界一個更闊嘅方向:隨住AI系統越做越大,基建公司優化嘅唔再只係算力密度同園區內部網絡,仲要處理整個系統嘅物理地理範圍。
Relativity獲得嘅融資,可以用作擴大生產;而後續訂單則顯示,至少有一間大型超大規模雲端服務商認真評估過其中空光纖方案。34技術主張亦相當直接:較低嘅傳播延遲,可能令地理上分散嘅GPU算力更容易協同運作。
真正未有答案嘅,係落地層面。市場仍然需要更多公開資料,了解中空光纖嘅量產規模、成本、可靠性、部署難度,以及喺真實分散式AI工作負載上嘅端到端表現。
喺呢啲資料出現之前,ChronoCore較適合被視為一項針對AI基建新限制嘅重要押注,而唔係代表光纖技術已經徹底解決AI數據中心嘅地理問題。