Relativity Networks vil udvide AI-datacentrenes geografiske rækkevidde med hulfiber

AI-datacentre er ikke længere kun et spørgsmål om regnekraft. De er også blevet et geografisk problem.

Når mangel på strøm, jord, nettilslutning, byggetilladelser eller lokal politisk opbakning gør det vanskeligt at opføre én enorm campus, kan operatørerne blive nødt til at fordele GPU-kapaciteten på flere lokationer. Relativity Networks satser på, at en hurtigere optisk forbindelse kan få disse lokationer til at fungere mere som ét tæt koblet system.

Ideen: Gør afstanden mindre begrænsende

Relativitys ChronoCore-platform bruger såkaldt hulfiber. I stedet for at lede lyset gennem en massiv glaskerne føres det gennem en luftfyldt kerne. Virksomheden angiver en signalforsinkelse på cirka 3,4-3,5 mikrosekunder pr. kilometer mod omkring 5 mikrosekunder for almindelig fiber. 1618

Fiber fjerner naturligvis ikke den fysiske afstand mellem to datacentre. Den kan dog forkorte den tid, et optisk signal bruger på at tilbagelægge afstanden. Det er vigtigt, når en distribueret AI-opgave igen og igen skal udveksle data mellem forskellige GPU-puljer.

Relativity retter især teknologien mod forbindelser mellem datacentre. Selskabet siger, at dets kabel er udviklet til at levere 24 forbindelsesveje med lav latenstid mellem AI-faciliteter, og at hulfiber kan transportere data omkring 1,5 gange længere ved sammenlignelig latenstid. 1424

I praksis skal teknologien give infrastrukturplanlæggere flere muligheder. En sammenhængende megacampus behøver ikke nødvendigvis være den eneste løsning for et tæt integreret AI-system. I stedet kan en operatør potentielt samle kapacitet fra flere lokationer, hvor strøm og byggeforhold er bedre.

Hvorfor latenstid betyder mere for AI

En lille ekstra forsinkelse er ofte ligegyldig ved almindelig internettrafik. Den bliver mere kritisk, når en arbejdsbelastning er fordelt på flere faciliteter, som ofte skal koordinere med hinanden.

Relativitys argument er, at lavere transmissionsforsinkelse kan gøre det lettere at holde distribueret træning og inferens synkroniseret over et større geografisk område. 110

Virksomheden beskriver udviklingen som en situation, hvor “geografien bliver en del af computeren”: Netværket forbinder ikke længere blot adskilte faciliteter, men er med til at afgøre, hvor langt fra hinanden de kan ligge, mens de stadig opfører sig som én koordineret AI-fabrik. 1718

Det betyder dog ikke, at hurtigere fiber alene forvandler flere datacentre til én samlet klynge. Den samlede ydeevne afhænger også af switche, transceivere, netværkstopologi, software, arbejdsbelastningens kommunikationsmønster og alle andre forsinkelser i forbindelsen. Hulfiber løser kun ét lag af problemet: den tid, lyset bruger på at bevæge sig gennem selve forbindelsen.

Hvad betyder påstanden om 50 procent?

Omtale af annonceringen har beskrevet hulfiber som omkring 50 procent hurtigere end konventionel fiber. 2 Relativitys eget materiale angiver et tal tættere på 47 procent: ChronoCore ligger på cirka 3,4 mikrosekunder pr. kilometer og har omkring 32 procent lavere latenstid over samme afstand. 18

Tallene kan ikke bruges som om, de var identiske. Et fald fra 5 til 3,5 mikrosekunder pr. kilometer svarer til 30 procent lavere envejsforsinkelse. Udtrykt som en hastighedsforøgelse er det cirka 43 procent i denne forenklede sammenligning. Den præcise procent afhænger af, hvilken reference og hvilken målemetode man bruger.

Den mere holdbare pointe er derfor ikke overskriften med 50 procent. Det afgørende er, om et luftbaseret fiberdesign kan spare tilstrækkeligt med tid til at øge den praktiske afstand mellem faciliteterne.

Hvorfor finansieringen og hyperscaler-ordren er interessante

Relativity har annonceret 22 millioner dollar i SAFE-finansiering samt en separat opfølgende ordre på 40 millioner dollar fra en unavngiven hyperscaler. 23

En SAFE (“Simple Agreement for Future Equity”) er en aftale, der normalt omdannes til ejerandele i forbindelse med en senere finansieringsrunde med fastsat aktiekurs. Finansieringen skal derfor snarere ses som tidlig vækstkapital end som en traditionel aktierunde med fast værdisætning. 2

Ordren giver et andet signal. Ifølge omtalen testede hyperscaleren ChronoCore til forbindelser mellem datacentre, før den afgav den opfølgende ordre. Det tyder på, at mindst én stor cloudoperatør er gået videre end en indledende evaluering. 113

Det er betydningsfuldt, men ikke et bevis på bred markedsadoption. Kunden er ikke navngivet, og de offentligt tilgængelige oplysninger beskriver hverken leveringsplanen, de tekniske testresultater eller præcist, hvor meget infrastruktur ordren skal understøtte. Beløbet på 40 millioner dollar er derfor et tegn på kommerciel interesse – ikke en garanti for, at hulfiber bliver en standarderstatning for traditionel fiber.

Den infrastrukturelle ændring bag produktet

Relativity forsøger at løse en begrænsning, der ligger uden for selve GPU'en: spørgsmålet om, hvor der findes tilstrækkelig strøm og egnede arealer til nye datacentre. Virksomhedens materiale og den efterfølgende omtale beskriver, hvordan operatører spreder AI-infrastrukturen over geografisk adskilte campusser for at finde ledig elektricitet og realistiske byggegrunde. 1627

Det ændrer netværkets rolle. Ved en traditionel udbygning forbinder netværket primært maskiner inden for én afgrænset facilitet. Ved en distribueret AI-udbygning kan forbindelsen mellem datacentrene være afgørende for, om separate lokationer ligger tæt nok på hinanden til at indgå i samme system.

Hulfiber bliver dermed placeret som et lag, der gør en bredere geografisk placering mulig. Teknologien kan potentielt lade operatører samle computerkraft fra flere lokationer med realistisk adgang til strøm i stedet for at vente på én grund med tilstrækkelig elektricitet, jord, nettilslutning og lokal politisk opbakning.

Optics.org gengiver Relativitys sammenligning mellem en typisk begrænsning på cirka 60 kilometer og en mulig rækkevidde på 90 kilometer med selskabets fiber. Den anvendelige afstand for en konkret AI-arbejdsbelastning vil dog afhænge af hele systemdesignet. 24

Hvad annonceringen viser – og ikke viser

Annonceringen peger på en bredere udvikling i branchen. Efterhånden som AI-systemerne vokser, optimerer infrastrukturvirksomheder ikke kun tætheden af computerkraft og netværket inde i datacentret. De forsøger også at optimere systemets samlede fysiske geografi.

Finansieringen giver Relativity kapital til at opskalere produktionen, mens den opfølgende ordre viser, at hulfiberkonceptet har tiltrukket sig en seriøs evaluering hos mindst én hyperscaler. 34 Den tekniske idé er enkel: Lavere transmissionsforsinkelse kan gøre geografisk distribuerede GPU-ressourcer mere anvendelige.

Det operationelle spørgsmål er stadig ubesvaret. Branchen mangler offentligt tilgængelig dokumentation for produktionskapacitet, pris, driftsstabilitet, installationskompleksitet og målt samlet ydeevne i virkelige distribuerede AI-arbejdsbelastninger.

Indtil de oplysninger foreligger, bør ChronoCore derfor ses som et interessant infrastrukturvæddemål på en ny begrænsning – ikke som bevis på, at fiberteknologien allerede har løst AI-datacentrenes geografiske problem.