Relativity Networks hakee ontelokuidulla tekoälydatakeskuksille lisää maantieteellistä liikkumavaraa

Tekoälydatakeskusten suunnittelusta on tullut laskentaongelman lisäksi maantieteellinen ongelma. Jos sähkö, tonttimaa, verkkoliittymät, lupaprosessit tai paikallinen vastustus estävät yhden valtavan kampuksen rakentamisen, grafiikkasuorittimia eli GPU-laskentaa voidaan joutua jakamaan useisiin kohteisiin. Relativity Networks uskoo, että nopeampi optinen siirtotekniikka voisi saada nämä kohteet toimimaan enemmän yhden tiiviisti yhteen kytketyn järjestelmän tavoin.

Yhtiön ChronoCore-alusta perustuu ontelokuituun. Siinä valo kulkee perinteisen, kiinteästä lasista valmistetun ytimen sijaan ilmalla täytetyssä ontelossa. Relativityn mukaan ratkaisu voi laskea signaalin etenemisajan noin 3,4–3,5 mikrosekuntiin kilometriltä, kun tavanomaisessa kuidussa vastaava aika on noin 5 mikrosekuntia. 1618

Tavoitteena on tehdä etäisyydestä vähemmän rajoittava tekijä

Valokuitu ei tietenkään poista datakeskusten välistä fyysistä etäisyyttä. Se voi kuitenkin lyhentää aikaa, jonka optinen signaali käyttää matkaan. Ero on tärkeä, kun hajautettu tekoälykuorma vaihtaa tietoa toistuvasti eri GPU-ryhmien välillä.

Relativityn ilmoittama käyttötapaus on datakeskusten välinen yhteys. Yhtiön kaapeli on suunniteltu tarjoamaan 24 vähäviiveistä yhteysreittiä tekoälylaitosten välille, ja yhtiö sanoo ontelokuidun voivan kuljettaa dataa noin 1,5 kertaa pidemmälle samalla viiveellä. 1424

Käytännössä teknologia antaisi infrastruktuurin suunnittelijoille enemmän vaihtoehtoja. Yhtä yhtenäistä kampusta ei tarvitsisi pitää ainoana mahdollisena sijaintina tiiviisti toimivalle tekoälyjärjestelmälle. Sen sijaan laskentakapasiteettia voitaisiin mahdollisesti yhdistää useista paikoista, joissa sähköä ja rakennuskelpoista kapasiteettia on paremmin saatavilla.

Miksi tekoäly korostaa viiveen merkitystä?

Pieni lisäviive ei välttämättä haittaa tavanomaista verkkoyhteyttä. Merkitys kasvaa, kun työkuorma jakautuu useaan laitokseen ja niiden täytyy koordinoida toimintaansa jatkuvasti. Relativityn väite on, että pienempi kuidun etenemisviive voisi auttaa hajautettua mallien koulutusta ja päättelyä pysymään tahdissa laajemmalla maantieteellisellä alueella. 110

Yhtiö kuvaa muutosta ajatuksella, että ”maantieteestä tulee osa tietokonetta”: verkko ei enää vain yhdistä erillisiä laitoksia, vaan vaikuttaa siihen, kuinka kaukana nämä laitokset voivat olla toisistaan ja silti käyttäytyä yhtenä koordinoituna tekoälytehtaana. 1718

Nopeampi kuitu ei silti yksin tee useista datakeskuksista yhtä klusteria. Kokonaisviiveeseen vaikuttavat myös kytkimet, lähetin-vastaanottimet, verkon rakenne, ohjelmistot, työkuorman käyttäytyminen ja kaikki muut tiedonsiirtopolun osat. Ontelokuitu ratkaisee vain yhden kerroksen ongelmasta: optisen yhteyden etenemisajan.

Mitä ”50 prosenttia nopeampi” oikeastaan tarkoittaa?

Julkisuudessa ontelokuitua on kuvattu noin 50 prosenttia perinteistä kuitua nopeammaksi. 2 Relativityn omissa materiaaleissa etu on lähempänä 47:tä prosenttia: ChronoCoren etenemisajaksi ilmoitetaan noin 3,4 mikrosekuntia kilometriltä ja samalla matkalla noin 32 prosenttia pienempi viive. 18

Lukuja ei pidä käsitellä toistensa täydellisinä vastineina. Jos yksisuuntainen etenemisviive pienenee 5 mikrosekunnista 3,5 mikrosekuntiin kilometriltä, viive vähenee 30 prosenttia. Nopeutena ilmaistuna kyse on yksinkertaistetussa vertailussa noin 43 prosentin kasvusta. Tarkka prosenttiluku riippuu käytetystä vertailutasosta ja mittaustavasta.

Kestävämpi johtopäätös ei siis liity otsikoiden prosenttilukuun. Olennaista on, että lasisen siirtomediumin korvaaminen ilmaytimisellä rakenteella saattaa säästää riittävästi aikaa, jotta laitokset voidaan sijoittaa käytännössä kauemmas toisistaan.

Miksi rahoitus ja suuren pilvipalveluyhtiön tilaus ovat kiinnostavia?

Relativity ilmoitti saaneensa 22 miljoonaa dollaria SAFE-rahoituksena sekä erillisen 40 miljoonan dollarin jatkotilauksen nimeämättömältä hyperskaalaajalta eli erittäin suurelta pilvipalveluntarjoajalta. 23 SAFE (Simple Agreement for Future Equity) on sopimus, joka yleensä muuttuu osakkeiksi myöhemmässä, hinnoitellussa rahoituskierroksessa. Kyse on siis ennemmin varhaisen vaiheen pääomasta kuin perinteisestä osakeannista. 2

Tilaus antaa teknologialle toisenlaisen markkinasignaalin. Raporttien mukaan hyperskaalaaja testasi ChronoCorea datakeskusten välisessä yhteydessä ennen jatkotilauksen tekemistä. Tämä viittaa siihen, että ainakin yksi suuri pilvipalvelutoimija on siirtynyt alustavasta arvioinnista seuraavaan vaiheeseen. 113

Se ei kuitenkaan todista laajaa käyttöönottoa. Asiakasta ei ole nimetty, eikä julkisissa tiedoissa kerrota tilauksen toimitusaikataulua, teknisten testien tuloksia tai sitä, kuinka laajaa infrastruktuuria tilaus lopulta tukee. 40 miljoonaa dollaria on siksi näyttö kaupallisesta kiinnostuksesta, ei tae siitä, että ontelokuidusta tulee perinteisen kuidun yleinen korvaaja.

Tekoälyinfrastruktuurin taustalla on sähköpula

Relativity tavoittelee rajoitetta, joka sijaitsee GPU:n ulkopuolella: mistä löytyy riittävästi sähköä ja sopivaa rakennuskapasiteettia. Yhtiön materiaalien ja aiheesta tehtyjen juttujen mukaan toimijat hajauttavat tekoälyinfrastruktuuria maantieteellisesti erilleen sijaitseville kampuksille etsiessään saatavilla olevaa sähköä ja toteuttamiskelpoisia rakennuspaikkoja. 1627

Tämä muuttaa verkon roolia. Perinteisessä datakeskuksessa verkko yhdistää ensisijaisesti saman laitoksen koneet. Hajautetussa tekoälyrakentamisessa yhteysverkko voi vaikuttaa siihen, ovatko erilliset laitokset riittävän lähellä toisiaan osallistuakseen samaan järjestelmään.

Ontelokuitu asemoidaan näin maantieteellistä sijoittamista mahdollistavaksi kerrokseksi. Se voisi antaa toimijoille mahdollisuuden koota laskentatehoa useista paikoista, joissa sähköä on saatavilla, sen sijaan että ne odottaisivat yhtä sijaintia, jossa yhdistyvät riittävä sähkö, maa, verkkoliittymä ja poliittinen hyväksyttävyys. Optics.org kertoo Relativityn vertaavan tavanomaisen kuidun noin 60 kilometrin rajoitetta yhtiön kuidun mahdolliseen 90 kilometrin ulottuvuuteen. Tietyn tekoälykuorman käyttökelpoinen etäisyys riippuu silti koko järjestelmän suunnittelusta. 24

Mitä ilmoitus kertoo – ja mitä se ei kerro?

Ilmoitus viittaa laajempaan toimialan muutokseen. Tekoälyjärjestelmien kasvaessa infrastruktuuriyhtiöt optimoivat laskentatiheyden ja laitosten sisäisten verkkojen lisäksi koko järjestelmän fyysistä maantiedettä.

Relativityn rahoitus antaa yhtiölle pääomaa tuotannon kasvattamiseen, ja jatkotilaus kertoo, että ontelokuitu on kiinnostanut ainakin yhtä vakavaa hyperskaalaajan arviointia. 34 Tekninen perusajatus on suoraviivainen: pienempi etenemisviive voisi tehdä maantieteellisesti hajautetusta GPU-kapasiteetista käyttökelpoisempaa.

Ratkaisevat kysymykset ovat kuitenkin operatiivisia. Julkista tietoa tarvitaan vielä valmistuksen mittakaavasta, hinnasta, luotettavuudesta, käyttöönoton monimutkaisuudesta ja todellisilla hajautetuilla tekoälykuormilla mitatusta kokonaiskyvystä. Siihen asti ChronoCorea on perustelluinta pitää merkittävänä infrastruktuuripanoksena muuttuvaan rajoitteeseen – ei todisteena siitä, että kuituteknologia olisi ratkaissut tekoälydatakeskusten maantieteellisen ongelman.