Qualcomm en Cornelis willen van het AI-netwerk een actieve rekenlaag maken

AI-clusters hebben niet alleen snellere GPU’s en andere versnellers nodig. Ze moeten ook grote hoeveelheden data snel én voorspelbaar onderling kunnen uitwisselen. De aangekondigde samenwerking tussen Qualcomm en Cornelis Networks richt zich op precies die beperking: netwerken beter laten bijdragen aan een efficiënte AI-infrastructuur, vooral wanneer inference en clusters met verschillende soorten hardware groter worden.

Daarbij is een nuance belangrijk. Het gaat om een strategische samenwerking en een gezamenlijk optreden op AI Infra Summit, niet om de introductie van een gezamenlijk geleverd Qualcomm-Cornelis-product. Qualcomm stelt dat Cornelis’ visie van een open, programmeerbare netwerkfabric aansluit bij zijn streven naar betere benutting en economie van AI-infrastructuur. 57

Het uitgangspunt: het netwerk laten meerekenen

Cornelis noemt zijn aanpak Active Compute Fabric. In plaats van switches en netwerkkaarten uitsluitend pakketten te laten doorsturen, brengt de architectuur programmeerbare rekenkracht en versnelling ín het netwerk. Daardoor kan een deel van de communicatieverwerking en collectieve bewerkingen plaatsvinden terwijl data zich door het netwerk verplaatst, in plaats van volledig op servers of AI-versnellers te rusten. 515

De aanpak omvat twee aan elkaar verwante netwerkfuncties:

• Scale-out: servers of nodes met elkaar verbinden in een cluster.
• Scale-up: versnellers zeer nauw koppelen binnen een systeem op rackniveau.

Het beoogde effect is dat dataverplaatsing minder vaak leidt tot stilstand van kostbare GPU’s of andere versnellers die op invoer wachten. Dat is relevant voor gedistribueerde AI-workloads, waar collectieve communicatie en veel-naar-een-verkeer een flessenhals kunnen vormen. 121

Waarom verliesvrij transport en rekenwerk in het netwerk kunnen helpen

Active Compute Fabric combineert volgens Cornelis drie elementen: verliesvrij transport, versnelling in het netwerk en programmeerbare rekenkracht. 5

Voor zijn op Omni-Path gebaseerde CN5000-platform beschrijft Cornelis een kredietgestuurd ontwerp voor verliesvrij transport, fijnmazige adaptieve routering, verkeersregeling die rekening houdt met incast — veel zenders naar één ontvanger — en herverzending op verbindingsniveau. Volgens het bedrijf moeten die mechanismen voorkomen dat overvolle buffers en congestie de gegevensaflevering verstoren. 18

De economische gedachte erachter is eenvoudig: als communicatie betrouwbaarder en met minder werk aan de kant van de versneller wordt afgehandeld, kan een groter deel van de acceleratortijd naar het uitvoeren van modellen gaan. Netwerkuitgaven kunnen dan helpen de inzet van veel duurdere rekenhardware te beschermen, wat de effectieve kosten van training of modelserving kan verbeteren.

Dat is vooralsnog een ontwerpbelofte, geen algemeen bewezen benchmarkuitkomst. Cornelis publiceert vergelijkingen en claims over benutting, maar beheerders van infrastructuur zullen die moeten toetsen aan hun eigen modellen, communicatiepatronen, softwarestack en clustertopologie. 15

Wat de productroute nu werkelijk laat zien

De producten van Cornelis bevinden zich niet allemaal in dezelfde fase van volwassenheid.

• CN5000 is een geleverd 400 Gb/s Omni-Path-scale-outfabric met SuperNICs, switches, software en bekabeling. Cornelis positioneert het als een verliesvrij systeem met congestieregeling voor AI en high-performance computing (HPC). 17
• CN6000 is het volgende intelligente netwerkplatform voor AI-training, inference en HPC. Volgens berichtgeving voegt het Ethernet-ondersteuning toe en wordt het voorbereid op bredere beschikbaarheid; Cornelis plaatst het in zijn volgende generatie scale-out-producten. 68
• CN7000 is het geplande, native scale-up-platform. Dit onderdeel van de routekaart is het meest relevant als directe tegenhanger van strak gekoppelde interconnects op rackniveau, zoals Nvidia’s NVLink. Het is echter nog geen breed uitgerold alternatief voor Nvidia’s scale-uptechnologie. 219

Dat onderscheid is wezenlijk: Cornelis heeft al een commercieel scale-outproduct, maar zijn meest volledige scale-upverhaal ligt nog in de toekomst.

Openheid en heterogene hardware als verkoopargument

Cornelis positioneert Active Compute Fabric als een open architectuur voor zowel scale-up- als scale-outomgevingen. De routekaart verwijst naar Ethernet, Ultra Ethernet, RoCE en technologie rond UALink, in plaats van naar een netwerk dat aan één leverancier van versnellers vastzit. 1119

Voor beheerders van datacenters is die flexibiliteit aantrekkelijk. In theorie kunnen zij de fabric combineren met verschillende GPU’s, CPU’s, eigen accelerators en andere componenten, zonder meteen voor één verticaal geïntegreerde reken- en netwerkstack te kiezen. Cornelis stelt bovendien dat CN5000 samenwerkt met versnellers van onder meer AMD, Intel en Nvidia. 23

De keerzijde is uitvoering. Een open, heterogene infrastructuur moet niet alleen compatibiliteit op componentniveau aantonen, maar ook robuuste interoperabiliteit, voldoende hardwarebeschikbaarheid en volwassen software voor het volledige systeem.

Hoe dit past in Qualcomms datacenterstrategie

De relatie met Cornelis sluit aan bij Qualcomms bredere poging om een leverancier te worden van zowel AI-rekenkracht als connectiviteit voor datacenters.

Qualcomm en Amazon hebben een samenwerking over meerdere productgeneraties aangekondigd voor maatwerksilicium voor grootschalige AI-inference en optische connectiviteit tot 1,6 Tb/s. Reuters meldde dat Amazon binnen de voorwaarden van de langlopende overeenkomst tot 60 miljard dollar aan AI-datacenterchips en aanverwante producten van Qualcomm zou kunnen afnemen. 3324

Qualcomm rondde daarnaast de overname van Alphawave Semi af. Daarmee kreeg het technologie voor snelle bekabelde connectiviteit in handen, die volgens Qualcomm een aanvulling vormt op zijn Oryon-CPU’s en Hexagon-NPU’s. 44

Samen wijzen die stappen op een bredere strategie: aanwezig zijn in zowel de reken- als de verbindingslaag van AI-infrastructuur. Cornelis kan daar een open-netwerkdimensie aan toevoegen, maar de bedrijven hebben geen volledig geïntegreerd platform aangekondigd.

Een geloofwaardige richting, nog geen verdringing van Nvidia

Cornelis begeeft zich in een markt waarin Nvidia al gevestigde producten en een sterk geïntegreerd ecosysteem van versnellers, netwerken en software heeft. De aantrekkingskracht van Active Compute Fabric zit in de modulariteit: een netwerk dat zelf rekenwerk kan bijdragen en met heterogene hardware moet kunnen werken, zonder de klant aan één gesloten fabric te binden.

Cornelis haalde 205 miljoen dollar op om scale-up- en scale-outproducten, productie en uitrol te versnellen. Dat geeft het bedrijf extra middelen om die ambitie na te streven. 57

Maar financiering en architectuuraankondigingen maken nog geen marktgelijkwaardig alternatief. De overtuigingskracht van Cornelis en Qualcomm zal afhangen van daadwerkelijk geleverde CN6000- en CN7000-producten, softwareondersteuning, interoperabiliteit, leveringscapaciteit en reproduceerbare resultaten in productieomgevingen. Voor nu is de samenwerking vooral een inzet op het idee dat een beter netwerk de benutting van AI-infrastructuur kan verhogen — en dat klanten een open alternatief even waardevol vinden als maximale piekprestaties.