Qualcomm och Cornelis satsar på ett AI-nätverk som gör mer än att flytta data

AI-kluster behöver inte bara snabbare GPU:er och andra acceleratorer. De måste också kunna utbyta data snabbt och förutsägbart. Qualcomms nyannonserade samarbete med Cornelis Networks riktar in sig på just den flaskhalsen: att förbättra nätverkets roll i effektiv AI-infrastruktur när inferens och heterogena kluster växer.

Det är dock viktigt att skilja på vision och produkt. Tillkännagivandet gäller ett strategiskt samarbete och ett gemensamt framträdande på AI Infra Summit – inte lanseringen av en gemensamt levererad Qualcomm–Cornelis-produkt. Qualcomm säger att Cornelis vision om ett öppet, programmerbart nätverk ligger i linje med bolagets fokus på bättre utnyttjande av AI-hårdvara och sundare AI-ekonomi. 57

Grundidén: nätverket som ett aktivt beräkningslager

Cornelis kallar sin modell Active Compute Fabric. I stället för att betrakta switchar och nätverkskort som komponenter som enbart vidarebefordrar datapaket, lägger arkitekturen programmerbar beräkning och acceleration i själva nätverket. Enligt Cornelis kan delar av kommunikationsarbetet och kollektiva operationer då utföras medan data färdas genom nätverket, i stället för att allt arbete hamnar på servrarna eller AI-acceleratorerna. 515

Arkitekturen omfattar två närliggande nätverksuppgifter:

• Scale-out: att koppla ihop servrar eller noder i ett kluster.
• Scale-up: att knyta acceleratorer tätare samman i ett system på racknivå.

Målet är att dataöverföringen inte ska göra att dyra GPU:er eller andra acceleratorer står sysslolösa och väntar på indata. Det är särskilt relevant i distribuerade AI-arbetslaster, där kollektiva kommunikationsmönster och många-till-en-trafik kan bli en flaskhals. 121

Förlustfri transport och beräkning i nätverket

Active Compute Fabric kombinerar enligt Cornelis tre delar: förlustfri transport, acceleration i nätverket och programmerbar beräkning. 5

För sin Omni-Path-baserade CN5000-plattform beskriver Cornelis en kreditbaserad, förlustfri transportmodell, finkornig adaptiv routning, flödeskontroll som tar hänsyn till så kallad incast-trafik och återspelning på länknivå. I praktiken är syftet att motverka buffertöverbelastning och trängsel som annars kan störa dataleveransen. 18

Den potentiella vinsten är tydlig: om kommunikationen slutförs mer tillförlitligt och kräver mindre arbete från acceleratorerna, kan en större del av deras tid gå till att köra modeller. Det kan förbättra ekonomin i både träning och inferens, eftersom nätverket hjälper till att skydda nyttjandegraden hos betydligt dyrare beräkningshårdvara.

Men detta är en teknisk tes, inte ett definitivt benchmarkresultat. Cornelis publicerar egna prestandajämförelser och påståenden om nyttjandegrad, men operatörer behöver utvärdera dem mot sina egna modeller, kommunikationsmönster, mjukvarustackar och klustertopologier. 15

Produktplanen: vad finns nu och vad kommer senare?

Produktmognaden skiljer sig åt mellan Cornelis olika plattformar.

• CN5000 är ett levererat 400 Gb/s-nätverk för scale-out, byggt på Omni-Path och bestående av SuperNIC-kort, switchar, mjukvara och kablage. Cornelis positionerar systemet som förlustfritt och trängselkontrollerat för AI och HPC, alltså högpresterande beräkningar. 17
• CN6000 är nästa generations intelligenta nätverksplattform för AI-träning, inferens och HPC. Rapporter pekar på att den får Ethernet-stöd och förbereds för bredare tillgänglighet, medan Cornelis beskriver den som nästa steg i sina scale-out-produkter. 68
• CN7000 är den planerade, inbyggda scale-up-plattformen. Den delen av färdplanen är mest relevant som ett direkt alternativ till tätt kopplade rackinterconnect-lösningar i stil med Nvidias NVLink. Den är ännu inte en brett utrullad ersättare för Nvidias scale-up-teknik. 219

Skillnaden är väsentlig: Cornelis har redan en kommersiell scale-out-produkt, men den mest kompletta scale-up-idén är fortfarande framtidsinriktad.

Öppenhet och blandad hårdvara är en central del av budskapet

Cornelis beskriver Active Compute Fabric som en öppen arkitektur för både scale-up- och scale-out-miljöer. Färdplanen omfattar Ethernet, Ultra Ethernet, RoCE och UALink-relaterad teknik, snarare än ett nätverk låst till en enda acceleratortillverkare. 1119

För infrastrukturoperatörer kan det vara attraktivt. I teorin kan nätverket kombineras med olika GPU:er, CPU:er, specialkretsar och andra komponenter, i stället för att hela beräknings- och nätverksstacken kommer från en och samma leverantör. Cornelis uppger också att CN5000 fungerar tillsammans med acceleratorer från bland andra AMD, Intel och Nvidia. 23

Motvikten är genomförandet. Öppen och heterogen infrastruktur måste bevisa stabil interoperabilitet, tillgång på hårdvara i tillräckliga volymer och mogen mjukvara för hela systemet – inte bara kompatibilitet på komponentnivå.

En pusselbit i Qualcomms datacenterstrategi

Relationen med Cornelis kompletterar Qualcomms större satsning på AI-beräkning och anslutning för datacenter.

Qualcomm och Amazon har annonserat ett samarbete över flera produktgenerationer kring kundanpassat kisel för storskalig AI-inferens och optisk anslutning på upp till 1,6 Tb/s. Reuters rapporterade att Amazon, enligt villkoren i det långsiktiga upplägget, kan köpa Qualcomm-chip och närliggande datacenterprodukter för upp till 60 miljarder dollar. 3324

Qualcomm har även slutfört köpet av Alphawave Semi. Affären tillför teknik för höghastighetsanslutning med kabel, vilken enligt Qualcomm kompletterar bolagets Oryon-processorer och Hexagon NPU:er. 44

Sammantaget pekar detta mot en bredare strategi: Qualcomm vill vara med i både beräknings- och anslutningslagren av AI-infrastrukturen. Cornelis kan tillföra en möjlig öppen nätverksdimension, men bolagen har inte presenterat någon komplett integrerad plattform.

En trovärdig inriktning – men ingen etablerad Nvidia-ersättare

Cornelis kliver in på ett område där Nvidia redan har etablerade produkter och ett tätt integrerat ekosystem för acceleratorer, nätverk och mjukvara. Attraktionen i Active Compute Fabric är modulariteten: ett nätverk som både kan bidra med beräkning och fungera med heterogen hårdvara, utan att köparen behöver låsas till ett enda proprietärt nätverk.

Cornelis har tagit in 205 miljoner dollar för att utveckla scale-up- och scale-out-produkter, produktion och utrullningar, vilket ger bolaget mer resurser för att förverkliga ambitionen. 57

Men finansiering och arkitekturannonser räcker inte för att bevisa likvärdighet på marknaden. Caset för Cornelis och Qualcomm kommer att avgöras av levererade CN6000- och CN7000-produkter, mjukvarustöd, interoperabilitet, leveranskapacitet och reproducerbara resultat i produktionsmiljöer. Just nu bör samarbetet främst ses som en satsning på att bättre nätverk kan höja nyttjandegraden i AI-infrastruktur – och på att kunder kan värdera ett öppet alternativ lika högt som maximal topprestanda.