Qualcomm e Cornelis puntano sulle reti AI che elaborano i dati, non solo li trasportano

I cluster di intelligenza artificiale non hanno bisogno soltanto di acceleratori più veloci: devono anche scambiarsi enormi quantità di dati in modo rapido e prevedibile. La collaborazione annunciata da Qualcomm e Cornelis Networks punta proprio a questo vincolo, cercando di rendere la rete una parte più attiva ed efficiente dell’infrastruttura IA, soprattutto mentre crescono inferenza e cluster eterogenei.

Va precisato un punto: l’annuncio riguarda una collaborazione strategica e una presenza congiunta all’AI Infra Summit, non il lancio di un prodotto Qualcomm-Cornelis già in vendita. Qualcomm afferma che la visione di Cornelis di una fabric aperta e programmabile è in linea con l’obiettivo di migliorare utilizzo ed economia dell’IA. 57

L’idea chiave: la rete come livello di calcolo

Cornelis chiama il proprio approccio Active Compute Fabric. Invece di limitare switch e interfacce di rete all’inoltro dei pacchetti, l’architettura inserisce capacità di calcolo e accelerazione programmabili nella fabric. Secondo Cornelis, una parte dell’elaborazione delle comunicazioni e delle operazioni collettive può quindi avvenire mentre i dati attraversano la rete, anziché gravare interamente sugli host o sugli acceleratori IA. 515

L’architettura copre due esigenze collegate:

• Scale-out: il collegamento fra server o nodi di un cluster.
• Scale-up: l’interconnessione più stretta fra acceleratori all’interno di un sistema su scala rack.

L’obiettivo dichiarato è evitare che GPU e altri acceleratori costosi restino in attesa dei dati necessari. È un aspetto cruciale nei carichi di lavoro IA distribuiti, nei quali le comunicazioni collettive e il traffico molti-a-uno possono trasformarsi in un collo di bottiglia. 121

Trasporto senza perdite e calcolo nella fabric: cosa dovrebbero risolvere

Active Compute Fabric unisce tre elementi: trasporto senza perdite, accelerazione interna alla fabric e calcolo programmabile. 5

Per la piattaforma CN5000 basata su Omni-Path, Cornelis descrive un trasporto lossless basato su crediti, instradamento adattivo a grana fine, controllo di flusso sensibile all’incast — il sovraccarico generato da molte sorgenti verso un singolo ricevitore — e ritrasmissione a livello di collegamento. In pratica, questi meccanismi sono pensati per impedire che saturazione dei buffer e congestione interrompano la consegna dei dati. 18

Il potenziale vantaggio è semplice: se le comunicazioni si completano con maggiore affidabilità e con meno lavoro a carico degli acceleratori, una quota superiore del loro tempo può essere dedicata all’esecuzione dei modelli. Questo potrebbe migliorare l’economia effettiva dell’addestramento e dell’erogazione dei modelli, perché la rete contribuirebbe a proteggere l’utilizzo di hardware di calcolo molto più costoso.

Resta però una tesi progettuale, non un risultato definitivamente dimostrato da benchmark indipendenti. Cornelis pubblica confronti prestazionali e dati sull’utilizzo, ma gli operatori dovranno verificarli sui propri modelli, schemi di comunicazione collettiva, stack software e topologie di cluster. 15

La roadmap: cosa è disponibile e cosa è ancora da realizzare

La maturità dei prodotti Cornelis non è uniforme:

• CN5000 è una fabric scale-out Omni-Path end-to-end da 400 Gb/s già in distribuzione, composta da SuperNIC, switch, software e cablaggio. Cornelis la posiziona come sistema senza perdite e con controllo della congestione per IA e calcolo ad alte prestazioni (HPC). 17
• CN6000 è la piattaforma di rete intelligente di nuova generazione per addestramento, inferenza e HPC. Secondo le informazioni disponibili aggiunge il supporto Ethernet ed è in preparazione per una disponibilità più ampia; Cornelis la presenta come parte della prossima generazione di prodotti scale-out. 68
• CN7000 è la piattaforma scale-up nativa prevista dalla roadmap. È il componente più rilevante per una possibile alternativa diretta alle interconnessioni rack-scale in stile NVLink, ma non è ancora un sostituto ampiamente distribuito della tecnologia scale-up di Nvidia. 219

La distinzione è importante: Cornelis ha già un prodotto commerciale per lo scale-out, mentre la sua proposta scale-up più completa guarda ancora al futuro.

Apertura e hardware eterogeneo sono parte della proposta

Cornelis presenta Active Compute Fabric come un’architettura aperta, utilizzabile sia nello scale-up sia nello scale-out. La roadmap cita Ethernet, Ultra Ethernet, RoCE e tecnologie legate a UALink, anziché una rete vincolata a un solo fornitore di acceleratori. 1119

Per chi gestisce infrastrutture, l’attrattiva è la flessibilità: in linea di principio, la fabric potrebbe essere abbinata a GPU, CPU, acceleratori proprietari e altri componenti diversi, evitando di scegliere un unico stack integrato di calcolo e rete. Cornelis afferma inoltre che CN5000 è interoperabile con acceleratori AMD, Intel, Nvidia e altri. 23

Il compromesso è nell’esecuzione. Un’infrastruttura aperta ed eterogenea deve dimostrare interoperabilità solida, disponibilità dell’hardware e software maturo nell’intero sistema, non soltanto compatibilità fra singoli componenti.

Il ruolo nella strategia data center di Qualcomm

Il rapporto con Cornelis completa la più ampia ambizione di Qualcomm: diventare un fornitore di calcolo e connettività per i data center IA.

Qualcomm e Amazon hanno annunciato una collaborazione pluriennale su silicio personalizzato per l’inferenza IA su larga scala e connettività ottica fino a 1,6 Tb/s. Reuters ha riferito che Amazon potrebbe acquistare fino a 60 miliardi di dollari di chip Qualcomm per data center IA e prodotti collegati nell’ambito dell’accordo di lungo periodo, alle condizioni previste dall’intesa. 3324

Qualcomm ha inoltre completato l’acquisizione di Alphawave Semi, ottenendo tecnologie di connettività cablata ad alta velocità che, secondo l’azienda, integrano i processori Oryon CPU e Hexagon NPU. 44

Nel complesso, queste iniziative indicano una strategia che punta sia al calcolo sia alla connettività dell’infrastruttura IA. Cornelis aggiunge una possibile dimensione di networking aperto, ma le due aziende non hanno annunciato una piattaforma integrata completa.

Una direzione credibile, non ancora un’alternativa consolidata a Nvidia

Cornelis entra in un terreno dove Nvidia dispone già di prodotti affermati e di un ecosistema profondamente integrato di acceleratori, rete e software. Il richiamo di Active Compute Fabric è la modularità: una rete progettata per contribuire all’elaborazione e operare su hardware eterogeneo, anziché vincolare il cliente a una fabric proprietaria unica.

Cornelis ha raccolto 205 milioni di dollari per sviluppare i prodotti scale-up e scale-out, sostenere la produzione e le implementazioni, ottenendo risorse aggiuntive per perseguire questo obiettivo. 57

Tuttavia, finanziamenti e annunci architetturali non equivalgono a una presenza di mercato comparabile. La prova per Cornelis e Qualcomm passerà dai prodotti CN6000 e CN7000 effettivamente consegnati, dal supporto software, dall’interoperabilità, dalla capacità di fornitura e da risultati riproducibili in produzione. Per ora, la collaborazione va letta come una scommessa: una rete migliore può aumentare l’utilizzo dell’infrastruttura IA e gli acquirenti potrebbero attribuire valore a un’alternativa aperta quanto alle prestazioni di picco.