Qualcomms AI-strategie draait om rekenen naast het geheugen

Qualcomm richt zijn aanval op Nvidia niet in de eerste plaats op maximale trainingsprestaties, maar op een hardnekkig probleem bij het uitvoeren van grote AI-modellen: de kosten en het energieverbruik van het voortdurend verplaatsen van modelgewichten door het geheugen.

Het antwoord is geen enkele vervanger voor een Nvidia-GPU, maar een compleet platform onder de naam Dragonfly. Dat omvat near-memory computing, server-CPU’s, netwerkcomponenten, software voor meerdere chiparchitecturen en systemen die van datacenters tot edge-apparaten kunnen worden ingezet.

De belangrijkste bouwsteen is High Bandwidth Compute (HBC). Qualcomm zegt hiermee de effectieve geheugenbandbreedte en de efficiëntie van tokenproductie te kunnen verhogen door rekenlogica onder een gestapelde LPDDR-geheugenstructuur te plaatsen. De architectuur is ambitieus. De doorslaggevende test komt echter pas later: met productiehardware, onafhankelijke benchmarks, betrouwbare toelevering en echte klantimplementaties.

HBC pakt de geheugenbottleneck bij inferentie aan

Bij autoregressieve inferentie wordt voor elk nieuw token opnieuw modeldata uit het geheugen gelezen. Daardoor zijn niet alleen de rekenkernen belangrijk, maar ook dataverplaatsing, de energie die geheugen toegang kost en de latency.

Qualcomms HBC-ontwerp brengt de berekening dichter bij de data. Een compute-die wordt onder een stapel LPDDR-geheugen geplaatst; de lagen worden verbonden via dichte through-silicon vias, oftewel TSV’s. 245

Dat onderscheid is belangrijk. Qualcomm beweert niet simpelweg dat LPDDR een hogere conventionele piekbandbreedte heeft dan elk HBM-systeem. De claim is dat bepaalde bewerkingen binnen dezelfde verpakking kunnen plaatsvinden. Daardoor hoeft er minder data tussen het geheugen en de hoofdprocessor te worden verplaatst en kan de effectieve bandbreedte voor geschikte inferentietaken hoger uitvallen. 29

Voor de eerste HBC-generatie, gekoppeld aan de Dragonfly AI250, noemt Qualcomm een ontworpen effectieve geheugenbandbreedte van 133 TB/s per kaart. Dat zou een verbetering van achttien keer zijn ten opzichte van de AI200 met LPDDR5X. 4 Andere berichtgeving verwijst naar Qualcomms claim van tot zes keer meer bandbreedte per watt dan huidige HBM-implementaties. 813

Die cijfers moeten voorzichtig worden gelezen. Effectieve bandbreedte, bandbreedte per kaart, bandbreedte op rackniveau en de bandbreedte van één HBM-stack zijn verschillende meeteenheden. Een vergelijking tussen honderden terabytes per seconde en één afzonderlijk HBM-cijfer is dus niet zonder meer een eerlijke prestatietest. Tot onafhankelijke benchmarks voor tokens per seconde beschikbaar zijn, blijven de cijfers vooral architectuur- en prestatie-per-wattclaims van Qualcomm.

Samsung en SK hynix maken van HBC ook een productieproef

Qualcomm ontwerpt de compute-laag en integreert het systeem. Samsung Electronics en SK hynix zouden volgens berichtgeving als geheugenpartners bij het HBC-project aansluiten. Het stapelen en produceren van het geheugen komt daarmee grotendeels bij deze leveranciers te liggen; ook geavanceerde packaging is bepalend voor het eindresultaat. 15

Daarmee is HBC minstens zo goed een gok op packaging en productie als op processorontwerp. Het commerciële succes hangt af van geheugenkwalificatie, de opbrengst van 3D-assemblage, warmteafvoer, tests en de mogelijkheid om voldoende systemen tegen een aanvaardbare prijs te maken.

Een architectuur kan op papier overtuigen en toch achteropraken als de productie te weinig betrouwbare chips oplevert of de kosten te hoog blijven. Qualcomm mikt op commercialisering van de eerste HBC-generatie in 2027 en op een tweede generatie in 2028. 14 Dat maakt HBC een platformtransitie over meerdere productcycli, geen onmiddellijke vervanger voor Nvidia-hardware die al in datacenters staat.

Dragonfly moet HBC in een volledig datacenterplatform plaatsen

Qualcomm presenteert Dragonfly als een portfolio voor datacenters, niet als een losse accelerator. De roadmap omvat AI-inferentiesystemen, HBC, de C1000-serverprocessor, netwerkoplossingen en diensten voor custom silicon. 1516

De Dragonfly C1000 is een serverprocessor met chipletarchitectuur, bedoeld voor agentic AI, algemene servertaken en zogenoemde AI-headnodes. 7 Qualcomm en Meta hebben een samenwerking voor meerdere CPU-generaties aangekondigd. De productie van de eerste generatie C1000 staat gepland voor de tweede helft van 2028. 18

Dat is een relevante bevestiging voor Qualcomm: Meta is een aangekondigde CPU-klant en Qualcomm krijgt daarmee een route naar de servervloot van een hyperscaler. De overeenkomst bewijst echter niet dat Meta ook HBC-accelerators op grote schaal zal inzetten. Daarvoor zijn prestaties, betrouwbaarheid, softwareondersteuning, beschikbaarheid, netwerkintegratie en totale eigendomskosten doorslaggevend.

Software moet de afhankelijkheid van CUDA verkleinen

Hardware alleen is waarschijnlijk niet genoeg om een gevestigd AI-platform uit te dagen. Nvidia’s voorsprong bestaat ook uit CUDA, bibliotheken, ontwikkeltools, documentatie en de ervaring die ontwikkelaars en operators ermee hebben opgebouwd.

Met de overname van Modular voegt Qualcomm de programmeertaal Mojo en het MAX-platform toe aan zijn strategie. Qualcomm zegt dat deze technologie generatieve en agentic AI moet ondersteunen op uiteenlopende hardware, van datacenters tot edge-omgevingen. 19

Het doel is portabiliteit: ontwikkelaars moeten modellen en workloads tussen verschillende soorten processors kunnen verplaatsen zonder voor elke leverancier de volledige softwarestack opnieuw te bouwen. Modular heeft daarnaast een open ecosysteem gepromoot. Volgens berichtgeving vanaf de ModCon 2026-conferentie zijn Mojo en de compiler volledig open source gemaakt. 46

Dat kan de overstapdrempel verlagen voor klanten die Qualcomm naast Nvidia, AMD en andere acceleratorleveranciers willen evalueren. Het betekent niet automatisch dat Qualcomm nu dezelfde diepgang heeft als Nvidia’s CUDA-ecosysteem. Claims over grote prestatieverbeteringen ten opzichte van native implementaties blijven voorlopig toekomstgericht zolang ze niet met transparante, reproduceerbare benchmarks worden onderbouwd.

Qualcomm breidt zijn CPU-strategie bovendien uit met RISC-V. De gedocumenteerde overname betreft Ventana Micro Systems, niet het anders genoemde bedrijf uit de oorspronkelijke onderzoeksvraag. Qualcomm zegt dat Ventana zijn RISC-V-engineering en ecosysteemactiviteiten versterkt. 2354

Hugging Face ondersteunt het cloud-to-edge-verhaal

De samenwerking met Hugging Face moet workloads van Hugging Face naar Dragonfly-datasystemen brengen, het onboarden van modellen vereenvoudigen en hybride orkestratie tussen apparaten en datacenters mogelijk maken. 21

Daarmee probeert Qualcomm een doorlopende route te bieden van cloudinfrastructuur naar edge-apparaten. Het bedrijf wil tegelijk actief zijn in datacenters, smartphones, embedded systemen en fysieke AI.

De uitdaging is dat een breed portfolio pas echt een alternatief voor Nvidia wordt als ontwikkelaars modellen eenvoudig kunnen implementeren en operators in productie betere economische resultaten zien. Een belofte van één platform is niet genoeg; de modellen, runtime, drivers en beheertools moeten ook in de praktijk werken.

HBC past in een bredere herziening van geheugenarchitectuur

Qualcomms aanpak maakt deel uit van een bredere industriebeweging: niet alleen meer HBM-bandbreedte toevoegen, maar ook de hoeveelheid data beperken die tussen geheugen en rekenlogica heen en weer moet.

Samsung’s LPDDR5X-PIM voegt rekenlogica toe aan low-power DRAM, zodat bepaalde bewerkingen dichter bij de opgeslagen data kunnen plaatsvinden. Samsung rapporteerde in demonstraties een aanzienlijk hogere inferentiedoorvoer dan met conventionele LPDDR5X. Onafhankelijke berichtgeving over de Hot Chips-presentatie beschreef 81,3 tokens per seconde tegenover 27 tokens per seconde in de aangehaalde vergelijking. 313639

SK hynix benadert hetzelfde probleem vanuit HBM. Het bedrijf werkt aan hybrid bonding en iHBM om de warmte- en dichtheidsproblemen aan te pakken die ontstaan wanneer geheugens stacks hoger worden en de bandbreedte toeneemt. 32 Afzonderlijke berichtgeving stelt dat hybrid bonding volgens SK hynix niet op tijd klaar zal zijn voor HBM4E, waardoor de overgang mogelijk pas bij een latere HBM-generatie plaatsvindt. 40

Samsung heeft ondertussen HBM4E-samples gemeld met maximaal 3,6 TB/s bandbreedte per stack en pinsnelheden tot 16 Gbps. 41 Dat is relevant voor de concurrentiepositie van HBC: Qualcomm zal niet concurreren met een stilstaand HBM-ontwerp uit 2025 of 2026, maar met geheugentechnologie die zich eveneens blijft ontwikkelen.

Het beschikbare bewijsmateriaal bevestigt de specifiekere claims over Samsungs CXL-gebaseerde MX1-apparaat, adoptie door DeepX en een precieze waarschuwing van Micron over verslechterende bottlenecks niet. Die details moeten daarom niet als vastgesteld worden behandeld.

Wat Qualcomm nu moet bewijzen

De strategie heeft een duidelijke interne logica:

• Eerst inferentie aanvallen: HBC is ontworpen voor decode-intensieve workloads waarbij dataverplaatsing een groot deel van de tokenkosten kan bepalen. 29
• Het volledige systeem integreren: Dragonfly combineert accelerators, CPU’s, netwerken en custom silicon in plaats van op één chip te vertrouwen. 1516
• Softwarebarrières verlagen: Mojo en MAX moeten workloads draagbaarder maken tussen hardwareplatforms. 1946
• Klantvertrouwen opbouwen: de overeenkomst met Meta geeft Qualcomm een aangekondigde hyperscalerrelatie voor CPU’s, met productie gepland voor de tweede helft van 2028. 18
• Een brede inzet mogelijk maken: de samenwerking met Hugging Face ondersteunt Qualcomms strategie van cloud tot edge. 21

De risico’s zijn minstens zo duidelijk. HBC moet de productiefase halen met aanvaardbare opbrengsten en thermische eigenschappen. Qualcomm moet geloofwaardige, werkbelastingspecifieke vergelijkingen publiceren die effectieve bandbreedte onderscheiden van ruwe interfacebandbreedte. De compiler- en runtime-stack moet echte modellen betrouwbaar ondersteunen. Geheugenpartners moeten op schaal kunnen leveren. En klanten moeten vinden dat de voordelen opwegen tegen het invoeren van nog een platform naast CUDA.

Kort gezegd: Qualcomm heeft een plausibele alternatieve architectuur ontwikkeld rond een van de belangrijkste knelpunten van AI-infrastructuur: het verplaatsen van geheugen tijdens inferentie. Maar volgens de huidige roadmap is HBC nog een toekomstige uitdaging voor Nvidia, geen bewezen verdringer. De belangrijkste ijkpunten zijn de eerste HBC-hardware in 2027, de geplande productiestart van de C1000 in de tweede helft van 2028 en onafhankelijke klantvalidatie van prestaties en totale eigendomskosten.