Qualcomms AI-utmaning mot Nvidia börjar i minnet

Qualcomm försöker inte bara lansera ett alternativt AI-chip till Nvidia. Bolaget bygger en bredare datacenterplattform som ska angripa en av AI-infrastrukturens dyraste begränsningar: energin och tiden som går åt till att flytta stora modellvikter mellan minne och beräkningsenheter.

Kärnan är High Bandwidth Compute, HBC – en arkitektur för beräkning nära minnet. Tillsammans med serverprocessorer, nätverk, programvara och drift från moln till kanten ska HBC göra Qualcomm till en mer komplett konkurrent på AI-marknaden.

Ambitionen är tydlig. Men de avgörande bevisen ligger längre fram: produktionshårdvara, oberoende tester, tillverkningskapacitet och faktiska kundinstallationer.

HBC riktar in sig på inferensens minnesflaskhals

Vid autoregressiv inferens läser systemet upprepade gånger modellens data från minnet medan varje ny token genereras. Därför blir inte bara beräkningskraften viktig, utan också dataflytt, minnesåtkomstens energiförbrukning och fördröjning.

Qualcomms HBC placerar ett beräkningschip under en staplad LPDDR-minnesstruktur. Lagren kopplas samman med täta genomgående kiselviaförbindelser, så kallade TSV:er. Tanken är att vissa beräkningar ska kunna ske närmare datan i stället för att skickas fram och tillbaka till huvudprocessorn. 245

Det är en viktig skillnad. Qualcomm hävdar inte nödvändigtvis att LPDDR har högre konventionell toppbandbredd än alla HBM-system. Argumentet är i stället att utvalda operationer kan utföras inne i kapslingen. Det minskar dataflytten och kan ge högre effektiv bandbredd för lämpliga inferensarbetslaster. 29

Qualcomm uppger att den första HBC-generationen, kopplad till Dragonfly AI250, är utformad för 133 TB/s effektiv minnesbandbredd per kort – en förbättring på 18 gånger jämfört med AI200 med LPDDR5X. 4 Annan rapportering återger också Qualcomms påstående om upp till sex gånger högre bandbredd per watt än dagens HBM-lösningar. 813

Siffrorna behöver dock läsas med viss försiktighet. Effektiv bandbredd, bandbredd per kort, bandbredd på racknivå och bandbredden i ett enskilt HBM-stack är olika mått. Att jämföra hundratals terabyte per sekund med en enskild HBM-siffra är därför inte ett rättvist prestandatest.

Tills oberoende mätningar av exempelvis tokens per sekund finns tillgängliga bör Qualcomms siffror främst ses som arkitektur- och prestanda-per-watt-påståenden.

Samsung och SK hynix blir en del av tillverkningsutmaningen

Qualcomm utvecklar beräkningslagret och integrerar systemet, medan Samsung Electronics och SK hynix enligt rapporter deltar som minnespartner. Den rapporterade arbetsfördelningen innebär att leverantörerna ska bidra med stapling och minnesrelaterad produktion, samtidigt som avancerad kapsling blir central för helheten. 15

Det gör HBC till lika mycket ett tillverknings- och kapslingsprojekt som ett chipdesignprojekt. Kommersiell framgång kommer att bero på minneskvalificering, utbyte i 3D-monteringen, värmehantering, testning och möjligheten att producera tillräckligt många system till en konkurrenskraftig kostnad.

En övertygande arkitektur på papper kan fortfarande misslyckas om den inte går att tillverka stabilt och ekonomiskt i stor skala.

Qualcomms uttalade färdplan pekar mot kommersialisering av den första HBC-generationen 2027 och en andra generation 2028. 14 Det handlar därmed om en plattformsövergång över flera produktcykler – inte om ett omedelbart utbyte av Nvidia-system som redan finns installerade i datacenter.

Dragonfly ska göra HBC till en hel plattform

Qualcomm presenterar Dragonfly som ett komplett datacentererbjudande, inte som en fristående accelerator. Färdplanen omfattar AI-inferenssystem, HBC, serverprocessorn C1000, nätverkslösningar och tjänster för kundanpassade kretsar. 1516

Dragonfly C1000 är en chiplet-baserad serverprocessor för agentisk AI, allmänna serverarbetslaster och så kallade AI-huvudnoder. 7 Qualcomm och Meta har dessutom offentliggjort ett samarbete över flera CPU-generationer, där produktionen av den första C1000-generationen är planerad att börja under andra halvan av 2028. 18

Det är en viktig designvinst för Qualcomm och ger bolaget en väg in i en hyperscalers serverflotta. Men avtalets räckvidd ska inte överdrivas: det bekräftar Meta som annonserad CPU-kund, men visar inte i sig att Meta kommer att köpa HBC-acceleratorer i stor skala.

Ett sådant beslut skulle fortfarande bero på prestanda, driftsäkerhet, programvarustöd, leveranser, nätverksintegration och total ägandekostnad.

Programvaran ska minska beroendet av CUDA

Hårdvara ensam räcker sannolikt inte för att rubba en etablerad AI-plattform. Nvidias försprång bygger inte bara på GPU:er, utan också på CUDA, bibliotek, verktyg, utvecklarvana och många års produktionshistorik.

Genom förvärvet av Modular får Qualcomm Mojo-programmeringsspråket och MAX-plattformen. Qualcomm säger att tekniken ska stödja generativ och agentisk AI på både datacenter- och kantenheter. 19

Den strategiska målsättningen är portabilitet: utvecklare ska kunna flytta modeller och arbetslaster mellan olika typer av processorer utan att bygga om hela programvarustacken för en enda leverantör. Modular har samtidigt drivit en öppen ekosystemlinje, och rapportering från företagets konferens 2026 uppgav att Mojo och kompilatorn har gjorts helt öppna. 46

Om strategin fungerar kan den sänka byteskostnaden för kunder som vill utvärdera Qualcomm tillsammans med Nvidia, AMD och andra acceleratorer. Men öppenhet återskapar inte automatiskt djupet i Nvidias CUDA-ekosystem. Påståenden om stora prestandavinster jämfört med inbyggda implementationer bör därför förbli preliminära tills de kan styrkas av transparenta och reproducerbara tester.

Qualcomm stärker också sin CPU-strategi genom RISC-V. Den dokumenterade affären gäller Ventana Micro Systems, inte det annorlunda namnet som förekom i den ursprungliga frågeställningen. Qualcomm säger att Ventana ska förstärka bolagets RISC-V-kompetens och ekosystemarbete. 2354

Hugging Face knyter ihop moln och kantenheter

Samarbetet med Hugging Face ska föra Hugging Faces arbetslaster till Dragonfly-system i datacenter, förenkla introduktionen av modeller och möjliggöra hybrid orkestrering mellan enheter och datacenter. 21

Det stöder Qualcomms större positionering: samma bolag vill leverera teknik till datacenter, telefoner, inbyggda system och fysisk AI.

Fördelen skulle vara en mer sammanhängande väg från molninfrastruktur till kantenheter. Utmaningen är att en bred produktportfölj bara blir ett verkligt alternativ till Nvidia om utvecklare enkelt kan distribuera riktiga modeller och operatörer får bättre ekonomi i produktion.

Qualcomm deltar i en större ombyggnad av AI-minnet

HBC är en del av en bredare industriförändring där målet inte bara är att öka HBM-bandbredden, utan att minska mängden data som måste färdas mellan minne och beräkning.

Samsung har utvecklat LPDDR5X-PIM, där logik för utvalda beräkningar placeras i lågförbrukningsminnet. I sina demonstrationer har Samsung rapporterat betydligt högre inferensgenomströmning än med konventionell LPDDR5X. Oberoende rapportering från presentationen Hot Chips beskrev 81,3 tokens per sekund jämfört med 27 tokens per sekund i den angivna jämförelsen. 313639

SK hynix angriper problemet från HBM-hållet. Företagets arbete med hybrid bonding och iHBM handlar om värme- och densitetsproblemen som uppstår när minnesstackar blir högre och bandbredden ökar. 32 Separat rapportering säger att hybrid bonding inte väntas vara redo för HBM4E, vilket kan skjuta övergången till en senare HBM-generation. 40

Samtidigt har Samsung rapporterat HBM4E-prover med upp till 3,6 TB/s bandbredd per stack och överföringshastigheter på upp till 16 Gbit/s. 41 HBM fortsätter alltså att utvecklas. HBC kommer inte att konkurrera mot en stillastående version av HBM från 2025 eller 2026, utan mot minnestekniker som också förbättras.

Det tillgängliga underlaget bekräftar däremot inte de mer specifika påståendena om Samsungs CXL-baserade MX1-enhet, DeepX:s användning eller en exakt varning från Micron om förvärrade flaskhalsar. De detaljerna bör därför inte behandlas som fastslagna i denna analys.

Vad Qualcomm måste bevisa härnäst

Qualcomms strategi har en tydlig logik:

• Börja med inferens: HBC är utformat för avkodningstunga arbetslaster där dataflytt kan dominera kostnaden per token. 29
• Integrera hela systemet: Dragonfly kombinerar acceleratorer, processorer, nätverk och kundanpassade kretsar i stället för att förlita sig på ett enda chip. 1516
• Sänk programvarutröskeln: Mojo och MAX ska göra arbetslaster mer flyttbara mellan olika hårdvaruplattformar. 1946
• Bygg kundtrovärdighet: Metas C1000-avtal ger Qualcomm en annonserad relation med en hyperscaler, med planerad produktion under andra halvan av 2028. 18
• Använd en bred distributionsmodell: Hugging Face stöder Qualcomms strategi från moln till kantenheter. 21

Riskerna är lika tydliga. HBC måste nå produktion med godtagbart utbyte och godtagbar värmeutveckling. Qualcomm måste publicera trovärdiga, arbetslastspecifika jämförelser som skiljer effektiv bandbredd från rå gränssnittsbandbredd. Kompilatorn och körmiljön måste fungera på riktiga modeller. Minnespartnerna måste kunna leverera i stor skala. Och kunderna måste anse att fördelarna motiverar ännu en plattform vid sidan av CUDA.

Slutsats

Qualcomm har tagit fram en plausibel alternativ arkitektur som riktar sig mot en av AI-infrastrukturens viktigaste begränsningar: dataflytten under inferens. HBC kan därför bli ett intressant hot mot Nvidias dominans – särskilt om bättre energieffektivitet och lägre kostnad per token kan bevisas i praktiken.

Men enligt den nuvarande färdplanen är HBC fortfarande en framtida utmanare, inte en demonstrerad ersättare till Nvidia. De viktigaste kontrollpunkterna blir den första HBC-hårdvaran 2027, C1000:s planerade produktionsstart under andra halvan av 2028 samt oberoende kundvalidering av prestanda och total ägandekostnad.