Qualcommin Nvidia-haaste rakentuu laskennan tuomisesta lähemmäs muistia

Qualcomm ei yritä haastaa Nvidiaa yhdellä uudella grafiikkasuorittimella. Yhtiö rakentaa laajempaa Dragonfly-alustaa, jonka keskiössä on tekoälyn päättelyn kallis ja paljon energiaa kuluttava ongelma: suurten mallien painojen jatkuva siirtäminen muistin ja laskentayksiköiden välillä.

Ratkaisun tärkein osa on High Bandwidth Compute (HBC). Qualcomm sijoittaa laskentapiirin pinotun LPDDR-muistin alle, jotta osa operaatioista voidaan tehdä lähempänä dataa. Yhtiön mukaan tämä voi parantaa päättelyn niin sanottua tehokasta muistikaistaa, viiveitä sekä tuotettujen tokenien määrää wattia kohden. Todellinen kilpailukyky selviää kuitenkin vasta tuotantolaitteistolla, riippumattomissa testeissä ja asiakkaiden käyttöönottojen myötä.

HBC tähtää päättelyn muistipullonkaulaan

Autoregressiivisessä päättelyssä kielimalli lukee mallin dataa muistista uudelleen jokaisen uuden tokenin tuottamista varten. Siksi muistin käyttö, datan siirtämiseen kuluva energia ja viive voivat rajoittaa palvelun kustannustehokkuutta enemmän kuin laskentateho itsessään.

Qualcommin HBC-arkkitehtuurissa laskentapiiri liitetään pinotun LPDDR-muistin alle. Kerrokset yhdistetään tiheillä piin läpäisevillä TSV-läpivienneillä (through-silicon vias), jolloin valittuja operaatioita voidaan käsitellä paketissa ilman, että kaikkea dataa tarvitsee siirtää erilliselle pääprosessorille. 245

Tämä ero on tärkeä. Qualcomm ei yksinkertaisesti väitä, että LPDDR:n perinteinen huippukaista olisi suurempi kuin jokaisen HBM-järjestelmän. Yhtiön väite koskee ennen kaikkea tehokasta kaistaa: kun laskenta tuodaan datan luo, sopivissa päättelykuormissa voidaan vähentää muistin ja pääprosessorin välistä liikennettä. 29

Qualcommin mukaan HBC:n ensimmäiseen sukupolveen perustuva Dragonfly AI250 on suunniteltu tarjoamaan 133 teratavua sekunnissa tehokasta muistikaistaa korttia kohti. Yhtiö ilmoittaa tämän olevan 18-kertainen parannus AI200:aan verrattuna, kun vertailukohtana on LPDDR5X. 4 Eräissä raporteissa on lisäksi nostettu esiin Qualcommin väite jopa kuusinkertaisesta kaistasta wattia kohti nykyisiin HBM-toteutuksiin nähden. 813

Lukuja on kuitenkin tulkittava varoen. Korttitason, räkkitason ja yksittäisen HBM-pinon kaistat eivät ole sama mittari. Satojen teratavujen sekuntinopeuden vertaaminen yhteen HBM-lukuun ei ole suora, vertailukelpoinen suorituskykytesti. Toistaiseksi Qualcommin luvut onkin järkevintä nähdä arkkitehtuuri- ja suorituskyky-per-watti -väitteinä, kunnes riippumattomia tokenien tuottonopeuden vertailuja on saatavilla.

Samsung ja SK hynix tuovat mukaan valmistusriskin

Qualcomm suunnittelee laskentakerroksen ja vastaa järjestelmän integroinnista. Samsung Electronicsin ja SK hynixin on puolestaan raportoitu liittyvän HBC-hankkeeseen muistikumppaneina. Raportoidussa työnjaossa muistipiirien pinoaminen olisi suurelta osin näiden valmistajien vastuulla, ja kehittyneellä paketoinnilla olisi ratkaiseva rooli kokonaisuudessa. 15

HBC on siis yhtä paljon paketointi- ja valmistusteknologian kuin suoritinsuunnittelun hanke. Kaupallinen onnistuminen riippuu muun muassa muistien hyväksynnästä, 3D-kokoonpanon saannosta, lämmönhallinnasta, testauksesta ja siitä, pystytäänkö järjestelmiä valmistamaan riittävä määrä kohtuukustannuksin.

Qualcommin ilmoittaman etenemissuunnitelman mukaan ensimmäinen HBC-sukupolvi kaupallistetaan vuonna 2027 ja toinen vuonna 2028. 14 Kyse on siten usean tuotesukupolven alustasiirtymästä, ei Nvidian datakeskuksiin jo asennetun laitekannan välittömästä korvaajasta.

Dragonfly on enemmän kuin kiihdytin

Qualcomm asemoi Dragonflyn kokonaiseksi datakeskusportfolioksi. Siihen kuuluvat tekoälyn päättelyjärjestelmät, HBC, Dragonfly C1000 -palvelinsuoritin, verkkoratkaisut ja räätälöityjen piirien palvelut. 1516

C1000 on sirumoduuleihin perustuva palvelinprosessori, joka on suunniteltu agenttimaiseen tekoälyyn, yleiskäyttöisiin kuormiin ja tekoälyjärjestelmien niin sanottuihin head node -solmuihin. 7 Qualcomm ja Meta ovat ilmoittaneet usean sukupolven suoritinyhteistyöstä, ja ensimmäisen sukupolven C1000:n tuotannon on määrä alkaa vuoden 2028 jälkipuoliskolla. 18

Metan kanssa solmittu yhteistyö on Qualcommille tärkeä uskottavuussignaali: se antaa yhtiölle ilmoitetun suoritinasiakkaan ja väylän suuren pilvipalvelutoimijan palvelinkantaan. Se ei kuitenkaan yksin osoita, että Meta ottaisi HBC-kiihdyttimet laajasti käyttöön. Päätös riippuu edelleen suorituskyvystä, luotettavuudesta, ohjelmistotuesta, saatavuudesta, verkotuksesta ja kokonaiskustannuksista.

Ohjelmisto on vastaus CUDA-riippuvuuteen

Pelkkä laitteisto ei todennäköisesti riitä horjuttamaan vakiintunutta tekoälyalustaa. Qualcomm sai Modular-yrityskaupan myötä Mojo-ohjelmointikielen ja MAX-ohjelmistoalustan osaksi strategiaansa. Yhtiön tavoitteena on tukea generatiivista ja agenttimaista tekoälyä sekä datakeskuksissa että reunalaitteissa. 19

Strategian ydin on siirrettävyys: kehittäjien pitäisi voida ajaa malleja ja kuormia erilaisilla suorittimilla ilman, että koko ohjelmistopinoa rakennetaan uudelleen yhden valmistajan ympärille. Modularin ja Qualcommin yhteydessä on myös korostettu avointa ekosysteemiä, ja vuoden 2026 konferenssista raportoineen Forbesin mukaan Mojo sekä sen kääntäjä avattiin kokonaan lähdekoodiksi. 46

Tämä voisi pienentää asiakkaiden vaihtokustannuksia, kun Qualcomm-laitteistoa arvioidaan Nvidian, AMD:n ja muiden kiihdyttimien rinnalla. Se ei kuitenkaan automaattisesti synnytä Nvidian CUDAn ympärille rakentunutta kirjastojen, työkalujen, kehittäjäosaamisen ja tuotantohistorian kokonaisuutta. Myös väitteet suurista suorituskykyparannuksista alkuperäisiin toteutuksiin nähden on syytä pitää alustavina, ellei niitä tueta avoimilla ja toistettavilla testeillä.

Qualcommin RISC-V-strategia täydentää kokonaisuutta. Lähteissä mainittu yritysosto on Ventana Micro Systems, ei alkuperäisessä tutkimuskysymyksessä mainittu samanniminen toinen yritys. Qualcommin mukaan Ventana vahvistaa sen RISC-V-suunnittelua ja ekosysteemityötä. 2354

Hugging Face laajentaa pilvestä reunalaitteisiin ulottuvaa tarinaa

Qualcommin ja Hugging Facen kumppanuuden tavoitteena on tuoda Hugging Facen omia ja kehittäjien kuormia Dragonfly-datakeskusjärjestelmiin, helpottaa mallien käyttöönottoa ja mahdollistaa tekoälykuormien hybridiohjaus laitteiden ja datakeskusten välillä. 21

Tämä tukee Qualcommin laajempaa asemoitumista: sama yhtiö haluaa palvella datakeskuksia, puhelimia, sulautettuja järjestelmiä ja fyysistä tekoälyä. Onnistuessaan strategia voisi tarjota yhtenäisemmän siirtymäpolun pilvi-infrastruktuurista reunalaitteisiin. Haaste on siinä, että laaja tuotevalikoima ei vielä tee Qualcommin alustasta merkittävää Nvidia-vaihtoehtoa. Kehittäjien on pystyttävä julkaisemaan todellisia malleja helposti, ja operaattoreiden on saatava tuotannossa parempi talous.

HBC liittyy laajempaan muistien uudistumiseen

Qualcommin ratkaisu on osa teollisuuden laajempaa pyrkimystä vähentää muistin ja laskennan välillä siirrettävän datan määrää.

Samsungin LPDDR5X-PIM lisää vähävirtaiseen DRAM-muistiin laskentalogiikkaa, jotta tietyt operaatiot voidaan tehdä lähempänä tallennettua dataa. Samsung on raportoinut esittelyissään tavanomaiseen LPDDR5X-muistiin verrattuna suurempaa päättelynopeutta. Hot Chips -esitystä käsitelleissä raporteissa vertailuksi ilmoitettiin 81,3 tokenia sekunnissa, kun tavanomainen LPDDR5X saavutti 27 tokenia sekunnissa. 313639

SK hynix lähestyy ongelmaa HBM:n suunnasta. Sen hybrid bonding- ja iHBM-työ liittyy lämpöön ja tiheyteen, jotka vaikeutuvat muistipinojen kasvaessa korkeammiksi ja kaistojen levennettäessä. 32 Erillisen raportoinnin mukaan yhtiö ei odota hybrid bondingin olevan valmis HBM4E:hen, mikä voisi siirtää tekniikan myöhempään HBM-sukupolveen. 40

Samsung on puolestaan raportoinut HBM4E-näytteistä, joiden kaista on enintään 3,6 teratavua sekunnissa pinolta ja nastanopeus enintään 16 gigabittiä sekunnissa. 41 Tämä kehitys on olennainen muistutus siitä, että HBC ei kilpaile vuoden 2025 tai 2026 paikalleen pysähtynyttä HBM:ää vastaan. Myös HBM kehittyy samanaikaisesti.

Saatavilla oleva näyttö ei vahvista tarkempia väitteitä Samsungin CXL-pohjaisesta MX1-laitteesta, DeepX:n käyttöönotosta tai Micronin täsmällisestä varoituksesta pullonkaulojen pahenemisesta. Näitä yksityiskohtia ei siksi pidä käsitellä tässä analyysissä varmistettuina.

Mitä Qualcommin on seuraavaksi todistettava?

Qualcommin strategiassa on selkeä logiikka:

• Päättely ensin: HBC on suunniteltu dekoodauspainotteisiin kuormiin, joissa datan siirtäminen voi hallita tokenien kustannuksia. 29
• Koko järjestelmä: Dragonfly yhdistää kiihdyttimet, suorittimet, verkot ja räätälöidyn piisuunnittelun yhden sirun sijaan. 1516
• Matalammat ohjelmistokynnykset: Mojo ja MAX pyrkivät tekemään kuormista siirrettäviä eri laitealustojen välillä. 1946
• Asiakasuskottavuus: Metan C1000-sopimus on ilmoitettu hyperskaalaajatason suoritinyhteistyö, jonka tuotannon on määrä alkaa vuoden 2028 jälkipuoliskolla. 18
• Laaja käyttöönotto: Hugging Face tukee Qualcommin pilvestä reunalaitteisiin ulottuvaa mallia. 21

Riskit ovat yhtä selvät. HBC:n on päästävä tuotantoon hyväksyttävillä saannoilla ja lämpöominaisuuksilla. Qualcommin on julkaistava uskottavia, kuormakohtaisia vertailuja, joissa tehokas kaista erotetaan raakasta liitäntäkaistasta. Kääntäjän ja ajonaikaisen ohjelmistopinon on tuettava oikeita malleja luotettavasti. Muistikumppaneiden on pystyttävä toimittamaan teknologiaa mittakaavassa. Lisäksi asiakkaiden on katsottava hyödyt niin suuriksi, että uuden alustan käyttöönotto kannattaa CUDA-ympäristön rinnalle.

Lopputulos: Qualcomm on suunnitellut uskottavan vaihtoehtoisen arkkitehtuurin, joka kohdistuu yhteen tekoälyinfrastruktuurin tärkeimmistä rajoitteista: päättelyn muistiliikenteeseen. Nykyisen etenemissuunnitelman perusteella HBC on kuitenkin vasta tuleva haaste, ei osoitettu Nvidian syrjäyttäjä. Ratkaisevat tarkistuspisteet ovat ensimmäinen HBC-laitteisto vuonna 2027, C1000:n suunniteltu tuotannon aloitus vuoden 2028 jälkipuoliskolla sekä riippumattomat asiakasnäytöt suorituskyvystä ja kokonaiskustannuksista.