Tämä muutos lisää dramaattisesti muistin tarvetta palvelinta kohden. Kun hypermittakaavaiset toimijat rakentavat tekoälyn infrastruktuuria, sekä palvelinten toimitukset että muistin määrä jokaisessa palvelimessa kasvavat.
Alan analyytikot arvioivat, että tekoälyyn liittyvät työkuormat voivat kuluttaa lähes 20 % maailmanlaajuisesta DRAM-piirilevytuotannosta, kun huomioon otetaan HBM ja muut korkean suorituskyvyn muistituotteet.
Samaan aikaan suurimmat ostajat – pilvipalveluntarjoajat ja tekoäly-yritykset – solmivat pitkäaikaisia toimitusopimuksia varmistaakseen pääsyn näihin siruihin. Tämä keskittää tarjonnan datakeskusinfrastruktuuriin ja jättää muut teollisuudenalat kilpailemaan jäljelle jäävästä.
Markkinatutkijat kuvaavat tilannetta yhä useammin rakenteelliseksi tarjontaepätasapainoksi, ei väliaikaiseksi sykliksi.
Toimittajien varastot ovat jo laskeneet alhaisiksi, ja DRAMin sopimushinnat ovat nousseet, kun kysyntä ylittää uuden kapasiteetin lisäykset.
Palvelintason muistista on tullut koko DRAM-markkinoiden hinnoittelun pääajuri. Vahva pilvi-investointien painotus tekoälyyn tarkoittaa, että valmistajat voivat priorisoida korkeamman katteen palvelintuotteita ja käyttää vahvempaa hinnoitteluvoimaa.
Ennusteiden mukaan tarjonnan kasvu ei pysy kysynnän perässä seuraavien vuosien aikana. Joidenkin arvioiden mukaan maailmanlaajuisen DRAM-tuotannon pitäisi kasvaa noin 12 % vuosittain vuoteen 2027 mennessä kysynnän tyydyttämiseksi, kun nykyiset laajennussuunnitelmat ovat lähempänä 7–8 prosenttia, mikä jättää pysyvän vajeen.
Tekoälyn infrastruktuuri on muistipulan keskus.
Hypermittakaavaiset pilvipalveluntarjoajat – mukaan lukien suuria tekoälyalustoja pyörittävät – ottavat käyttöön uusia klustereita, jotka on rakennettu kehittyneiden GPU:iden ja omien kiihdyttimien ympärille. Nämä järjestelmät vaativat suuria määriä HBM-muistia ja suurikapasiteettista DDR5-muistia harjoitus- ja päättelytyökuormien syöttämiseen.
Tämän seurauksena muistintoimittajat siirtävät edistynyttä tuotantokapasiteettia palvelimen DRAMiin ja HBM-muistiin. Tämä uudelleenohjaus tarkoittaa, että vähemmän siruja on saatavilla älypuhelimiin, tietokoneisiin ja muihin kuluttajalaitteisiin.
Alan johtajat ovat varoittaneet, että monet muistituotteet voivat pysyä niukasti saatavilla vuoteen 2027 asti, kun tekoälyn kysyntä jatkaa kasvuaan.
Pula on näkyvin datakeskuksissa, mutta kuluttajateknologia tuntee myös sen vaikutukset.
Koska valmistajat priorisoivat kannattavampia tekoälyyn keskittyviä siruja, mobiili- ja PC-muistin tarjonta on kiristynyt. Älypuhelinmerkit ja laitevalmistajat vastaavat konservatiivisemmilla hankintastrategioilla ja kohtaavat korkeampia komponenttikustannuksia.
Tulos ei ole välttämättä välitön vähittäishintojen nousu jokaiselle laitteelle, vaan pikemminkin korkeammat materiaalikustannukset ja paine katteisiin. Ajan myötä nämä kustannukset voivat näkyä kalliimpina älypuhelimina, kannettavina ja muuna elektroniikkana.
Lyhyesti sanottuna kuluttajaelektroniikka ei aiheuta pulaa – mutta se on yhä alttiimpi sille.
Maailman kolme hallitsevaa muistivalmistajaa – Samsung Electronics, SK hynix ja Micron Technology – investoivat raskaasti laajentaakseen kapasiteettia ja hyötyäkseen tekoälyn muistibuumista.
Esimerkkejä ovat:
Nämä hankkeet on suunniteltu lisäämään edistyneen DRAMin ja suuren kaistanleveyden muistin tuotantoa. Puolijohdetehtaiden rakentaminen, varustelu ja täyteen tuotantoon saattaminen vie kuitenkin vuosia, joten ne eivät pysty nopeasti ratkaisemaan lähiajan pulaa.
Kiinan nousevat muistivalmistajat – erityisesti ChangXin Memory Technologies (CXMT) – laajentavat nopeasti ja voivat auttaa helpottamaan pulaa tietyillä alueilla.
CXMT on jo esitellyt uudempia DRAM-teknologioita, kuten DDR5 ja LPDDR5X, mikä kertoo edistymisestä kohti kilpailua vakiintuneiden toimittajien kanssa.
Kiinalaisyritykset myös laajentavat valmistuskapasiteettia tavoitteenaan saada suurempi osuus globaaleista DRAM-markkinoista kysynnän pysyessä korkeana.
Niiden vaikutus on kuitenkin todennäköisesti epätasainen:
Toistaiseksi tekoälyn infrastruktuurin akuutein pullonkaula on edelleen edistynyt muisti- ja pakkauskapasiteetti, ei pelkkä tavanomainen DRAM.
Tekoälybuumi muokkaa maailmanlaajuisia muistimarkkinoita perustavanlaatuisesti. Datakeskukset ovat nyt edistyneiden muistipiirien hallitsevia kuluttajia, mikä vetää tarjontaa kohti HBM:ää ja palvelin-DRAMia ja poispäin perinteisistä kuluttajakäytöistä.
Vaikka alan suurimmat valmistajat investoivat aggressiivisesti ja Kiinasta tulee uutta kilpailua, analyytikot odottavat laajalti tiukan tarjonnan ja kohonneiden muistinhintojen jatkuvan vähintään vuoteen 2027.
Teknologiateollisuudelle tämä tarkoittaa uutta todellisuutta: muisti – joka oli aiemmin syklinen hyödyke – on nyt yksi strategisimmista resursseista tekoälyn aikakaudella.