Volgens Mehrotra heeft de opmars van AI-computing, met name grote taalmodellen en inferentietaken, de vraag naar geheugen sterk doen stijgen. AI-servers hebben veel grotere geheugenpools nodig dan traditionele computersystemen, waardoor geheugen een kritieke bottleneck wordt in de infrastructuur van datacenters.
In veel gevallen vormen niet alleen GPU's de beperkende factor, maar ook het geheugen dat nodig is om ze te voeden. Terwijl hyperscalers (grote cloudproviders zoals Microsoft en Amazon) massale AI-clusters bouwen, kopen ze miljoenen versnellers die elk een grote hoeveelheid DRAM en gespecialiseerd geheugen nodig hebben om efficiënt te werken.
Topmannen van Micron geven aan dat het bedrijf momenteel slechts ongeveer 50 tot tweederde van de vraag van enkele belangrijke klanten kan leveren, wat de omvang van de kloof tussen vraag en aanbod onderstreept.
Een van de grootste aanjagers van het tekort is high-bandwidth memory (HBM) — het geavanceerde geheugen dat wordt gestapeld met GPU's voor AI-training en -inferentie.
HBM-chips zijn aanzienlijk complexer om te produceren dan conventioneel DRAM. Ze vereisen:
Door deze vereisten verbruikt de productie van HBM meer productiemiddelen dan standaard geheugenchips. Doordat leveranciers prioriteit geven aan deze hoogwaardige AI-producten, blijft er minder capaciteit over voor conventioneel DRAM dat wordt gebruikt in pc's, smartphones en andere apparaten.
Het resultaat is dat het hele geheugen-ecosysteem krapper wordt. Sommige rapporten geven aan dat de toekomstige HBM-productie al jaren van tevoren grotendeels is vastgelegd door grote AI-klanten.
Hoewel chipproducenten miljarden investeren om de productie uit te breiden, zijn de doorlooptijden in de halfgeleiderindustrie extreem lang.
Het bouwen van een nieuwe geavanceerde geheugenfabriek omvat verschillende fasen:
Door dit proces duurt het doorgaans enkele jaren voordat nieuwe fabrieken die nu worden gebouwd, “zinvolle output” leveren die de wereldwijde voorraad beïnvloedt. Volgens berichtgeving rondom Micron is dit effect waarschijnlijk niet voor ongeveer 2027–2028 te verwachten.
Om de langetermijnvraag naar geheugen aan te pakken, heeft Micron een grootschalig uitbreidingsplan in de Verenigde Staten aangekondigd.
Het bedrijf is van plan om ongeveer 200 miljard dollar te investeren in halfgeleiderproductie en -onderzoek, waarvan ongeveer 150 miljard dollar voor binnenlandse geheugenproductie en 50 miljard dollar voor R&D.
De uitbreiding omvat:
Het project in New York zou alleen al het grootste halfgeleiderproductiecomplex in de Verenigde Staten kunnen worden.
Maar ook deze projecten hebben tijd nodig om de wereldwijde voorraad te beïnvloeden. De eerste nieuwe fabriek van Micron in Idaho zal naar verwachting rond 2027 in bedrijf komen, met verdere capaciteitsuitbreidingen die later volgen.
Microns vooruitzichten worden breed gedragen in de geheugenindustrie. Zowel Samsung als SK Hynix hebben gewaarschuwd dat de vraag naar AI-gerelateerd geheugen sneller stijgt dan het aanbod, en dat tekorten waarschijnlijk tot ten minste 2027 zullen aanhouden.
Sommige leiders in de sector zeggen dat het tekort nog langer kan duren, omdat de bouw van AI-datacenters wereldwijd versnelt en fabrikanten moeite hebben om snel voldoende wafercapaciteit toe te voegen.
De verschuiving naar AI-gerichte geheugenproductie heeft nu al gevolgen voor andere sectoren van de elektronica-markt.
Omdat fabrikanten prioriteit geven aan hoogwaardig AI-geheugen, krijgen bedrijven die pc's, smartphones en andere consumentenapparaten produceren te maken met een krapper aanbod en hogere componentkosten.
Stijgende geheugenprijzen en beperkte beschikbaarheid kunnen de marges van elektronica-fabrikanten onder druk zetten en in de komende jaren bijdragen aan hogere prijzen voor eindgebruikersapparaten.
De belangrijkste boodschap van Microns leiding is dat het huidige tekort niet zomaar een nieuwe cyclische dip in het halfgeleideraanbod is.
In plaats daarvan heeft de snelle uitbreiding van AI-computing het vraagprofiel voor geheugen fundamenteel veranderd. Met nieuwe fabrieken die jaren nodig hebben om te voltooien en AI-workloads die veel meer DRAM en HBM vereisen dan eerdere computermodellen, kan de industrie tot laat in dit decennium aanbodbeperkt blijven.
Voor nu betreedt de wereldwijde geheugenmarkt wat veel analisten omschrijven als een meerjarige, door AI aangestuurde supercyclus — een cyclus waarin de vraaggroei het aanbod nog tot ver in de late jaren '20 kan overtreffen.