Dat verkort de afstand die gegevens tussen geheugen en AI-accelerator moeten afleggen aanzienlijk . In theorie kan daardoor meer data sneller worden verplaatst, met minder energieverlies door communicatie tussen afzonderlijke onderdelen.
Samsung noemt de volgende mogelijke voordelen:
Die laatste nuance is belangrijk. De genoemde prestatiecijfers zijn verwachtingen van Samsung voor een toekomstige interface op basis van zHBM, niet resultaten van een commercieel verkrijgbaar product.
Samsung toonde daarnaast zNAND-O, een conceptarchitectuur die is bedoeld voor AI-inferentie aan de rand van het netwerk, bijvoorbeeld dichter bij apparaten of lokale systemen .
De meest concrete Samsung-aankondiging was V10 BV-NAND, waarbij BV staat voor Bonding V-NAND. De architectuur maakt gebruik van wafer bonding: het geheugencelgedeelte en de perifere logica worden afzonderlijk geproduceerd en daarna met elkaar verbonden .
De belangrijkste specificaties:
Waar zHBM dus vooral een blik op de toekomst biedt, is V10 BV-NAND de technologie die Samsung nu al naar productie brengt. Meer lagen leveren niet alleen extra capaciteit op; de architectuur moet ook de lees-, schrijf- en I/O-prestaties verbeteren .
SK hynix en SanDisk kondigden op FMS 2026 de eerste open technische specificatie aan voor High Bandwidth Flash (HBF). De standaard is gepubliceerd via het Open Compute Project (OCP), een samenwerkingsverband dat open standaarden en ontwerpen voor datacenters stimuleert .
De eerste specificatie ondersteunt:
HBF is bedoeld als een tussenniveau tussen zeer snel maar relatief beperkt HBM en conventionele NVMe-ssd's. Voor AI-inferentie kan zo'n extra laag interessant zijn: veelgebruikte modeldata en context kunnen dichter bij de rekenchips worden gebracht zonder dat alle capaciteit in het duurdere HBM hoeft te zitten .
Ook Google DeepMind en Tenstorrent hebben zich bij de HBF-alliantie aangesloten . Die deelname geeft de standaard niet automatisch succes, maar laat wel zien dat zowel clouddiensten als ontwikkelaars van AI-processors belangstelling hebben voor alternatieven naast HBM.
De belangrijkste conclusie van de presentaties en panelgesprekken was dat HBM alleen de groei van AI niet kan opvangen. AI-systemen hebben niet één soort geheugen nodig, maar een combinatie van lagen met verschillende eigenschappen.
Een toekomstig systeem kan bijvoorbeeld bestaan uit:
Verschillende presentaties benadrukten dat zo'n hiërarchische geheugenstructuur centraal zal staan in toekomstige AI-infrastructuur . Marvell richtte zich bijvoorbeeld expliciet op infrastructuur voor zogenoemde agentic AI-inferentie, waarbij een bredere combinatie van geheugen en opslag nodig is dan alleen HBM .
De inzet is hoog. Naarmate AI-modellen meer context verwerken en langer actief blijven, ontstaat er druk op zowel bandbreedte als capaciteit. De oplossing ligt daarom niet uitsluitend in sneller HBM, maar ook in het slimmer verdelen van data over meerdere niveaus.
Twee beweringen uit de oorspronkelijke vraag konden niet worden bevestigd in de beschikbare, gepubliceerde verslaggeving over FMS 2026.
De eerste is de vermeende voorspelling van Nvidia dat het aantal AI-agenten uiteindelijk groter wordt dan de wereldbevolking en dat de prijs van geheugen daardoor verschuift van kosten per gigabyte naar kosten per I/O-bewerking. De tweede is de claim dat Samsung, SK hynix en Micron hun volledige DRAM- en HBM-productie voor 2027 al hebben uitverkocht, waarbij klanten slechts 60 tot 70% van hun bestelde volumes zouden ontvangen.
Deze uitspraken kunnen tijdens een keynote of panel zijn gedaan dat nog niet in de geïndexeerde bronnen is vastgelegd. Op basis van de beschikbare bronnen zijn ze echter niet geverifieerd en moeten ze niet als vaststaande feiten worden gepresenteerd.
De conferentie leverde drie goed onderbouwde ontwikkelingen op: Samsung werkt aan een verticale HBM-architectuur, brengt 400+-laagse wafer-bonded NAND naar massaproductie en SK hynix en SanDisk proberen met HBF een nieuwe, open geheugencategorie voor AI-inferentie te creëren.
De gezamenlijke richting is helder: de AI-geheugenstack wordt groter, gelaagder en gespecialiseerder. HBM blijft belangrijk voor maximale snelheid, maar de toekomst van AI-infrastructuur zal waarschijnlijk ook afhangen van flashgeheugen, CXL en snelle opslag die de druk op de duurste geheugenniveaus verlichten.