Tavoite on vähentää matkaa, jonka data joutuu kulkemaan muistin ja laskentayksiköiden välillä. Lyhyempi yhteys voi kasvattaa kaistanleveyttä ja pienentää tiedonsiirron energiankulutusta .
Samsungin esittämät arviot ovat kunnianhimoisia:
Lukujen yhteydessä on kuitenkin tärkeää huomata yksi olennainen rajaus: zHBM on tässä vaiheessa konseptimalli, ei tuotannossa oleva valmis tuote . Kahdeksankertainen suorituskykylupaus kertoo siis ennen kaikkea Samsungin suunnasta ja tavoitteista, ei vielä kuluttajien tai datakeskusten saatavilla olevasta laitteesta.
Samsung esitteli samalla myös zNAND-O-konseptin, joka on suunnattu reunalaskennan tekoälypäättelyyn eli tilanteisiin, joissa tekoälymallia ajetaan lähellä käyttäjää tai datan syntypaikkaa .
Samsungin toinen merkittävä ilmoitus oli V10 BV-NAND. Nimi tulee sanoista Bonding V-NAND: muistisolujen muodostama rakenne ja oheislogiikka valmistetaan erillisinä kokonaisuuksina, minkä jälkeen piikiekot liitetään yhteen wafer bonding -tekniikalla .
Samsung ilmoitti rakenteessa olevan yli 400 aktiivista kerrosta, mikä on suurin yhtiön tähän mennessä ilmoittama kerrosmäärä V-NAND-tuoteperheessä .
Keskeiset luvut ovat:
NAND-flash ei korvaa HBM-muistia kaikissa tehtävissä. Sen vahvuus on suurempi kapasiteetti ja parempi kustannustehokkuus, kun taas HBM on suunniteltu erittäin nopeaan tiedonsiirtoon. Juuri näiden ominaisuuksien yhdistäminen on nousemassa tekoälyinfrastruktuurin keskeiseksi kysymykseksi.
SK hynix ja SanDisk julkaisivat FMS 2026 -tapahtumassa ensimmäisen High Bandwidth Flash- eli HBF-standardin. Tekniset määritykset julkaistiin Open Compute Projectin, lyhyesti OCP:n, kautta .
HBF:n idea on sijoittaa nopea NAND-flash-muisti perinteisen HBM:n ja tavanomaisen NVMe-SSD-tallennuksen väliin. Tällainen kerros voisi tarjota tekoälypäättelylle lisää kapasiteettia ilman, että kaikkea dataa täytyy pitää kalliin ja rajallisen HBM-muistin piirissä .
Ensimmäinen standardi määrittelee muun muassa:
HBF:n taustalla olevaan ekosysteemiin ovat liittyneet myös Google DeepMind ja Tenstorrent . Avoin standardi voi helpottaa eri valmistajien laitteiden yhteensopivuutta, mutta sen todellinen vaikutus riippuu siitä, kuinka laajasti palvelin-, prosessori- ja ohjelmistovalmistajat ottavat sen käyttöön.
Tapahtuman esityksissä ja paneeleissa toistui ajatus, ettei HBM yksin pysty vastaamaan tekoälyn kasvavaan muisti- ja datansiirtotarpeeseen. Tulevaisuuden järjestelmät rakentuvat todennäköisesti hierarkkisesta muistista, jossa eri teknologiat hoitavat eri tehtäviä.
Mahdollinen kokonaisuus voisi sisältää:
Marvellin FMS-esityksissä painotettiin vastaavasti agenttimaiseen tekoälypäättelyyn tarvittavaa monipuolista muisti- ja tallennusvalikoimaa, joka ulottuu HBM:n ulkopuolelle .
Käytännössä tämä tarkoittaa, että tulevaisuuden tekoälypalvelin ei välttämättä ratkaise muistiongelmaa vain hankkimalla lisää HBM:ää. Sen sijaan dataa siirretään eri muistikerrosten välillä sen mukaan, kuinka nopeasti sitä tarvitaan, kuinka paljon sitä on ja paljonko sen käsittely kuluttaa energiaa.
FMS 2026:een liitetyissä väitteissä esitettiin myös, että Nvidia olisi ennustanut tekoälyagenttien määrän ylittävän maailman väkiluvun ja että muistin hinnoittelu siirtyisi gigatavuhinnasta I/O-operaation hintaan. Tätä väitettä ei voitu vahvistaa tapahtumasta julkaistuista lähteistä.
Samoin väitteelle, jonka mukaan Samsung, SK hynix ja Micron olisivat myyneet koko vuoden 2027 DRAM- ja HBM-tuotantokapasiteettinsa ja asiakkaat saisivat vain 60–70 prosenttia tilaamistaan määristä, ei löytynyt vahvistusta käytettävissä olevista FMS 2026 -lähteistä.
Väitteet ovat voineet olla peräisin esityksestä tai paneelista, jota ei ole vielä dokumentoitu indeksoiduissa julkaisuissa. Niitä ei kuitenkaan pidä esittää varmistettuina tapahtumatietoina.
Tapahtuman varmistetut ilmoitukset muodostavat kokonaisuuden, jossa tekoälyn muistia kehitetään kolmella rintamalla: muistia tuodaan lähemmäs laskentaa, NAND-rakenteita kasvatetaan pystysuunnassa ja eri muistityypeille rakennetaan uusia välikerroksia.
Samsungin zHBM näyttää, miltä erittäin tiiviisti integroitu tulevaisuus voisi näyttää. V10 BV-NAND on konkreettinen osoitus siitä, että yli 400 kerroksen flash-rakenteet ovat siirtymässä kaupalliseen tuotantoon. HBF puolestaan pyrkii tekemään nopeasta, kapasiteettipainotteisesta flash-muistista yhteensopivan osan tekoälyjärjestelmien muistihierarkiaa.
Suurin muutos ei ehkä ole yksittäinen ennätysluku, vaan se, että tekoälyinfrastruktuurin muistia suunnitellaan jatkossa kokonaisena järjestelmänä — ei vain yhden HBM-tuotteen ympärille.