Räätälöity MI450-pohjainen kiihdytin ei ole tuote, jota voi ostaa avoimilta markkinoilta. Se on yhteissuunniteltu variantti, joka on tarkoitettu nimenomaan Metan sisäisiä työkuormia varten. SemiAnalysisin mukaan piiri käyttää AMD:n chiplet-arkkitehtuuria luodakseen version, jossa laskenta- ja muistiresursseja on vähennetty merkittävästi, ja se on viritetty erityisesti suosittelujärjestelmien vaatimaan muistikaistan hintasuhteeseen .
Metan perustelu, kuten raportoidaan, on optimoida CPU:n ja GPU:n laskentasuhdetta (compute ratio) telinejärjestelmässä (rack level) ja parantaa muistikaistan kustannustehokkuutta sen RecSys (suosittelujärjestelmä) -työkuormille, jotka suorittavat miljardeja päättelyjä päivässä .
| Ominaisuus | Vakio AMD Instinct MI455X | Metan räätälöity variantti | Ero |
|---|---|---|---|
| Laskentachipletit | 8 (TSMC N2 -prosessilla) | 4 | 50 % vähemmän |
| HBM4-pinot ja kokonaismuisti | 12 × 36 Gt (12‑Hi) = 432 Gt | 6 × 24 Gt (8‑Hi) = 144 Gt | ~67 % vähemmän muistia |
| Kokonaismuistikaista | ~19,6 TB/s | Vähennetty suhteellisesti | Merkittävästi alhaisempi |
Vakio Instinct MI455X, joka toimii AMD:n Helios-telinejärjestelmässä, on suunnittelun lippulaiva, joka on rakennettu CDNA 5 -arkkitehtuurille. Se käyttää 8 laskentasirua TSMC:n N2 (2 nm) -prosessilla ja 12 HBM4 12-Hi -pinoa tarjoten 432 Gt muistia . Metan räätälöity versio puolittaa laskentaytimien määrän – neljään – ja pudottaa 6 HBM4 8-Hi -pinoon, mikä tuottaa vain 144 Gt muistia . Tämä on käytännössä puolet laskentatehosta ja kolmasosa täysimittaisen MI455X:n muistikaistasta.
Koska piiri käyttää vähemmän siruja ja HBM-pinoja, Metan variantti on myös fyysisesti pienempi, kuluttaa vähemmän virtaa ja vaatii vähemmän pakkausmonimutkaisuutta, mikä vähentää kustannuksia kiihdytintä kohti .
SemiAnalysis esitti useita ankaria kritiikkejä Metan päätöksestä:
Keskeinen valitus on, että karsimalla piiriä Meta uhraa monipuolisuuden ja tulevaisuuden varautumisen kapean lyhyen aikavälin kustannusoptimoinnin vuoksi, mikä saattaa lukita sen pois tehokkaammasta laitteistosta, jota tarvitaan huippuluokan tekoälytyökuormiin .
Kaikki eivät ole samaa mieltä. Jotkut puolustavat lähestymistapaa huomauttamalla, että suosittelujärjestelmät eivät tarvitse huippuluokan LLM-kapasiteettia. Tarvitaan kaistanleveyttä per dollari tehtävässä, jota suoritetaan miljardeja kertoja päivässä, mikä tekee karsitusta piiristä rationaalisen erikoistumisen eikä virheen .
Räätälöity ”Half-MI450” on tämän jättisopimuksen ensimmäinen konkreettinen tuoteilmentymä: piiri, joka on räätälöity erityisesti Metan suosituspäättelyn tarpeisiin, suunniteltu maksimoimaan kustannus- ja tehotehokkuus päätelmää kohti massiivisessa telinekohtaisessa mittakaavassa – aivan kuten 60 miljardin dollarin kumppanuus oli rakennettu mahdollistamaan .