Intel EMIB-T vastaan TSMC CoWoS: tekoälypiirien uusi pakkausvaihtoehto ottaa muotoaan

Tekoälypiirien toimitusketjun ongelma ei enää rajoitu kehittyneimpien piikiekkojen tai HBM-muistin saatavuuteen. Yhä useammin ratkaiseva pullonkaula on se, miten laskentapiirit, sirupalat ja nopea muistikerros yhdistetään samaan pakettiin.

TSMC:n CoWoS on edelleen alan vakiintunut ratkaisu suurille GPU- ja HBM-kokonaisuuksille. Sen kapasiteetti on kuitenkin varattu pitkälle eteenpäin. Intel pyrkii hyödyntämään tätä painetta nostamalla EMIB-T:n toiseksi vaihtoehdoksi – etenkin räätälöidyissä tekoäly-ASIC-piireissä ja malleissa, joissa suuri pakettikoko, kustannukset tai toimitusvarmuus painavat enemmän kuin suurin mahdollinen liitäntätiheys.

Oleellinen viesti on, ettei Intel markkinoi EMIB-T:tä yleispätevänä, suoraan paikalleen vaihdettavana CoWoS-korvaajana. Kyse on erilaisesta paketointirakenteesta, joka voi täydentää CoWoS:ää tekoälypiirien markkinoilla.

EMIB-T ja CoWoS perustuvat erilaisiin rakenteisiin

TSMC:n CoWoS-tuoteperheessä logiikkapiirit ja HBM-muistit sijoitetaan yleensä laajan, tiheän liitäntäkerroksen päälle. CoWoS-S käyttää koko paketin kattavaa piistä valmistettua välittäjäkerrosta eli interposeria. CoWoS-L puolestaan yhdistää uudelleenjakokerroksen eli RDL-interposerin ja paikalliset piisirut. Rakenne on tehnyt CoWoS:sta johtavan ratkaisun suuren kaistanleveyden GPU- ja HBM-paketeille. 3336

Intel EMIB -tekniikassa pienet piisirut upotetaan orgaaniseen pakettialustaan vain niihin kohtiin, joissa vierekkäiset sirut tarvitsevat tiheän yhteyden. EMIB-T lisää siltaelementtiin TSV-läpivientejä (through-silicon vias), joiden kautta virtaa ja signaaleja voidaan kuljettaa myös pystysuunnassa. Tavoitteena on parantaa virransyöttöä ja signaalien kulkua monimutkaisissa, useista erilaisista siruista koostuvissa paketeissa ilman koko paketin kattavaa pii-interposeria. 53435

Rakenteiden mahdolliset vahvuudet voi tiivistää näin:

• CoWoS: laaja ja erittäin tiheä reitityspinta, joka sopii malleihin, joissa logiikan ja HBM:n välinen kaistanleveys halutaan maksimoida.
• EMIB-T: paikalliset siltayhteydet, joiden avulla piitä tarvitaan vain yhteyksien kohdalla. Siltoja voidaan sijoittaa useiden sirupalojen ja muistipinojen ympärille.
• Kompromissi: EMIB-T siirtää suuremman osan reitityksen ja virransyötön vaatimuksista pakettialustalle. CoWoS:lla taas on pidempi historia suurten tekoäly- ja HBM-tuotteiden volyymituotannossa. 3641

Intelin lupaus: suuri paketti ilman täyttä interposeria

Intel on esitellyt EMIB-T-kokoonpanoja, joiden koko ylittää 120 × 120 millimetriä. Niissä voidaan käyttää yli yhdeksän retikkelialueen edestä piitä, jopa 12 HBM-moduulia, neljää tiheää laskentasirupalaa ja yli 20:tä siltaa. Tekniset luvut sijoittavat ratkaisun erittäin suurten tekoälykiihdyttimien ja runsaasti HBM-muistia käyttävien mallien luokkaan. 1132

Pakettikoko ei kuitenkaan yksin ratkaise kilpailua. CoWoS-L:n on raportoitu tukevan nykyisin noin 5,5-kertaista retikkelialaa, ja TSMC on kuvannut tiekartan, joka ulottuu vuosikymmenen loppupuolella yli 14-kertaiseen kokoon. EMIB-T:n vahvin argumentti ei siksi ole kiistaton johto pakettien koossa, vaan modulaarisuus, mahdolliset valmistuskustannussäästöt ja vaihtoehtoinen toimitusreitti. 33

Toimialaraporteissa EMIB-T:lle on esitetty jopa 50 prosentin kustannussäästöjä ja lähes 90 prosentin pakettisaantoa. Näihin lukuihin on syytä suhtautua varauksella: kyse on raportoiduista arvioista, ei itsenäisesti vahvistetuista ja vertailukelpoisista volyymituotannon tuloksista. Lisäksi pakettialustan saantoa pidetään edelleen keskeisenä haasteena. 1631

Ketkä ovat ottamassa EMIB-T:tä käyttöön?

Julkisesti vahvistetut tiedot ja toimialalla raportoidut suunnitelmat on syytä erottaa toisistaan.

MediaTek tukee molempia alustoja

Taiwanilainen sirusuunnittelija MediaTek on kertonut julkisesti tukevansa sekä TSMC:n CoWoS- että Intelin EMIB-teknologiaa. Yhtiön mukaan asiakkaat voivat valita lähestymistavan omien tarpeidensa perusteella. 17

Erillisissä toimialaraporteissa MediaTekin on kerrottu suunnittelevan CoWoS:n ja EMIB-T:n rinnakkaista käyttöä suurissa tekoäly-ASIC-ohjelmissa. Varminta on siis todeta, että MediaTek on vahvistanut tuen molemmille alustoille; yksittäisten asiakasohjelmien tuotantomäärien jakoa ei ole julkisesti vahvistettu. 18

Broadcom ja Meta arvioivat vaihtoehtoa

Broadcomin ja Metan on raportoitu tutkivan EMIB-ratkaisua tai osittaista siirtymää pois CoWoS:sta. Syiksi on mainittu kustannukset ja toimituslähteiden hajauttaminen. Saatavilla olevat raportit eivät kuitenkaan osoita, että kumpikaan yhtiö olisi julkistanut suuren volyymin EMIB-T-tuotantotilausta. 1824

Googlesta on vahvaa kiinnostusta koskevia raportteja

Useat raportit yhdistävät Googlen tulevat TPU-ohjelmat Intelin paketointiin. Joidenkin väitteiden mukaan Google olisi valinnut tai tilannut Inteliltä paketointia tulevaa sukupolvea varten, kun taas toiset lähteet kuvaavat käyttöönottoa vasta odotettuna päätöksenä. Koska Intel ja Google eivät ole tarkastelluissa lähteissä julkistaneet lopullisia tuotantoehtoja, Googlea on perustelluinta pitää vahvana raportoituna ehdokkaana, ei vahvistettuna EMIB-T-asiakkaana. 192123

Nvidia on kiinnostunut, mutta tilausta ei ole vahvistettu

Nvidian on kerrottu tutkivan EMIB-T:tä CoWoS-kapasiteetin kiristyessä. Julkistettua suuren volyymin EMIB-T-tilausta ei kuitenkaan ole esitetty. Nvidia on edelleen TSMC:n CoWoS-kapasiteetin suurin raportoitu käyttäjä, joten lisävaihtoehtojen selvittäminen on sille strategisesti järkevää, vaikka huippuluokan tuotteet jatkaisivat CoWoS:n varassa. 1842

Amazonin AWS Trainium 3 on raportoitu mahdolliseksi käyttäjäksi

Amazonin AWS Trainium 3 -kiihdyttimen on raportoitu olevan mahdollinen EMIB-T-alustan käyttäjä. Amazon tai Intel eivät kuitenkaan ole vahvistaneet väitettä tarkastelluissa lähteissä, joten kyse on raportoidusta tavoitteesta eikä julkistetusta tuotanto-ohjelmasta. 21

SK hynix testaa raportoiden mukaan HBM-integraatiota

SK hynixin on kerrottu tutkivan Intelin EMIB-pohjaista 2,5D-paketointia omalla HBM-muistillaan. Yhtiön kerrotaan myös arvioivan materiaaleja ja toimittajia mahdollista tulevaa tuotantoa varten. Tämä viittaa teknologian arviointiin tai yhteistyöhön, mutta ei vielä osoita sitovaa päätöstä ostaa Inteliltä paketointipalveluja suuressa volyymissa. 25

Kokonaiskuva on näin ollen seuraava:

• Julkisesti vahvistettu tuki: MediaTek tukee sekä CoWoS:ää että EMIB:tä.
• Raportoitu arviointi tai kiinnostus: Broadcom, Meta, Nvidia ja SK hynix.
• Raportoitu mahdollinen käyttöönotto: Google ja Amazon.
• Julkistetut suuren volyymin EMIB-T-tuotantotilaukset: niitä ei ole tarkastelluissa lähteissä vahvistettu.

Miksi CoWoS-kapasiteetin niukkuus avaa Intelille mahdollisuuden?

Analyytikkoarviot kuvaavat, miksi sirusuunnittelijat etsivät vaihtoehtoja. KGI arvioi TSMC:n vuotuisen CoWoS-kapasiteetin olevan noin 670 000 kiekkoa vuonna 2025 ja miljoona kiekkoa vuonna 2026. Nvidian osuudeksi vuoden 2026 kapasiteetista arvioidaan noin 65 prosenttia. 42

Muut ennusteet ovat selvästi optimistisempia ja arvioivat kapasiteetiksi noin 1,275 miljoonaa kiekkoa vuonna 2026 ja 2,31 miljoonaa vuonna 2027. Myös kysyntäarviot vaihtelevat. Morgan Stanleyyn perustuvassa toimialaraportoinnissa keskeisten asiakkaiden kysynnäksi arvioidaan noin 1,384 miljoonaa kiekkoa vuonna 2026 ja 2,682 miljoonaa vuonna 2027. Eroja selittävät muun muassa kapasiteetin määritelmät, tuotannon ylösajo ja eri CoWoS-versioiden sisällyttäminen. Luvut ovat siksi ennusteita, eivät vakiintuneita markkinakokonaisuuksia. 1648

Vaikka TSMC kasvattaa kapasiteettiaan, arviot viittaavat paineen jatkuvan. Erään raportin mukaan maailmanlaajuinen CoWoS-kysyntä voi lähestyä miljoonaa kiekkoa vuonna 2026, ja Nvidia yksin voisi vastata noin 60 prosentista kokonaiskysynnästä. Toiset arviot sijoittavat Nvidian osuuden TSMC:n kapasiteetista noin 50 prosenttiin tai sen yläpuolelle vuoteen 2027 asti. Kyse on analyytikko- ja toimialaarvioista, ei TSMC:n virallisista luvuista, ja prosentit vaihtelevat sen mukaan, verrataanko osuutta kokonaiskysyntään, TSMC:n kapasiteettiin vai tiettyyn CoWoS-versioon. 264243

Keskittyminen näkyy myös asiakasjakaumassa. Erään arvion mukaan Nvidia, Google, AMD ja Amazon käyttivät yhdessä yli 90 prosenttia CoWoS-paketointikapasiteetista vuonna 2025. Jos arvio pitää paikkansa, muiden sirusuunnittelijoiden riippuvuus kapasiteetin jakopäätöksistä kasvaa ja vaihtoehtoisen paketointitoimittajan hyväksyttäminen muuttuu houkuttelevaksi. 44

Neljä syytä hajauttaa paketointia

Kapasiteetti ja aikatauluriski

Piirejä voidaan valmistaa riittävästi ja HBM-muistia voi olla saatavilla, mutta tuote viivästyy silti, jos paketointipaikkaa ei löydy. Raporttien mukaan CoWoS-kapasiteetti on varattu pitkälle vuoteen 2026, joten edistynyt paketointi on noussut tuotannon rajoitteeksi eikä ole enää vain kokoonpanon viimeinen vaihe. 4546

Mahdollisesti alemmat kustannukset

Paikallisiin siltoihin perustuva rakenne voi vähentää tarvittavan pii-interposerin määrää verrattuna täyteen interposeriin. Tämä avaa mahdollisuuden pienempiin pakettikustannuksiin, mutta lopputulos riippuu pakettialustan monimutkaisuudesta, saannosta, kokoonpanomenetelmistä ja kyseisestä piirisuunnittelusta. Raportoitua 50 prosentin säästöä onkin pidettävä tavoitteena tai toimialan arviona, ei taattuna asiakashintana. 631

Sopivuus räätälöidyille tekoäly-ASIC-piireille

Pilvipalveluyhtiöt ja muut sirusuunnittelijat rakentavat yhä useammin omia kiihdyttimiään, joissa laskentaa, I/O-liitäntöjä ja HBM-muistia yhdistellään eri tavoin. EMIB-T voi olla houkutteleva silloin, kun tarvitaan suuri pakettipinta-ala ja useita paikallisia, tiheitä yhteyksiä – erityisesti räätälöidyissä ASIC-piireissä ja päättelyyn tarkoitetuissa ratkaisuissa. CoWoS voi puolestaan säilyttää etunsa malleissa, joissa tärkeintä on mahdollisimman yhtenäinen reititystiheys ja kypsä HBM-integraatio. 3637

Toimittajien hajauttaminen

Intelille kelpuutettu toinen paketointiekosysteemi vähentäisi suunnittelijoiden riippuvuutta yhdestä alustasta ja helpottaisi tulevien kapasiteettien suunnittelua. Tämä ei tarkoita, että asiakkaat hylkäisivät TSMC:n. Käytännössä rinnakkainen strategia voisi säilyttää CoWoS:n joissakin tuotteissa ja ohjata toiset mallit EMIB-T:lle.

Milloin EMIB-T alkaa tuottaa Intelille merkittävää liikevaihtoa?

Intel odottaa edistyneen paketoinnin, mukaan lukien EMIB-T:n, liikevaihdon alkavan kasvaa vuoden 2027 jälkipuoliskolla. Vuonna 2028 liiketoiminnasta pitäisi tulla merkittävä jatkuvan vuosivauhdin tulonlähde, ja täyden mittakaavan on määrä näkyä vuonna 2029. 34

Intelin talousjohtaja Dave Zinsner on kuvannut mahdollisia edistyneen paketoinnin sopimuksia miljardien dollarien vuosiarvoisiksi asiakasta kohden. Asiakkaiden nimiä, volyymeja ja allekirjoitettujen sopimusten taloudellisia ehtoja ei kuitenkaan ole kattavasti julkistettu. Mahdollisuus on siksi huomattava, mutta sen toteutuminen riippuu Intelin kyvystä muuttaa raportoidut kiinnostuksenosoitukset hyväksytyiksi suunnitelmiksi, saavuttaa luotettava pakettialustan ja pakettien saanto sekä kasvattaa tuotanto aikataulussa. 83

Todennäköisin lopputulos: rinnakkaiselo ennen korvaamista

Lähivuosina EMIB-T:n todennäköisin rooli on täydentää CoWoS:ää, ei syrjäyttää sitä. CoWoS:lla on tuotannossa oleva asiakaskunta ja pitkä kokemus johtavien tekoäly- ja HBM-pakettien suuresta volyymista. EMIB-T tarjoaa toisen reitin asiakkaille, jotka tarvitsevat lisäkapasiteettia, erittäin suuria heterogeenisiä paketteja, mahdollisesti pienempiä kustannuksia tai vahvempaa neuvotteluasemaa toimittajia kilpailuttaessaan.

Ratkaiseva testi ei ole se, pystyykö Intel esittelemään suuren paketin teknisessä demossa. Olennaisempaa on, siirtyvätkö asiakkaat arviointivaiheesta toistettavaan suuren volyymin tuotantoon siihen mennessä, kun Intelin liikevaihto alkaa kasvaa vuonna 2027. Siihen asti EMIB-T on uskottava vaihtoehto ja tärkeä kilpailupaine CoWoS:lle – mutta ei vielä todistettu täysimittainen korvaaja.