AMD ostaa Taalasin: mallikohtainen siru lupaa jopa 48 kertaa nopeampaa tekoälypäättelyä

Kyse on ennen kaikkea tekoälyn päättelystä eli vaiheesta, jossa valmis malli tuottaa vastauksia käyttäjän pyyntöihin. Taalasin lähestymistapa on kunnianhimoinen: ohjelmiston ja yleiskäyttöisen laskentaraudan erottelun sijaan itse malli muutetaan osittain laitteistoksi.

Miksi muistin siirtäminen hidastaa tekoälyä?

Perinteiset grafiikkasuorittimet, myös Nvidian GPU:t, joutuvat siirtämään tekoälymallin painokertoimia jatkuvasti suuren kaistanleveyden muistista eli HBM-muistista laskentaytimille. Tämä tiedonsiirto kuluttaa aikaa ja energiaa, vaikka varsinainen laskutoimitus olisi nopea. Ilmiötä kutsutaan usein muuriksi muistin ja laskennan välillä eli memory walliksi.

Taalasin ratkaisu on model-specific integrated circuit eli MSIC, suomeksi mallikohtainen integroitu piiri. Yhtiö toteuttaa mallin laskennan rakenteen ja sen numeeriset painokertoimet suoraan sirun logiikka- ja metallikerroksiin valmistuksen yhteydessä. Painokertoimia ei tällöin tarvitse ladata muistista ajon aikana.

Testituloksena lähes 17 000 tokenia sekunnissa

Taalasin HC1-testisiru valmistettiin TSMC:n 6 nanometrin prosessilla. Helmikuussa 2026 sen kerrottiin tuottaneen Meta-yhtiön Llama 3.1 8B -mallilla 16 960 tokenia sekunnissa. Taalasin mukaan tulos oli jopa 48 kertaa parempi kuin vastaavalla Nvidia-GPU:lla tehdyssä päättelyssä. Joissakin vertailuissa eroksi on ilmoitettu jopa 73-kertainen nopeus, mutta luku riippuu käytetystä Nvidia-verrokista.

Tokeni on kielimallin käsittelemä tekstin osa – esimerkiksi sana, sanan osa tai välimerkki. Tokenimäärä kertoo siis käytännössä, kuinka nopeasti malli pystyy tuottamaan tekstiä.

Huima nopeus vaatii yhden mallin lukitsemista sirulle

Taalasin tekniikan suurin etu on samalla sen keskeinen rajoitus. Koska mallin painokertoimet on rakennettu fyysisesti siruun, yksi siru pystyy ajamaan vain sitä mallia, jota varten se valmistettiin. Sirulle ei voi vain ladata toista tekoälymallia samalla tavalla kuin yleiskäyttöiseen GPU:hun.

Taalas on kuitenkin kehittänyt valmistusprosessia, joka lyhentää uuden mallin vaatimaa suunnittelukierrosta. Yhtiö viimeistelee noin sadan metallikerroksen sirupinosta vain kaksi ylintä kerrosta. Näin uuden mallin vieminen tuotantoon voi onnistua noin kahdessa kuukaudessa, kun sirun muu perusrakenne säilyy ennallaan.

AMD rakentaa yhdistelmän yleiskäyttöisistä ja erikoistuneista siruista

AMD:n suunnitelmana on liittää Taalasin MSIC-sirut osaksi hajautettua ja heterogeenista laskenta-arkkitehtuuria yhdessä Instinct-GPU:iden ja Helios-tason räkkijärjestelmien kanssa.

Käytännössä Instinct-GPU:t voisivat hoitaa tekoälymallien koulutusta sekä joustavaa päättelyä, jossa malleja ja tehtäviä vaihdellaan. Taalasin sirut puolestaan sopisivat erityisesti suosituimpiin malleihin, joiden kysyntä on suurta ja joiden vastauksilta vaaditaan sekä korkeaa läpimenoa että pientä viivettä. Helios-alusta yhdistäisi eri sirutyypit saman räkkitason kokonaisuudeksi.

AMD tavoittelee näin kaksiosaista ratkaisua: GPU:t kattavat monipuolisen ja muuttuvan työkuorman, kun taas mallikohtaiset sirut palvelevat suuria, toistuvia määriä samaa mallia käyttäviä palveluita.

Kauppa vahvistaa AMD:n haastetta Nvidialle

Kaupan ehtoja tai hintaa ei julkistettu. Yritysosto jatkaa AMD:n viime vuosien laajentumista tekoäly- ja palvelinlaitteistoihin. Yhtiö osti ZT Systemsin 4,9 miljardilla dollarilla heinäkuussa 2024 ja Silo AI:n 665 miljoonalla dollarilla elokuussa 2024.

Kilpailuasetelmaa korostaa Nvidian raportoitu 20 miljardin dollarin lisenssisopimus Groqin kanssa aiemmin vuonna 2026. Sopimus antaisi Nvidialle pääsyn Groqin LPU-päättelyarkkitehtuuriin. AMD puolestaan lyö vetoa siitä, että Taalasin mallikohtainen toteutus voisi tarjota erityisen hyvän suorituskyvyn wattia kohti silloin, kun ajettava malli on ennalta tiedossa ja käyttömäärät ovat suuria.

Vuonna 2023 perustettu startup keräsi 219 miljoonaa dollaria

Taalas perustettiin Torontossa vuonna 2023. Yhtiön perustajiin kuuluu Ljubisa Bajic, Tenstorrentin entinen toimitusjohtaja, sekä muun muassa entisiä AMD-insinöörejä.

Ennen yritysostoa Taalas keräsi 219 miljoonaa dollaria pääomasijoituksia. Sijoittajiin kuuluivat muun muassa Eclipse Ventures, Makers Fund ja Radical Ventures.

Yhtiön HC1-testisiru ja sen helmikuussa 2026 esittelemä Llama 3.1 8B -tulos – 16 960 tokenia sekunnissa – nostivat Taalasin teknologian AMD:n kiinnostuksen kohteeksi.

Mitä yritysosto kertoo tekoälysirujen suunnasta?

AMD:n Taalas-kauppa on veto sen puolesta, ettei tekoälyn päättelyn tulevaisuus perustu pelkästään yhä tehokkaampiin yleiskäyttöisiin GPU:ihin. Osa laskennasta voidaan sen sijaan siirtää erittäin tarkasti tiettyyn malliin suunnitelluille siruille.

Ratkaisun hinta on joustavuus: mallikohtainen siru voi olla erittäin nopea ja energiatehokas, mutta uuden mallin käyttöönotto vaatii uuden fyysisen siruversion. Yhdistämällä Taalasin sirut Instinct-GPU:ihin AMD pyrkii kattamaan molemmat tarpeet – monenlaisten mallien joustavan käsittelyn ja kaikkein suosituimpien mallien tehokkaan massapalvelun.