Miksi Apple keskustelee PrismML:n kanssa laitteen sisäisestä tekoälystä?

Tämä on Applelle kiinnostavaa ennen kaikkea siksi, että laitteen sisäinen tekoäly on aina kompromissi mallin koon, nopeuden, virrankulutuksen ja käytettävissä olevan muistin välillä. Mitä enemmän mallissa on parametreja, sitä monimutkaisempia tehtäviä se voi periaatteessa käsitellä – mutta sitä vaikeampaa sitä on ajaa puhelimessa.

Applen omissa laitemalleissa tätä ongelmaa on ratkaistu osittain harvalla eli sparse-arkkitehtuurilla. Applen vuonna 2026 esittelemässä noin 20 miljardin parametrin mallissa vain noin 1–4 miljardia parametria on aktiivisena yhden päättelykerran aikana . PrismML:n väite on erilainen: sen pakkaama Qwen 3.6 voisi käyttää kaikkia 27 miljardia parametria samanaikaisesti samalla laitteella .

Jos ratkaisu toimii käytännössä luvatulla tavalla, se voisi antaa Applelle mahdollisuuden kehittää aiempaa kyvykkäämpiä Siri-toimintoja, kirjoitustyökaluja ja sovellusten älykkäitä ominaisuuksia ilman jatkuvaa yhteyttä palvelimeen. Laitteessa tapahtuva käsittely voi myös auttaa pitämään käyttäjän tietoja yksityisinä, pienentää pilvipalvelujen viivettä ja mahdollistaa tekoälytoimintoja tilanteissa, joissa verkkoyhteyttä ei ole. Apple korostaa omassa kehittäjädokumentaatiossaan juuri näitä laitteen sisäisen tekoälyn etuja: käyttäjän tiedot voivat pysyä laitteella, eikä palvelinta tai pilven token-kustannuksia tarvita .

Samalla PrismML:n teknologia voisi olla Applelle strategisesti kiinnostava ulkopuolinen vaihtoehto. Raporttien mukaan Applella on ollut vaikeuksia pakata omia tekoälymallejaan iPhonea varten ilman merkittävää suorituskyvyn heikkenemistä .

Mikä PrismML:n menetelmässä on poikkeuksellista?

Kaikki painot muutetaan ternäärisiksi

PrismML:n lähestymistavan ytimessä on niin sanottu ternäärinen eli kolmearvoinen esitystapa. Neuroverkon jokainen paino rajoitetaan yhteen kolmesta arvosta: −1, 0 tai +1. Tämä vastaa noin 1,58 bittiä parametria kohden .

Tavanomaiset tekoälymallit käyttävät usein 16-bittistä liukulukuesitystä, kuten FP16:ta, tai 8-bittistä kvantisointia. Niissä painot voivat saada paljon laajemman joukon numeerisia arvoja. PrismML:n ideana ei ole vain pyöristää valmista mallia pienempään muotoon, vaan rakentaa malli alusta lähtien toimimaan erittäin rajoitetulla lukuesityksellä.

Malli koulutetaan 1-bittisenä alusta alkaen

Perinteisessä kvantisoinnissa ensin koulutetaan täystarkka malli, joka pakataan pienempään bittimäärään vasta jälkikäteen. Tämä voi heikentää tarkkuutta tai suorituskykyä. PrismML kertoo kouluttavansa mallinsa natiivisti 1-bittisessä tarkkuudessa alusta alkaen . Yhtiön mukaan ternäärinen logiikka on rakennettu osaksi verkon arkkitehtuuria, eikä kyse ole vain valmiin mallin jälkikäteisestä pakkaamisesta .

Pienempi muistijälki

PrismML:n mukaan sen 1-bit Bonsai 8B -malli pakkaa 8,2 miljardia parametria noin 1,15 gigatavuun muistia. Yhtiö vertaa tätä tavanomaiseen 16-bittiseen malliin, joka voisi vaatia noin 14 kertaa enemmän tilaa, ja ilmoittaa mallin saavuttavan kilpailukykyisiä tuloksia täystarkkoihin malleihin verrattavissa testeissä .

Vastaava pakkausmenetelmä on yhtiön mukaan mahdollistanut myös 27 miljardin parametrin Qwen 3.6 -mallin ajamisen iPhone 17 Prolla . Kiinalaisen Alibaban kehittämä Qwen 3.6 on lähteissä kuvattu avoimeksi kielimalliksi, joten sen käyttö ja pakkaaminen ovat ulkopuolisten tutkijoiden kannalta helpommin tarkasteltavissa kuin suljetun mallin tapauksessa.

Tehokkaampi laskenta

PrismML ilmoittaa 1-bittisen esityksen olevan noin viisi kertaa energiatehokkaampi kuin täystarkat mallit. Yhtiön mukaan 8B-malli saavuttaa iPhone 17 Prolla yli 40 tokenia sekunnissa, mikä ylittää tavallisen reaaliaikaisen käytön tarpeet .

Näitä lukuja on kuitenkin syytä pitää yhtiön omiin ilmoituksiin perustuvina tuloksina. Eri testitavat, mallin käyttämä muistimäärä, lämpötilan hallinta ja tehtävän vaikeus vaikuttavat merkittävästi siihen, miten nopeasti ja tehokkaasti malli todellisuudessa toimii.

Mitä tiedetään varmasti – ja mitä ei?

Varmimmin lähteet tukevat sitä, että Apple rakentaa laitteen sisäisiä tekoälymalleja ja tarjoaa kehittäjille niiden käyttöön tarkoitettuja rajapintoja. Applen mukaan laitteen sisäinen käsittely voi pitää käyttäjätiedot poissa palvelimilta ja vähentää pilveen liittyvää viivettä .

PrismML puolestaan on ilmoittanut kehittävänsä 1-bittisiä Bonsai-malleja, jotka ovat avoimen lähdekoodin malleja Apache 2.0 -lisenssillä. Yhtiö nousi julkisuuteen 31. maaliskuuta 2026, ja sen kerrotaan saaneen 16,25 miljoonan dollarin rahoituksen Khosla Venturesilta ja Cerberus Venturesilta .

Sen sijaan Applen ja PrismML:n keskustelujen tarkkaa sisältöä, mahdollista yhteistyösopimusta tai teknologian käyttöönottoa ei ole vahvistettu Applen virallisella ilmoituksella. Myöskään PrismML:n suorituskyky- ja tehokkuusväitteitä ei ole vielä riippumattomasti vahvistettu laajassa mittakaavassa. Avoin julkaisu voi helpottaa ulkopuolista arviointia ajan myötä, mutta yksittäinen näyttö laitteella ajetusta mallista ei vielä todista, että sama suorituskyky säilyy kaikissa tehtävissä ja käyttötilanteissa.

Johtopäätös: PrismML:n merkitys Applelle ei perustu vain siihen, että puhelimeen saataisiin suurempi mallinumero. Todellinen kiinnostavuus on siinä, että ternäärinen, alusta alkaen erittäin pienellä bittimäärällä koulutettu malli voisi nostaa laitteen sisäisen tekoälyn suorituskykyä ilman vastaavaa kasvua muistin ja energian tarpeessa. Jos väitteet vahvistuvat, teknologia voisi tarjota Applelle uuden tavan yhdistää suuremmat mallit, yksityisyys ja pilvestä riippumaton käyttö.