Mitä ”enkooderiton” tarkoittaa?

Monimuotoiset tekoälymallit käyttävät yleensä putkea, jossa erillinen näköenkooderi käsittelee kuvan ja audioenkooderi äänen ennen kuin kielimalli alkaa tulkita niitä. Nämä välikerrokset voivat olla suuria ja lisäävät järjestelmän monimutkaisuutta sekä viivettä.

Gemma 4 12B ohittaa nämä vaiheet. Kaikki syötteet päätyvät samaan decoder-only-muuntajaan, joka vastaa sekä tiedon käsittelystä että päättelystä .

Mallissa käytetään kevyitä lineaarisia projektioita, jotka muuntavat eri syötteet kielimallin käyttämään esitysmuotoon:

• Kuvat: 48 × 48 pikselin kuvapalat muunnetaan mallin piiloavaruuteen matriisikertolaskulla. Tätä varten käytössä on noin 35 miljoonan parametrin embedder, joka korvaa täysimittaisen näkömuuntajan. Kuvapalojen sijainti välitetään erillisillä X- ja Y-koordinaattien hakutaulukoilla .
• Ääni: 16 kilohertsin äänisignaali jaetaan 40 millisekunnin mittaisiin kehyksiin. Jokainen kehys sisältää 640 liukulukua, jotka projisoidaan suoraan kielimallin syöteavaruuteen. Näin malli ei tarvitse muiden Gemma 4 -versioiden 12 conformer-kerrosta .
• Hienosäätö: Koska eri syötemuodot kulkevat saman mallirungon kautta, mallia voidaan hienosäätää yhtenä kokonaisuutena esimerkiksi Hugging Face Transformersilla tai Unslothilla. Tuettuja vaihtoehtoja ovat sekä LoRA että kaikkien painojen hienosäätö .

Lopputuloksena on malli, jonka konteksti-ikkuna on enintään 256 000 tokenia ja joka käsittelee tekstiä, kuvia, ääntä ja videota ilman erillistä enkooderiputkea .

Pienempi malli, suuret vertailuluvut

Googlen mallikortissa ilmoitetut tulokset ovat huomionarvoisia ennen kaikkea siksi, että Gemma 4 12B päihittää monissa testeissä selvästi suuremman Gemma 3 27B -mallin .

Erityisen suuri ero näkyy GPQA Diamond -testissä, joka mittaa jatko-opintotasoista fysiikan, biologian ja kemian osaamista. Gemma 4 12B:n tulos on 36,4 prosenttiyksikköä Gemma 3 27B:tä korkeampi. Myös AIME 2026 -matematiikkatestissä tulos on lähes nelinkertainen .

Vertailutulokset eivät yksin kerro, miten malli toimii kaikissa käytännön tilanteissa, mutta ne tukevat Googlen tavoitetta: enkooderien poistaminen ei ole tehnyt mallista yksinkertaisesti heikompaa, vaan pienentänyt käyttöönoton kustannuksia samalla kun päättelykyky on säilynyt vahvana.

Apache 2.0 ja paikallinen käyttö

Gemma 4 12B julkaistiin avoimina painoina sekä esikoulutettuna että ohjeistetusti hienosäädettynä versiona. Lisenssi on kaupallisesti salliva Apache 2.0 .

Mallin käytännön kohderyhmänä ovat laitteet, joissa on noin 16 gigatavua VRAM-muistia tai yhtenäistä muistia. Sopiva laitteisto ei kuitenkaan yksin riitä: paikallisen tekoälyn käyttökokemukseen vaikuttavat myös kvantisointi, käytetty taustajärjestelmä ja työmäärä.

Julkaisupäivänä tukea oli saatavilla useissa suosituissa työkaluissa :

• llama.cpp: GGUF-kvantisoinnit paikalliseen CPU- ja GPU-ajoon.
• Ollama: yhden komennon käyttöönotto macOS:llä ja Linuxilla, kun käytössä on vähintään versio 0.20.
• LM Studio: graafinen työpöytäsovellus mallien etsimiseen ja ajamiseen.
• MLX: Applen Silicon-piireille optimoitu toteutus, joka hyödyntää yhtenäistä muistia.
• vLLM: vaihtoehto tehokkaaseen GPU- ja TPU-palveluun.
• Unsloth: kvantisointi ja hienosäätö Unsloth Studion kautta macOS:llä, Windowsilla ja Linuxilla.

Tuki useille valmiiksi tutuille työkaluilla on tärkeä osa julkaisua. Kehittäjän ei tarvitse rakentaa koko ajopinoa itse ennen kuin mallia voi kokeilla.

Gemma Chat näyttää, mihin paikallinen malli voi taipua

Gemma 4 12B:n rinnalla esiin nousee erillinen avoimen lähdekoodin työpöytäsovellus Gemma Chat. Electron-pohjaisen sovelluksen on rakentanut Googlella työskentelevä suunnittelija Ammar Reshi, ja sen lisenssi on MIT .

Gemma Chat ajaa Gemma 4 -malleja paikallisesti Apple Silicon -laitteilla MLX-kehyksen avulla. Ensimmäisen mallilatauksen jälkeen sovellus ei tarvitse API-avainta, pilvipalvelua tai jatkuvaa internetyhteyttä .

Sovelluksen näkyvin toiminto on Build Mode eli rakennustila. Käyttäjä kuvailee haluamansa sovelluksen tavallisella kielellä, minkä jälkeen malli tuottaa HTML-, CSS- ja JavaScript-koodia useisiin tiedostoihin. Tulokset näkyvät reaaliaikaisesti esikatseluruudussa. Sovellus tukee myös äänisyötettä ja käyttää työkalukutsuissa XML-pohjaista jäsentelyä JSONin sijaan .

Gemma Chat julkaistiin alun perin noin huhtikuussa 2026 muiden Gemma 4 -versioiden kanssa. Uuden 12B Unified -mallin myötä sama paikallinen kehitysympäristö voi ajaa myös enkooderitonta 12B-versiota MLX:n kautta .

Paikallisen tekoälyn kannalta merkittävin asia ei siis ole vain se, että kannettava tietokone pystyy keskustelemaan mallin kanssa. Gemma 4 12B pyrkii yhdistämään tekstin, kuvat, äänen, videon ja koodauksen samaan avoimeen malliin – ilman, että jokainen syötemuoto tarvitsee oman raskaan esikäsittelykerroksensa.

Mitä ”enkooderiton” tarkoittaa?

Monimuotoiset tekoälymallit käyttävät yleensä putkea, jossa erillinen näköenkooderi käsittelee kuvan ja audioenkooderi äänen ennen kuin kielimalli alkaa tulkita niitä. Nämä välikerrokset voivat olla suuria ja lisäävät järjestelmän monimutkaisuutta sekä viivettä.

Gemma 4 12B ohittaa nämä vaiheet. Kaikki syötteet päätyvät samaan decoder-only-muuntajaan, joka vastaa sekä tiedon käsittelystä että päättelystä .

Mallissa käytetään kevyitä lineaarisia projektioita, jotka muuntavat eri syötteet kielimallin käyttämään esitysmuotoon:

• Kuvat: 48 × 48 pikselin kuvapalat muunnetaan mallin piiloavaruuteen matriisikertolaskulla. Tätä varten käytössä on noin 35 miljoonan parametrin embedder, joka korvaa täysimittaisen näkömuuntajan. Kuvapalojen sijainti välitetään erillisillä X- ja Y-koordinaattien hakutaulukoilla .
• Ääni: 16 kilohertsin äänisignaali jaetaan 40 millisekunnin mittaisiin kehyksiin. Jokainen kehys sisältää 640 liukulukua, jotka projisoidaan suoraan kielimallin syöteavaruuteen. Näin malli ei tarvitse muiden Gemma 4 -versioiden 12 conformer-kerrosta .
• Hienosäätö: Koska eri syötemuodot kulkevat saman mallirungon kautta, mallia voidaan hienosäätää yhtenä kokonaisuutena esimerkiksi Hugging Face Transformersilla tai Unslothilla. Tuettuja vaihtoehtoja ovat sekä LoRA että kaikkien painojen hienosäätö .

Lopputuloksena on malli, jonka konteksti-ikkuna on enintään 256 000 tokenia ja joka käsittelee tekstiä, kuvia, ääntä ja videota ilman erillistä enkooderiputkea .

Pienempi malli, suuret vertailuluvut

Googlen mallikortissa ilmoitetut tulokset ovat huomionarvoisia ennen kaikkea siksi, että Gemma 4 12B päihittää monissa testeissä selvästi suuremman Gemma 3 27B -mallin .

Erityisen suuri ero näkyy GPQA Diamond -testissä, joka mittaa jatko-opintotasoista fysiikan, biologian ja kemian osaamista. Gemma 4 12B:n tulos on 36,4 prosenttiyksikköä Gemma 3 27B:tä korkeampi. Myös AIME 2026 -matematiikkatestissä tulos on lähes nelinkertainen .

Vertailutulokset eivät yksin kerro, miten malli toimii kaikissa käytännön tilanteissa, mutta ne tukevat Googlen tavoitetta: enkooderien poistaminen ei ole tehnyt mallista yksinkertaisesti heikompaa, vaan pienentänyt käyttöönoton kustannuksia samalla kun päättelykyky on säilynyt vahvana.

Apache 2.0 ja paikallinen käyttö

Gemma 4 12B julkaistiin avoimina painoina sekä esikoulutettuna että ohjeistetusti hienosäädettynä versiona. Lisenssi on kaupallisesti salliva Apache 2.0 .

Mallin käytännön kohderyhmänä ovat laitteet, joissa on noin 16 gigatavua VRAM-muistia tai yhtenäistä muistia. Sopiva laitteisto ei kuitenkaan yksin riitä: paikallisen tekoälyn käyttökokemukseen vaikuttavat myös kvantisointi, käytetty taustajärjestelmä ja työmäärä.

Julkaisupäivänä tukea oli saatavilla useissa suosituissa työkaluissa :

• llama.cpp: GGUF-kvantisoinnit paikalliseen CPU- ja GPU-ajoon.
• Ollama: yhden komennon käyttöönotto macOS:llä ja Linuxilla, kun käytössä on vähintään versio 0.20.
• LM Studio: graafinen työpöytäsovellus mallien etsimiseen ja ajamiseen.
• MLX: Applen Silicon-piireille optimoitu toteutus, joka hyödyntää yhtenäistä muistia.
• vLLM: vaihtoehto tehokkaaseen GPU- ja TPU-palveluun.
• Unsloth: kvantisointi ja hienosäätö Unsloth Studion kautta macOS:llä, Windowsilla ja Linuxilla.

Tuki useille valmiiksi tutuille työkaluilla on tärkeä osa julkaisua. Kehittäjän ei tarvitse rakentaa koko ajopinoa itse ennen kuin mallia voi kokeilla.

Gemma Chat näyttää, mihin paikallinen malli voi taipua

Gemma 4 12B:n rinnalla esiin nousee erillinen avoimen lähdekoodin työpöytäsovellus Gemma Chat. Electron-pohjaisen sovelluksen on rakentanut Googlella työskentelevä suunnittelija Ammar Reshi, ja sen lisenssi on MIT .

Gemma Chat ajaa Gemma 4 -malleja paikallisesti Apple Silicon -laitteilla MLX-kehyksen avulla. Ensimmäisen mallilatauksen jälkeen sovellus ei tarvitse API-avainta, pilvipalvelua tai jatkuvaa internetyhteyttä .

Sovelluksen näkyvin toiminto on Build Mode eli rakennustila. Käyttäjä kuvailee haluamansa sovelluksen tavallisella kielellä, minkä jälkeen malli tuottaa HTML-, CSS- ja JavaScript-koodia useisiin tiedostoihin. Tulokset näkyvät reaaliaikaisesti esikatseluruudussa. Sovellus tukee myös äänisyötettä ja käyttää työkalukutsuissa XML-pohjaista jäsentelyä JSONin sijaan .

Gemma Chat julkaistiin alun perin noin huhtikuussa 2026 muiden Gemma 4 -versioiden kanssa. Uuden 12B Unified -mallin myötä sama paikallinen kehitysympäristö voi ajaa myös enkooderitonta 12B-versiota MLX:n kautta .

Paikallisen tekoälyn kannalta merkittävin asia ei siis ole vain se, että kannettava tietokone pystyy keskustelemaan mallin kanssa. Gemma 4 12B pyrkii yhdistämään tekstin, kuvat, äänen, videon ja koodauksen samaan avoimeen malliin – ilman, että jokainen syötemuoto tarvitsee oman raskaan esikäsittelykerroksensa.