Det mest interessante er likevel ikke bare størrelsen. Gemma 4 12B bruker en såkalt «Unified»-arkitektur uten separate kodere for syn og lyd. Det er et bevisst brudd med den vanlige måten multimodale modeller bygges på.

Én modell i stedet for en kjede av kodere

I mange multimodale KI-systemer går innholdet gjennom flere trinn. En separat bildekoder analyserer bildepunkter, mens en lydkoder tolker lydsignalet. Først deretter sendes resultatet videre til språkmodellen. Slike kodere kan alene bestå av hundrevis av millioner parametere og tilfører både minnebruk og behandlingstid .

Gemma 4 12B fjerner disse mellomleddene. Rådata fra de ulike modalitetene projiseres direkte inn i språkmodellens representasjonsrom, før alt behandles av én decoder-only-transformer .

Slik fungerer det i praksis:

• Bilder: En kompakt embedder på 35 millioner parametere erstatter en full visjonstransformer med 27 lag. Bildet deles i rå bildefelt på 48 × 48 piksler, som sendes inn i modellens skjulte dimensjon gjennom en enkel matriseoperasjon. Posisjonsinformasjon legges til med separate X- og Y-matriser i stedet for lærte posisjonsinnbygginger for bildefeltene .
• Lyd: Lyd med samplingsfrekvens på 16 kHz deles opp i rammer på 40 millisekunder. Hver ramme inneholder 640 flyttall som projiseres lineært inn i modellens inngangsrom. Dermed unngår modellen de 12 conformer-lagene som brukes i andre Gemma 4-varianter .
• Finjustering: Siden tekst, bilder og lyd håndteres gjennom lette projeksjoner og deler modellens kjernevekter, kan hele systemet finjusteres samlet. Det gjelder både LoRA og finjustering av alle vekter, blant annet gjennom Hugging Face Transformers og Unsloth .

Resultatet er en modell med kontekstvindu på opptil 256K token som behandler tekst, bilder, lyd og video i samme arkitektur – uten en flertrinns encoder-pipeline .

Benchmarkene: liten nok til lokal bruk, sterk nok til å overraske

Tallene i Googles offisielle modellkort viser at Gemma 4 12B ikke bare konkurrerer med andre modeller i samme størrelsesklasse. I flere krevende tester ligger den klart foran den større Gemma 3 27B .

Resultatet på GPQA Diamond er særlig oppsiktsvekkende: 78,8 prosent er 36,4 prosentpoeng høyere enn Gemma 3 27B. Også AIME 2026-resultatet viser en kraftig forbedring sammenlignet med forrige generasjon .

Benchmarkene beviser ikke at modellen er best til alle praktiske oppgaver, men de viser at en enklere multimodal arkitektur ikke nødvendigvis betyr svakere resonnering. I Gemma 4 12Bs tilfelle ser det snarere ut til at Googles valg har prioritert effektiv lokal kjøring uten å gi avkall på krevende modellkapasitet .

Åpne vekter og støtte for lokale verktøy

Gemma 4 12B er lansert under den kommersielt tillatte Apache 2.0-lisensen, i både forhåndstrente og instruksjonsjusterte varianter . Målet er at modellen skal kunne brukes på vanlig forbrukermaskinvare med omtrent 16 GB VRAM eller samlet minne .

For utviklere er støtten rundt lanseringen nesten like viktig som selve modellen. Gemma 4 12B fikk tidlig støtte i flere kjente rammeverk og verktøy for lokal KI:

• llama.cpp: GGUF-kvantisering for effektiv kjøring på CPU og GPU .
• Ollama: Enkel distribusjon fra kommandolinjen på macOS og Linux, fra versjon 0.20 eller nyere .
• LM Studio: Grafisk skrivebordsverktøy for å finne og kjøre lokale modeller .
• MLX: Optimalisert støtte for Apple Silicon og maskiner med samlet minne .
• vLLM: Tilrettelagt for kjøring med høy gjennomstrømning på GPU og TPU .
• Unsloth: Optimaliserte kvantiserte modeller og støtte for finjustering gjennom Unsloth Studio på macOS, Windows og Linux .

Det betyr at modellen kan brukes både som en lokal chatassistent på en bærbar datamaskin og som grunnlag for mer omfattende utvikler- og agentarbeidsflyter.

Gemma Chat viser hva lokal multimodal KI kan brukes til

Sammen med modelløkosystemet finnes også Gemma Chat, en separat åpen kildekode-app for skrivebordet. Appen er bygget med Electron av Google-designeren Ammar Reshi og er lisensiert under MIT .

Gemma Chat kjører Gemma 4-modeller lokalt på Apple Silicon gjennom MLX. Etter at modellen er lastet ned, trengs det ingen API-nøkkel, skytjeneste eller aktiv internettforbindelse .

Den mest konkrete funksjonen er «Build Mode», en kodeagent som lar brukeren beskrive et prosjekt med vanlig språk. Modellen kan deretter generere HTML, CSS og JavaScript for prosjekter med flere filer, mens resultatet vises fortløpende i et forhåndsvisningspanel. Appen støtter også taleinndata og bruker XML-formatering til strukturerte verktøykall, noe som ifølge omtalen har vist seg mer pålitelig enn JSON for denne typen mindre modeller .

Gemma Chat ble opprinnelig lansert rundt april 2026 for andre Gemma 4-varianter. Med den nye 12B-modellen kan appen også kjøre den encoder-frie varianten lokalt gjennom MLX . Det gir et konkret eksempel på en lokal KI-arbeidsflyt der prototyping og enkel kodegenerering kan foregå uten at innholdet sendes til en skytjeneste.

Hva som gjør Gemma 4 12B viktig

Gemma 4 12B handler først og fremst om å gjøre multimodal KI enklere å distribuere. Ved å fjerne separate lyd- og bildekodere reduserer Google den arkitektoniske kompleksiteten og gjør det lettere å kjøre modellen lokalt, finjustere den samlet og koble den til eksisterende verktøy .

For brukeren er effekten enkel å forstå: En modell som kan lese, se og lytte, trenger ikke nødvendigvis et datasenter for å være nyttig. Med riktig kvantisering og maskinvare kan Gemma 4 12B flytte mer av KI-arbeidet fra skyen og inn på laptopen.

Det mest interessante er likevel ikke bare størrelsen. Gemma 4 12B bruker en såkalt «Unified»-arkitektur uten separate kodere for syn og lyd. Det er et bevisst brudd med den vanlige måten multimodale modeller bygges på.

Én modell i stedet for en kjede av kodere

I mange multimodale KI-systemer går innholdet gjennom flere trinn. En separat bildekoder analyserer bildepunkter, mens en lydkoder tolker lydsignalet. Først deretter sendes resultatet videre til språkmodellen. Slike kodere kan alene bestå av hundrevis av millioner parametere og tilfører både minnebruk og behandlingstid .

Gemma 4 12B fjerner disse mellomleddene. Rådata fra de ulike modalitetene projiseres direkte inn i språkmodellens representasjonsrom, før alt behandles av én decoder-only-transformer .

Slik fungerer det i praksis:

• Bilder: En kompakt embedder på 35 millioner parametere erstatter en full visjonstransformer med 27 lag. Bildet deles i rå bildefelt på 48 × 48 piksler, som sendes inn i modellens skjulte dimensjon gjennom en enkel matriseoperasjon. Posisjonsinformasjon legges til med separate X- og Y-matriser i stedet for lærte posisjonsinnbygginger for bildefeltene .
• Lyd: Lyd med samplingsfrekvens på 16 kHz deles opp i rammer på 40 millisekunder. Hver ramme inneholder 640 flyttall som projiseres lineært inn i modellens inngangsrom. Dermed unngår modellen de 12 conformer-lagene som brukes i andre Gemma 4-varianter .
• Finjustering: Siden tekst, bilder og lyd håndteres gjennom lette projeksjoner og deler modellens kjernevekter, kan hele systemet finjusteres samlet. Det gjelder både LoRA og finjustering av alle vekter, blant annet gjennom Hugging Face Transformers og Unsloth .

Resultatet er en modell med kontekstvindu på opptil 256K token som behandler tekst, bilder, lyd og video i samme arkitektur – uten en flertrinns encoder-pipeline .

Benchmarkene: liten nok til lokal bruk, sterk nok til å overraske

Tallene i Googles offisielle modellkort viser at Gemma 4 12B ikke bare konkurrerer med andre modeller i samme størrelsesklasse. I flere krevende tester ligger den klart foran den større Gemma 3 27B .

Resultatet på GPQA Diamond er særlig oppsiktsvekkende: 78,8 prosent er 36,4 prosentpoeng høyere enn Gemma 3 27B. Også AIME 2026-resultatet viser en kraftig forbedring sammenlignet med forrige generasjon .

Benchmarkene beviser ikke at modellen er best til alle praktiske oppgaver, men de viser at en enklere multimodal arkitektur ikke nødvendigvis betyr svakere resonnering. I Gemma 4 12Bs tilfelle ser det snarere ut til at Googles valg har prioritert effektiv lokal kjøring uten å gi avkall på krevende modellkapasitet .

Åpne vekter og støtte for lokale verktøy

Gemma 4 12B er lansert under den kommersielt tillatte Apache 2.0-lisensen, i både forhåndstrente og instruksjonsjusterte varianter . Målet er at modellen skal kunne brukes på vanlig forbrukermaskinvare med omtrent 16 GB VRAM eller samlet minne .

For utviklere er støtten rundt lanseringen nesten like viktig som selve modellen. Gemma 4 12B fikk tidlig støtte i flere kjente rammeverk og verktøy for lokal KI:

• llama.cpp: GGUF-kvantisering for effektiv kjøring på CPU og GPU .
• Ollama: Enkel distribusjon fra kommandolinjen på macOS og Linux, fra versjon 0.20 eller nyere .
• LM Studio: Grafisk skrivebordsverktøy for å finne og kjøre lokale modeller .
• MLX: Optimalisert støtte for Apple Silicon og maskiner med samlet minne .
• vLLM: Tilrettelagt for kjøring med høy gjennomstrømning på GPU og TPU .
• Unsloth: Optimaliserte kvantiserte modeller og støtte for finjustering gjennom Unsloth Studio på macOS, Windows og Linux .

Det betyr at modellen kan brukes både som en lokal chatassistent på en bærbar datamaskin og som grunnlag for mer omfattende utvikler- og agentarbeidsflyter.

Gemma Chat viser hva lokal multimodal KI kan brukes til

Sammen med modelløkosystemet finnes også Gemma Chat, en separat åpen kildekode-app for skrivebordet. Appen er bygget med Electron av Google-designeren Ammar Reshi og er lisensiert under MIT .

Gemma Chat kjører Gemma 4-modeller lokalt på Apple Silicon gjennom MLX. Etter at modellen er lastet ned, trengs det ingen API-nøkkel, skytjeneste eller aktiv internettforbindelse .

Den mest konkrete funksjonen er «Build Mode», en kodeagent som lar brukeren beskrive et prosjekt med vanlig språk. Modellen kan deretter generere HTML, CSS og JavaScript for prosjekter med flere filer, mens resultatet vises fortløpende i et forhåndsvisningspanel. Appen støtter også taleinndata og bruker XML-formatering til strukturerte verktøykall, noe som ifølge omtalen har vist seg mer pålitelig enn JSON for denne typen mindre modeller .

Gemma Chat ble opprinnelig lansert rundt april 2026 for andre Gemma 4-varianter. Med den nye 12B-modellen kan appen også kjøre den encoder-frie varianten lokalt gjennom MLX . Det gir et konkret eksempel på en lokal KI-arbeidsflyt der prototyping og enkel kodegenerering kan foregå uten at innholdet sendes til en skytjeneste.

Hva som gjør Gemma 4 12B viktig

Gemma 4 12B handler først og fremst om å gjøre multimodal KI enklere å distribuere. Ved å fjerne separate lyd- og bildekodere reduserer Google den arkitektoniske kompleksiteten og gjør det lettere å kjøre modellen lokalt, finjustere den samlet og koble den til eksisterende verktøy .

For brukeren er effekten enkel å forstå: En modell som kan lese, se og lytte, trenger ikke nødvendigvis et datasenter for å være nyttig. Med riktig kvantisering og maskinvare kan Gemma 4 12B flytte mer av KI-arbeidet fra skyen og inn på laptopen.