Google julkaisi viralliset QAT tarkistuspisteet Gemma 4 malliperheelle, joka koostuu viidestä eri koosta: E2B, E4B, 12B, 26B A4B ja 31B [1][4][5]. QAT tekniikan ansiosta 4 bittiset mallit käyttävät noin 72 % vähemmän muistia säilyttäen silti lähes alkuperäisen suorituskyvyn [5].
JulkaisijaMuokattu mallilla DeepSeek-V4-ProKuvat luotu mallilla GPT Image 1.5
Google julkaisi viralliset QAT tarkistuspisteet Gemma 4 malliperheelle, joka koostuu viidestä eri koosta: E2B, E4B, 12B, 26B A4B ja 31B [1][4][5].
QAT tekniikan ansiosta 4 bittiset mallit käyttävät noin 72 % vähemmän muistia säilyttäen silti lähes alkuperäisen suorituskyvyn [5].
Pienin E2B malli voidaan nyt ajaa mobiililaitteilla jopa noin 1 Gt:n muistilla, mikä avaa oven tehokkaalle tekoälylle älypuhelimissa suoraan laitteella [5][12][13].
Mallien tehokkuus mahdollistaa 31 miljardin parametrin huippumallin suorittamisen tehokkailla kuluttajanäytönohjaimilla, kuten NVIDIA RTX 3090:llä [3][5][10].
What are the key details of Google's June 4 release of Gemma 4 QAT models, including their quantization approach, supported model sizes andGoogle's QAT checkpoints compress Gemma 4 models by roughly 72%, enabling deployment on hardware from smartphones to consumer GPUs.
AI Prompt
Create a landscape editorial hero image for this Studio Global article: What are the key details of Google's June 4 release of Gemma 4 QAT models, including their quantization approach, supported model sizes and. Article summary: Google provides official Quantization-Aware Training (QAT) checkpoints for Gemma 4, and the Gemma 4 lineup includes E2B, E4B, 12B, 26B A4B, and 31B sizes [1][4][5]. Here are the key details.. Topic tags: general, documentation, general web, user generated. Reference image context from search candidates: Reference image 1: visual subject "# What Is Google Gemma 4? Google Gemma 4 is the most capable open model family from DeepMind yet, shipping four sizes under Apache 2.0 with multimodal input, native reasoning, and" source context "What Is Google Gemma 4? Architecture, Benchmarks, and Why It ..." Reference image 2: visual subject "# What Is Google Gemma 4? Google
openai.com
Google on ottanut merkittävän askeleen tekoälyn demokratisoinnissa julkaisemalla 5. kesäkuuta 2026 viralliset Quantization-Aware Training (QAT) -tarkistuspisteet koko Gemma 4 -malliperheelle . Käytännössä tämä tarkoittaa, että massiiviset, aiemmin tehokkaita palvelimia vaatineet kielimallit voidaan nyt kutistaa toimimaan sujuvasti omalla läppärilläsi tai jopa älypuhelimellasi – ja mikä parasta, laatu säilyy lähes ennallaan.
Studio Global AI
Continue your research
This page includes a source-backed answer you can continue inside Studio Global.
What is the short answer to "Googlen uudet Gemma 4 QAT -mallit tuovat huipputekoälyn älypuhelimeesi – muistinkulutus romahti 72 %"?
Google julkaisi viralliset QAT tarkistuspisteet Gemma 4 malliperheelle, joka koostuu viidestä eri koosta: E2B, E4B, 12B, 26B A4B ja 31B [1][4][5].
What are the key points to validate first?
Google julkaisi viralliset QAT tarkistuspisteet Gemma 4 malliperheelle, joka koostuu viidestä eri koosta: E2B, E4B, 12B, 26B A4B ja 31B [1][4][5]. QAT tekniikan ansiosta 4 bittiset mallit käyttävät noin 72 % vähemmän muistia säilyttäen silti lähes alkuperäisen suorituskyvyn [5].
What should I do next in practice?
Pienin E2B malli voidaan nyt ajaa mobiililaitteilla jopa noin 1 Gt:n muistilla, mikä avaa oven tehokkaalle tekoälylle älypuhelimissa suoraan laitteella [5][12][13].
Google julkaisi viralliset QAT tarkistuspisteet Gemma 4 malliperheelle, joka koostuu viidestä eri koosta: E2B, E4B, 12B, 26B A4B ja 31B [1][4][5]. QAT tekniikan ansiosta 4 bittiset mallit käyttävät noin 72 % vähemmän muistia säilyttäen silti lähes alkuperäisen suorituskyvyn [5].
JulkaisijaMuokattu mallilla DeepSeek-V4-ProKuvat luotu mallilla GPT Image 1.5
Google julkaisi viralliset QAT tarkistuspisteet Gemma 4 malliperheelle, joka koostuu viidestä eri koosta: E2B, E4B, 12B, 26B A4B ja 31B [1][4][5].
QAT tekniikan ansiosta 4 bittiset mallit käyttävät noin 72 % vähemmän muistia säilyttäen silti lähes alkuperäisen suorituskyvyn [5].
Pienin E2B malli voidaan nyt ajaa mobiililaitteilla jopa noin 1 Gt:n muistilla, mikä avaa oven tehokkaalle tekoälylle älypuhelimissa suoraan laitteella [5][12][13].
Mallien tehokkuus mahdollistaa 31 miljardin parametrin huippumallin suorittamisen tehokkailla kuluttajanäytönohjaimilla, kuten NVIDIA RTX 3090:llä [3][5][10].
What are the key details of Google's June 4 release of Gemma 4 QAT models, including their quantization approach, supported model sizes andGoogle's QAT checkpoints compress Gemma 4 models by roughly 72%, enabling deployment on hardware from smartphones to consumer GPUs.
AI Prompt
Create a landscape editorial hero image for this Studio Global article: What are the key details of Google's June 4 release of Gemma 4 QAT models, including their quantization approach, supported model sizes and. Article summary: Google provides official Quantization-Aware Training (QAT) checkpoints for Gemma 4, and the Gemma 4 lineup includes E2B, E4B, 12B, 26B A4B, and 31B sizes [1][4][5]. Here are the key details.. Topic tags: general, documentation, general web, user generated. Reference image context from search candidates: Reference image 1: visual subject "# What Is Google Gemma 4? Google Gemma 4 is the most capable open model family from DeepMind yet, shipping four sizes under Apache 2.0 with multimodal input, native reasoning, and" source context "What Is Google Gemma 4? Architecture, Benchmarks, and Why It ..." Reference image 2: visual subject "# What Is Google Gemma 4? Google
openai.com
Google on ottanut merkittävän askeleen tekoälyn demokratisoinnissa julkaisemalla 5. kesäkuuta 2026 viralliset Quantization-Aware Training (QAT) -tarkistuspisteet koko Gemma 4 -malliperheelle . Käytännössä tämä tarkoittaa, että massiiviset, aiemmin tehokkaita palvelimia vaatineet kielimallit voidaan nyt kutistaa toimimaan sujuvasti omalla läppärilläsi tai jopa älypuhelimellasi – ja mikä parasta, laatu säilyy lähes ennallaan.
Studio Global AI
Continue your research
This page includes a source-backed answer you can continue inside Studio Global.
What is the short answer to "Googlen uudet Gemma 4 QAT -mallit tuovat huipputekoälyn älypuhelimeesi – muistinkulutus romahti 72 %"?
Google julkaisi viralliset QAT tarkistuspisteet Gemma 4 malliperheelle, joka koostuu viidestä eri koosta: E2B, E4B, 12B, 26B A4B ja 31B [1][4][5].
What are the key points to validate first?
Google julkaisi viralliset QAT tarkistuspisteet Gemma 4 malliperheelle, joka koostuu viidestä eri koosta: E2B, E4B, 12B, 26B A4B ja 31B [1][4][5]. QAT tekniikan ansiosta 4 bittiset mallit käyttävät noin 72 % vähemmän muistia säilyttäen silti lähes alkuperäisen suorituskyvyn [5].
What should I do next in practice?
Pienin E2B malli voidaan nyt ajaa mobiililaitteilla jopa noin 1 Gt:n muistilla, mikä avaa oven tehokkaalle tekoälylle älypuhelimissa suoraan laitteella [5][12][13].
Perinteinen kvantisointi (Post-Training Quantization eli PTQ) toimii vähän kuin pakkaisi valmiin valokuvan pienempään tiedostokokoon – tiedosto pienenee, mutta kuvanlaatu usein kärsii . QAT puolestaan on kuin opettaisi valokuvaajaa ottamaan kuvan suoraan optimaalisessa, pakatussa muodossa. Quantization-Aware Training simuloi kvantisointiprosessia jo mallin koulutusvaiheessa, jolloin malli oppii kompensoimaan tarkkuuden menetyksen .
Tulos on hämmästyttävä: 4-bittiset mallit käyttävät noin 72 % vähemmän muistia, mutta niiden suorituskyky on lähes identtinen alkuperäisen 16-bittisen version kanssa . Viralliset tarkistuspisteet käyttävät W4A16-mallia, jossa painot ovat 4-bittisiä kokonaislukuja ja aktivaatiot 16-bittisiä hyödyntäen compressed-tensors-formaattia .
Gemma 4 -mallisto ja muistivaatimukset
Gemma 4 -perhe kattaa viisi eri kokoluokkaa aina ultramobiilista raskaaseen sarjaan . Alla oleva taulukko havainnollistaa, miten dramaattisesti QAT-kvantisointi keventää malleja.
Saatavilla olevat formaatit: Valitse oikea työkalu
Oikean tiedostomuodon valinta on ratkaisevan tärkeää sekä yhteensopivuuden että suorituskyvyn kannalta. Google tarjoaa useita eri vaihtoehtoja :
Compressed-tensors: Virallinen W4A16-muoto, joka on optimoitu erityisesti vLLM-päättelymoottorille. Tämä on turvallisin valinta, jos tavoitteena on säilyttää QAT:n laatuetu .
GGUF / Q4_0: Laajalti yhteensopiva formaatti esimerkiksi Ollama- ja llama.cpp-työkaluille. Tärkeä huomio: QAT-painojen naiivi muuntaminen Q4_0-muotoon voi romahduttaa tarkkuuden. Esimerkiksi 26B-mallilla saavutettiin näin vain 70.2 % top-1-tarkkuus.
Mobiiliformaatti: Erityinen, hyvin kevyt pakkausmuoto E2B- ja E4B-malleille älypuhelinkäyttöä varten. Tällä formaatilla E2B-mallin pystyy ajamaan jo noin 1 Gt:n muistilla .
Oletustarkkuuden mallit: Gemma 4 -mallit ovat saatavilla myös alkuperäisellä 16-bittisellä tarkkuudellaan, mikäli kvantisointia ei haluta käyttää .
Mitä tämä tarkoittaa käytännössä eri laitteilla?
QAT:n läpimurto avaa ovia, jotka olivat aiemmin tiukasti kiinni.
Älypuhelimet ja mobiililaitteet: Tämä on suurin mullistus. E2B-malli on suunniteltu nimenomaan mobiililaitteille, ja sille on tarjolla erityinen mobiilikvantisointi . Voit ajaa tehokasta tekoälyä, joka ymmärtää tekstiä, kuvia ja puhetta, täysin offline-tilassa omalla puhelimellasi ilman datakeskuksia .
Edulliset näytönohjaimet (8 Gt VRAM): E2B, E4B ja jopa 12B-mallit toimivat mainiosti 4-bittisinä . Tämä tuo kehittyneen koodiavustajan ja monimutkaisen tekstinkäsittelyn jokaisen peruspelitietokoneenkin ulottuville.
Tehokkaat kuluttajanäytönohjaimet (12–24 Gt VRAM): 26B MoE -malli ja 31B:n tiheä huippumalli muuttuvat realistisiksi vaihtoehdoiksi. 26B A4B -malli on erityisen ovela: se on asiantuntijasekoitus, joka aktivoi vain pienen osan parametreistaan kutakin tehtävää varten, yhdistäen suuren mallin älykkyyden pienen mallin nopeuteen . Lippulaivamalli, 31B, tarjoaa massiivisen 256 000 tokenin konteksti-ikkunan . 4-bittisenä se mahtuu noin 18 gigatavuun, mikä on mahdollista esimerkiksi tehokkaalla RTX 3090 -näytönohjaimella . Käyttäjät pääsevät siis käsiksi lähes palvelinluokan tekstin- ja koodintuottoon omalta työpöydältään.
Tärkein varoituksen sana
QAT:n laatuetu on merkittävä juuri 4-bittisessä tarkkuudessa, mutta se ei ole automaattinen. Kuten aiemmin mainittiin, painojen huolimaton muuntaminen standardiin Q4_0-formaattiin voi johtaa laadun romahtamiseen. Kun tavoittelet parasta mahdollista suorituskykyä, suosi virallisia QAT:lle optimoituja pakattuja muotoja .
Perinteinen kvantisointi (Post-Training Quantization eli PTQ) toimii vähän kuin pakkaisi valmiin valokuvan pienempään tiedostokokoon – tiedosto pienenee, mutta kuvanlaatu usein kärsii . QAT puolestaan on kuin opettaisi valokuvaajaa ottamaan kuvan suoraan optimaalisessa, pakatussa muodossa. Quantization-Aware Training simuloi kvantisointiprosessia jo mallin koulutusvaiheessa, jolloin malli oppii kompensoimaan tarkkuuden menetyksen .
Tulos on hämmästyttävä: 4-bittiset mallit käyttävät noin 72 % vähemmän muistia, mutta niiden suorituskyky on lähes identtinen alkuperäisen 16-bittisen version kanssa . Viralliset tarkistuspisteet käyttävät W4A16-mallia, jossa painot ovat 4-bittisiä kokonaislukuja ja aktivaatiot 16-bittisiä hyödyntäen compressed-tensors-formaattia .
Gemma 4 -mallisto ja muistivaatimukset
Gemma 4 -perhe kattaa viisi eri kokoluokkaa aina ultramobiilista raskaaseen sarjaan . Alla oleva taulukko havainnollistaa, miten dramaattisesti QAT-kvantisointi keventää malleja.
Saatavilla olevat formaatit: Valitse oikea työkalu
Oikean tiedostomuodon valinta on ratkaisevan tärkeää sekä yhteensopivuuden että suorituskyvyn kannalta. Google tarjoaa useita eri vaihtoehtoja :
Compressed-tensors: Virallinen W4A16-muoto, joka on optimoitu erityisesti vLLM-päättelymoottorille. Tämä on turvallisin valinta, jos tavoitteena on säilyttää QAT:n laatuetu .
GGUF / Q4_0: Laajalti yhteensopiva formaatti esimerkiksi Ollama- ja llama.cpp-työkaluille. Tärkeä huomio: QAT-painojen naiivi muuntaminen Q4_0-muotoon voi romahduttaa tarkkuuden. Esimerkiksi 26B-mallilla saavutettiin näin vain 70.2 % top-1-tarkkuus.
Mobiiliformaatti: Erityinen, hyvin kevyt pakkausmuoto E2B- ja E4B-malleille älypuhelinkäyttöä varten. Tällä formaatilla E2B-mallin pystyy ajamaan jo noin 1 Gt:n muistilla .
Oletustarkkuuden mallit: Gemma 4 -mallit ovat saatavilla myös alkuperäisellä 16-bittisellä tarkkuudellaan, mikäli kvantisointia ei haluta käyttää .
Mitä tämä tarkoittaa käytännössä eri laitteilla?
QAT:n läpimurto avaa ovia, jotka olivat aiemmin tiukasti kiinni.
Älypuhelimet ja mobiililaitteet: Tämä on suurin mullistus. E2B-malli on suunniteltu nimenomaan mobiililaitteille, ja sille on tarjolla erityinen mobiilikvantisointi . Voit ajaa tehokasta tekoälyä, joka ymmärtää tekstiä, kuvia ja puhetta, täysin offline-tilassa omalla puhelimellasi ilman datakeskuksia .
Edulliset näytönohjaimet (8 Gt VRAM): E2B, E4B ja jopa 12B-mallit toimivat mainiosti 4-bittisinä . Tämä tuo kehittyneen koodiavustajan ja monimutkaisen tekstinkäsittelyn jokaisen peruspelitietokoneenkin ulottuville.
Tehokkaat kuluttajanäytönohjaimet (12–24 Gt VRAM): 26B MoE -malli ja 31B:n tiheä huippumalli muuttuvat realistisiksi vaihtoehdoiksi. 26B A4B -malli on erityisen ovela: se on asiantuntijasekoitus, joka aktivoi vain pienen osan parametreistaan kutakin tehtävää varten, yhdistäen suuren mallin älykkyyden pienen mallin nopeuteen . Lippulaivamalli, 31B, tarjoaa massiivisen 256 000 tokenin konteksti-ikkunan . 4-bittisenä se mahtuu noin 18 gigatavuun, mikä on mahdollista esimerkiksi tehokkaalla RTX 3090 -näytönohjaimella . Käyttäjät pääsevät siis käsiksi lähes palvelinluokan tekstin- ja koodintuottoon omalta työpöydältään.
Tärkein varoituksen sana
QAT:n laatuetu on merkittävä juuri 4-bittisessä tarkkuudessa, mutta se ei ole automaattinen. Kuten aiemmin mainittiin, painojen huolimaton muuntaminen standardiin Q4_0-formaattiin voi johtaa laadun romahtamiseen. Kun tavoittelet parasta mahdollista suorituskykyä, suosi virallisia QAT:lle optimoituja pakattuja muotoja .
