Denne muligheten kommer ikke uten kontroverser. Lanseringen har tent en ny debatt om hvor enkelt det er å lage deepfakes, selv om Google har bygget inn det som beskrives som deres strengest regulerte funksjon noensinne, med klare sperrer knyttet til alder, identitetsverifisering og geografisk tilgjengelighet .

Hva funksjonen faktisk er

Den nye Gemini Avatar skiller seg fra de generiske, forhåndslagde avatarene som allerede finnes i Google Vids for jobbrelatert innhold . Dette er en personlig, vedvarende KI-representasjon som bruker ditt virkelige ansikt og stemmeleie til å bygge en modell som «ser ut og høres ut som» deg. Modellen lagres så i Gemini-appen for å kunne lage videoer på forespørsel .

Funksjonen er kun tilgjengelig for brukere med et betalt Google AI Pro- eller Ultra-abonnement, og du får bare tilgang via Gemini-appen for mobil under Innstillinger > Avatar . En nettbasert versjon finnes ikke.

Slik fungerer det i praksis

Oppsettet er bevisst enkelt, men teknologien under panseret er en kombinasjon av flere kraftige modeller:

• Registrering i sanntid: For å forhindre forfalskning basert på stillbilder, må du bruke mobilkameraet til å spille inn en kort direktesending av ansiktet ditt. Systemet fanger opp ansiktsgeometrien, uttrykkene og stemmen din i denne éngangs-skanningen . Under oppstarten blir du bedt om å lese opp en rekke tall .
• Modellering: Googles multimodale Gemini Omni-modell jobber sammen med videogenereringsmotorene Veo 3 og Veo 3.1 for å omforme opptaket til en gjenbrukbar, digital avatar .
• Lagring og gjenbruk: Når avataren er laget, lagres den på kontoen din. Du trenger aldri å laste opp bilder eller spille inn deg selv igjen – du kan bare "kalle på" avataren til et nytt prosjekt .
• Tekst-til-video-generering: Du skriver en instruksjon, som for eksempel «Spill inn en podcast-intro om KI-trender» eller «Vis meg når jeg gir en omvisning i Paris», og avataren animeres i en helt ny scene med synkronisert lyd, leppebevegelser og naturlige gester .

PCWorlds praktiske test bekreftet at oppsettet tar omtrent fem minutter, og at videoene kan bli så autentiske at de føles urovekkende .

Sikkerhetstiltakene Google har innført

Google har markedsført dette som en "sikkerhet først"-funksjon, og sikkerhetsmekanismene er lagdelte:

• Streng 18-årsgrense: Aldersgrensen er ikke basert på selvrapportering. Google verifiserer den opp mot fødselsdatoen som er knyttet til Google-kontoen din, og funksjonen er utilgjengelig for personer under 18 år .
• Krav om direkteskanning: Ved å kreve en skanning i sanntid via kamera, utelukker Google bruk av statiske bilder eller nedlastet media. Dette blokkerer den mest åpenbare veien til å lage en uønsket avatar av en annen person .
• SynthID-vannmerker: Hver video som genereres av funksjonen, får et usynlig digitalt vannmerke via Google DeepMinds SynthID-teknologi. Dette gjør at en KI-innholdsdetektor kan bekrefte det syntetiske opphavet, selv om videoen redigeres eller beskjæres. Frem til Google I/O 2026 har SynthID blitt brukt til å vannmerke over 100 milliarder bilder og videoer .
• Retningslinjer for forbudt bruk: Verktøyet opererer under Googles bredere retningslinjer for forbudt bruk av generativ KI, som eksplisitt forbyr innholdsproduksjon til ulovlige aktiviteter, svindel eller krenkelse av personvernet. Google bruker en kombinasjon av automatisk deteksjon og menneskelig vurdering for å håndheve dette .
• Bruksbegrensninger: For å demme opp for automatisert masseproduksjon, er de fleste brukere begrenset til å lage 20 KI-avatarer i uken og 10 videoer om dagen, avhengig av abonnementsplan .

Derfor er funksjonen ikke tilgjengelig overalt

Til tross for Googles tydelige budskap om sikkerhet, avslører funksjonens tilgjengelighetskart en dyp regulatorisk varsomhet. Det personlige avatarverktøyet er for tiden tilgjengelig i USA og noen få utvalgte regioner, men er eksplisitt blokkert for kontoer eller lokasjoner i Det europeiske økonomiske samarbeidsområdet (EØS), Sveits og Storbritannia . Dette er et betydelig snevrere tilgjengelighetsområde enn den bredere Gemini-nettappen, som støttes i over 230 land og territorier .

Den regionale blokkeringen peker direkte på Europas strengere juridiske rammeverk for biometriske data og KI-ansvar, inkludert EUs KI-forordning (AI Act). Google ser ut til å ha valgt en føre-var-tilnærming for å unngå regulatorisk risiko i disse markedene, selv mens de presser funksjonen ut til brukere i USA .

Deepfake-konteksten som ingen sikkerhetsmekanisme kan løse fullt ut

Lanseringen har ikke blitt hyllet av alle. Den har snarere fornyet den intense diskusjonen rundt kjerneutfordringene ved KI-generert, syntetisk media:

• Normalisering av verktøysettet: Selv om et verktøy er ment for selvkloning, senker det å gjøre en så presis deepfake-teknologi lett tilgjengelig for folk flest, den tekniske terskelen for aktører med ondsinnede hensikter, og normaliserer ideen om å bruke syntetisk video .
• Vedvarende misbruksrisiko: Selv om en direkteskanning stopper misbruk basert på stillbilder, hindrer det ikke en angriper i å presse, lure eller true en person til å registrere seg foran et kamera. Dette er en angrepsvektor som automatiserte systemer ikke lett kan oppdage.
• Avsløringskappløpet: SynthID er et sterkt transparenstiltak og er bakt inn på pikselnivå slik at det overlever redigering og beskjæring . Det er imidlertid en proprietær løsning for Googles egne medier. Det kan ikke hjelpe med å oppdage deepfakes laget av åpen kildekode-modeller eller konkurrerende modeller der vannmerket aldri er påført. Dette understreker begrensningene ved en selskaps-spesifikk løsning.

Googles nye avatar-funksjon representerer et stort sprang for KI-drevet videoskaping på forbrukernivå, men den gjør også én ting klart: reglene, verktøyene og de sosiale normene for å leve med syntetisk media er fortsatt under utforming – og de blir skrevet i sanntid.

Denne muligheten kommer ikke uten kontroverser. Lanseringen har tent en ny debatt om hvor enkelt det er å lage deepfakes, selv om Google har bygget inn det som beskrives som deres strengest regulerte funksjon noensinne, med klare sperrer knyttet til alder, identitetsverifisering og geografisk tilgjengelighet .

Hva funksjonen faktisk er

Den nye Gemini Avatar skiller seg fra de generiske, forhåndslagde avatarene som allerede finnes i Google Vids for jobbrelatert innhold . Dette er en personlig, vedvarende KI-representasjon som bruker ditt virkelige ansikt og stemmeleie til å bygge en modell som «ser ut og høres ut som» deg. Modellen lagres så i Gemini-appen for å kunne lage videoer på forespørsel .

Funksjonen er kun tilgjengelig for brukere med et betalt Google AI Pro- eller Ultra-abonnement, og du får bare tilgang via Gemini-appen for mobil under Innstillinger > Avatar . En nettbasert versjon finnes ikke.

Slik fungerer det i praksis

Oppsettet er bevisst enkelt, men teknologien under panseret er en kombinasjon av flere kraftige modeller:

• Registrering i sanntid: For å forhindre forfalskning basert på stillbilder, må du bruke mobilkameraet til å spille inn en kort direktesending av ansiktet ditt. Systemet fanger opp ansiktsgeometrien, uttrykkene og stemmen din i denne éngangs-skanningen . Under oppstarten blir du bedt om å lese opp en rekke tall .
• Modellering: Googles multimodale Gemini Omni-modell jobber sammen med videogenereringsmotorene Veo 3 og Veo 3.1 for å omforme opptaket til en gjenbrukbar, digital avatar .
• Lagring og gjenbruk: Når avataren er laget, lagres den på kontoen din. Du trenger aldri å laste opp bilder eller spille inn deg selv igjen – du kan bare "kalle på" avataren til et nytt prosjekt .
• Tekst-til-video-generering: Du skriver en instruksjon, som for eksempel «Spill inn en podcast-intro om KI-trender» eller «Vis meg når jeg gir en omvisning i Paris», og avataren animeres i en helt ny scene med synkronisert lyd, leppebevegelser og naturlige gester .

PCWorlds praktiske test bekreftet at oppsettet tar omtrent fem minutter, og at videoene kan bli så autentiske at de føles urovekkende .

Sikkerhetstiltakene Google har innført

Google har markedsført dette som en "sikkerhet først"-funksjon, og sikkerhetsmekanismene er lagdelte:

• Streng 18-årsgrense: Aldersgrensen er ikke basert på selvrapportering. Google verifiserer den opp mot fødselsdatoen som er knyttet til Google-kontoen din, og funksjonen er utilgjengelig for personer under 18 år .
• Krav om direkteskanning: Ved å kreve en skanning i sanntid via kamera, utelukker Google bruk av statiske bilder eller nedlastet media. Dette blokkerer den mest åpenbare veien til å lage en uønsket avatar av en annen person .
• SynthID-vannmerker: Hver video som genereres av funksjonen, får et usynlig digitalt vannmerke via Google DeepMinds SynthID-teknologi. Dette gjør at en KI-innholdsdetektor kan bekrefte det syntetiske opphavet, selv om videoen redigeres eller beskjæres. Frem til Google I/O 2026 har SynthID blitt brukt til å vannmerke over 100 milliarder bilder og videoer .
• Retningslinjer for forbudt bruk: Verktøyet opererer under Googles bredere retningslinjer for forbudt bruk av generativ KI, som eksplisitt forbyr innholdsproduksjon til ulovlige aktiviteter, svindel eller krenkelse av personvernet. Google bruker en kombinasjon av automatisk deteksjon og menneskelig vurdering for å håndheve dette .
• Bruksbegrensninger: For å demme opp for automatisert masseproduksjon, er de fleste brukere begrenset til å lage 20 KI-avatarer i uken og 10 videoer om dagen, avhengig av abonnementsplan .

Derfor er funksjonen ikke tilgjengelig overalt

Til tross for Googles tydelige budskap om sikkerhet, avslører funksjonens tilgjengelighetskart en dyp regulatorisk varsomhet. Det personlige avatarverktøyet er for tiden tilgjengelig i USA og noen få utvalgte regioner, men er eksplisitt blokkert for kontoer eller lokasjoner i Det europeiske økonomiske samarbeidsområdet (EØS), Sveits og Storbritannia . Dette er et betydelig snevrere tilgjengelighetsområde enn den bredere Gemini-nettappen, som støttes i over 230 land og territorier .

Den regionale blokkeringen peker direkte på Europas strengere juridiske rammeverk for biometriske data og KI-ansvar, inkludert EUs KI-forordning (AI Act). Google ser ut til å ha valgt en føre-var-tilnærming for å unngå regulatorisk risiko i disse markedene, selv mens de presser funksjonen ut til brukere i USA .

Deepfake-konteksten som ingen sikkerhetsmekanisme kan løse fullt ut

Lanseringen har ikke blitt hyllet av alle. Den har snarere fornyet den intense diskusjonen rundt kjerneutfordringene ved KI-generert, syntetisk media:

• Normalisering av verktøysettet: Selv om et verktøy er ment for selvkloning, senker det å gjøre en så presis deepfake-teknologi lett tilgjengelig for folk flest, den tekniske terskelen for aktører med ondsinnede hensikter, og normaliserer ideen om å bruke syntetisk video .
• Vedvarende misbruksrisiko: Selv om en direkteskanning stopper misbruk basert på stillbilder, hindrer det ikke en angriper i å presse, lure eller true en person til å registrere seg foran et kamera. Dette er en angrepsvektor som automatiserte systemer ikke lett kan oppdage.
• Avsløringskappløpet: SynthID er et sterkt transparenstiltak og er bakt inn på pikselnivå slik at det overlever redigering og beskjæring . Det er imidlertid en proprietær løsning for Googles egne medier. Det kan ikke hjelpe med å oppdage deepfakes laget av åpen kildekode-modeller eller konkurrerende modeller der vannmerket aldri er påført. Dette understreker begrensningene ved en selskaps-spesifikk løsning.

Googles nye avatar-funksjon representerer et stort sprang for KI-drevet videoskaping på forbrukernivå, men den gjør også én ting klart: reglene, verktøyene og de sosiale normene for å leve med syntetisk media er fortsatt under utforming – og de blir skrevet i sanntid.