Gir øyeblikk en «interessanthetsverdi»

En av de mest vidtrekkende ideene i søknaden er en score for «interestingness», eller relevans. Assistenten kan bruke faktorer som en persons identitet, forholdet til brukeren, aktivitet, ansiktsuttrykk, blikk og tidligere preferanser for å avgjøre hvilke personer eller øyeblikk som fortjener oppmerksomhet.

En slik score kan påvirke hva som blir tatt opp, lagret, fremhevet eller utelatt. I stedet for å behandle hvert bilde likt, legger systemet et personlig redaksjonelt filter over brukerens opplevelse – og avgjør automatisk hva som er viktig.

Lager personlige videoer uten manuell redigering

Systemet som beskrives, kan generere merkede opptak, organisere materiale rundt personer eller handlinger det kjenner igjen, og lage høydepunktfiler eller annet personlig innhold. En bruker kan dermed få en ferdigredigert video fra en sammenkomst, samtale eller begivenhet uten å velge hvert enkelt opptak selv.

Det er produktmuligheten i søknaden: smartkameraer som delvis fungerer som en autonom fotograf og videoredigerer. Samtidig er dette også personvernutfordringen, fordi systemet kan velge ut og bevare øyeblikk med mennesker som aldri har samtykket til å inngå i et AI-generert mediearkiv.

Sladding av andre er et sikkerhetstiltak – ikke en full løsning

Patentsøknaden omtaler også personvernfunksjoner, blant annet muligheten for å sladde personer som ikke skal kunne identifiseres. Det tyder på at dokumentet anerkjenner behovet for å begrense eksponeringen i automatiserte kamerasystemer.

Men søknaden alene svarer ikke på spørsmålene som avgjør hvor effektivt tiltaket faktisk ville være:

• Ville sladding vært aktivert som standard?
• Ville den skjedd på brillene, før bildene forlot enheten?
• Kunne en forbipasserende kreve at opptaket ble slettet eller at behandlingen ble stanset?
• Ville ansiktsgjenkjenningen skjedd før personen ble sladdet?
• Hvor lenge ville usladdede bilder eller biometriske representasjoner blitt lagret?

En sladdet sluttvideo fjerner ikke nødvendigvis personverninngrepet dersom systemet allerede har registrert og analysert ansiktet, eller gjort det om til en biometrisk mal.

Koblingen til Metas omtalte «NameTag»-arbeid

Patentsøknaden er særlig interessant fordi den kommer samtidig med separat omtale av programvaren til Metas smartbriller. Forskere skal ha funnet inaktive komponenter for ansiktsgjenkjenning, internt kalt «NameTag», i Meta AI-appen som brukes sammen med brillene. Den omtalte koden inneholdt komponenter for ansiktsdeteksjon og -gjenkjenning, samt et system som skulle kunne utløse varsler som «Person recognized».

Funksjonen var ikke offentlig tilgjengelig som et forbrukerprodukt, og den aktuelle koden ble senere fjernet i en appoppdatering etter offentlig oppmerksomhet. Bevisbildet er derfor annerledes enn for patentsøknaden: Patentet beskriver en bred teknisk plan, mens app-undersøkelsen skal ha avdekket mer konkrete programvarekomponenter. Ingen av delene beviser, basert på materialet som foreligger, at Meta har aktivert identifisering av fremmede i forbrukerbriller.

Hva avtalen med Rank One Computing tilfører

Medieomtale har også knyttet Metas interne arbeid med smartbriller til en lisens for ansiktsgjenkjenning og såkalt «liveness detection» fra Rank One Computing – et selskap som leverer teknologi til offentlige, militære og politimessige kunder.

En lisens er ikke bevis på at Meta har tatt teknologien i bruk, og sier heller ikke hvordan en eventuell forbrukerfunksjon ville fungere. Den kan likevel tyde på at Meta evaluerer eller utvikler teknologi sammen med en konkret leverandør av biometriske systemer, og at arbeidet derfor går utover en rent hypotetisk patentidé.

Patentet, den omtalte appkoden og leverandørforholdet viser samlet et mønster av utforskning. Den forsiktige konklusjonen er fortsatt begrenset: Materialet peker mot teknisk kapasitet og utviklingsaktivitet, ikke en bekreftet offentlig lansering.

Metas historikk gjør forslaget ekstra følsomt

Meta kunngjorde tidligere at selskapet skulle avslutte Facebooks brede system for ansiktsgjenkjenning og slette mer enn én milliard ansiktsmaler. Ifølge omtalen i kildematerialet inngikk selskapet senere et forlik på 650 millioner dollar i et søksmål fra brukere i Illinois.

I 2024 gikk Meta også med på et forlik på 1,4 milliarder dollar med Texas etter anklager om at selskapet hadde samlet inn og brukt biometriske data om innbyggere uten den tillatelsen delstatsloven krevde.

Denne historikken forklarer hvorfor et nytt biometrisk system i briller som ser ut som vanlige briller, blir møtt med større skepsis enn en tradisjonell kamerafunksjon. De fleste forstår når noen tar et bilde med mobilen. Smartbriller kan gjøre opptak mindre synlige, mer kontinuerlige og enklere å bruke i vanlige sosiale situasjoner.

De viktigste overvåkings- og sikkerhetsbekymringene

Ansiktsgjenkjenning endrer problemet fra «noen kan ta opp» til «noen kan identifisere og profilere personene som blir filmet». Senator Edward Markeys kontor advarte om at Metas omfattende datamengder, kombinert med kameraer i smartbriller, potensielt kan koble ansikter til navn, arbeidsplasser eller personlige profiler. Det kan skape risiko for stalking, trakassering og målrettet skremming.

Organisasjoner som arbeider med borgerrettigheter, vold i nære relasjoner, reproduktive rettigheter, LHBTQ+-rettigheter og støtte til innvandrere, har også bedt Meta droppe de omtalte planene om ansiktsgjenkjenning i brillene. Bekymringen er blant annet at overgripere, stalkere eller andre med onde hensikter kan identifisere mennesker diskret i offentligheten.

Risikoen forsterkes av brillenes utforming. En person i brukerens synsfelt vet kanskje ikke om kameraet tar opp, om en AI-modell analyserer ansiktet, eller om resultatet lagres for senere sammenligning. Forbipasserende kan ikke gi et reelt informert samtykke hver gang de tilfeldigvis kommer inn i kameraets synsfelt.

Det avgjørende skillet: kapasitet, utforskning og lansering

Den mest presise måten å lese materialet på er å skille mellom tre nivåer:

1. Kapasitet: Metas patentsøknad beskriver ansiktsgjenkjenning, sceneanalyse, relevansscoring og automatisk produksjon av medier.
2. Utforskning: Omtalt NameTag-kode og en lisens fra Rank One Computing tyder på arbeid med konkrete ansiktsgjenkjenningssystemer, selv om den omtalte koden ble fjernet og funksjonen ikke ble lansert offentlig.
3. Lansering: Materialet som foreligger, dokumenterer ikke at Meta i dag tilbyr offentlige smartbriller som identifiserer fremmede i sanntid.

Dette skillet bør stå sentralt i all omtale av patentet. Det er feil å kalle søknaden et bevis på at Meta har lansert briller med ansiktsgjenkjenning. Samtidig blir det for snevert å behandle den som et isolert tankeeksperiment når den kommer sammen med rapporter om programvare og leverandøraktivitet.

Det politiske spørsmålet er hvilke sikkerhetstiltak som måtte kreves dersom disse delene noen gang ble kombinert: uttrykkelig samtykke, strenge grenser for lagring, effektiv beskyttelse av forbipasserende, reell mulighet til å få data slettet og tydelige grenser for sensitive bruksområder. Inntil Meta forklarer om og hvordan et slikt system skal fungere, er patentet best forstått som et varsel om hvilken retning bærbare AI-kameraer kan ta – ikke som en bekreftelse på at overvåkingsscenarioet allerede er blitt en del av hverdagen.

Gir øyeblikk en «interessanthetsverdi»

En av de mest vidtrekkende ideene i søknaden er en score for «interestingness», eller relevans. Assistenten kan bruke faktorer som en persons identitet, forholdet til brukeren, aktivitet, ansiktsuttrykk, blikk og tidligere preferanser for å avgjøre hvilke personer eller øyeblikk som fortjener oppmerksomhet.

En slik score kan påvirke hva som blir tatt opp, lagret, fremhevet eller utelatt. I stedet for å behandle hvert bilde likt, legger systemet et personlig redaksjonelt filter over brukerens opplevelse – og avgjør automatisk hva som er viktig.

Lager personlige videoer uten manuell redigering

Systemet som beskrives, kan generere merkede opptak, organisere materiale rundt personer eller handlinger det kjenner igjen, og lage høydepunktfiler eller annet personlig innhold. En bruker kan dermed få en ferdigredigert video fra en sammenkomst, samtale eller begivenhet uten å velge hvert enkelt opptak selv.

Det er produktmuligheten i søknaden: smartkameraer som delvis fungerer som en autonom fotograf og videoredigerer. Samtidig er dette også personvernutfordringen, fordi systemet kan velge ut og bevare øyeblikk med mennesker som aldri har samtykket til å inngå i et AI-generert mediearkiv.

Sladding av andre er et sikkerhetstiltak – ikke en full løsning

Patentsøknaden omtaler også personvernfunksjoner, blant annet muligheten for å sladde personer som ikke skal kunne identifiseres. Det tyder på at dokumentet anerkjenner behovet for å begrense eksponeringen i automatiserte kamerasystemer.

Men søknaden alene svarer ikke på spørsmålene som avgjør hvor effektivt tiltaket faktisk ville være:

• Ville sladding vært aktivert som standard?
• Ville den skjedd på brillene, før bildene forlot enheten?
• Kunne en forbipasserende kreve at opptaket ble slettet eller at behandlingen ble stanset?
• Ville ansiktsgjenkjenningen skjedd før personen ble sladdet?
• Hvor lenge ville usladdede bilder eller biometriske representasjoner blitt lagret?

En sladdet sluttvideo fjerner ikke nødvendigvis personverninngrepet dersom systemet allerede har registrert og analysert ansiktet, eller gjort det om til en biometrisk mal.

Koblingen til Metas omtalte «NameTag»-arbeid

Patentsøknaden er særlig interessant fordi den kommer samtidig med separat omtale av programvaren til Metas smartbriller. Forskere skal ha funnet inaktive komponenter for ansiktsgjenkjenning, internt kalt «NameTag», i Meta AI-appen som brukes sammen med brillene. Den omtalte koden inneholdt komponenter for ansiktsdeteksjon og -gjenkjenning, samt et system som skulle kunne utløse varsler som «Person recognized».

Funksjonen var ikke offentlig tilgjengelig som et forbrukerprodukt, og den aktuelle koden ble senere fjernet i en appoppdatering etter offentlig oppmerksomhet. Bevisbildet er derfor annerledes enn for patentsøknaden: Patentet beskriver en bred teknisk plan, mens app-undersøkelsen skal ha avdekket mer konkrete programvarekomponenter. Ingen av delene beviser, basert på materialet som foreligger, at Meta har aktivert identifisering av fremmede i forbrukerbriller.

Hva avtalen med Rank One Computing tilfører

Medieomtale har også knyttet Metas interne arbeid med smartbriller til en lisens for ansiktsgjenkjenning og såkalt «liveness detection» fra Rank One Computing – et selskap som leverer teknologi til offentlige, militære og politimessige kunder.

En lisens er ikke bevis på at Meta har tatt teknologien i bruk, og sier heller ikke hvordan en eventuell forbrukerfunksjon ville fungere. Den kan likevel tyde på at Meta evaluerer eller utvikler teknologi sammen med en konkret leverandør av biometriske systemer, og at arbeidet derfor går utover en rent hypotetisk patentidé.

Patentet, den omtalte appkoden og leverandørforholdet viser samlet et mønster av utforskning. Den forsiktige konklusjonen er fortsatt begrenset: Materialet peker mot teknisk kapasitet og utviklingsaktivitet, ikke en bekreftet offentlig lansering.

Metas historikk gjør forslaget ekstra følsomt

Meta kunngjorde tidligere at selskapet skulle avslutte Facebooks brede system for ansiktsgjenkjenning og slette mer enn én milliard ansiktsmaler. Ifølge omtalen i kildematerialet inngikk selskapet senere et forlik på 650 millioner dollar i et søksmål fra brukere i Illinois.

I 2024 gikk Meta også med på et forlik på 1,4 milliarder dollar med Texas etter anklager om at selskapet hadde samlet inn og brukt biometriske data om innbyggere uten den tillatelsen delstatsloven krevde.

Denne historikken forklarer hvorfor et nytt biometrisk system i briller som ser ut som vanlige briller, blir møtt med større skepsis enn en tradisjonell kamerafunksjon. De fleste forstår når noen tar et bilde med mobilen. Smartbriller kan gjøre opptak mindre synlige, mer kontinuerlige og enklere å bruke i vanlige sosiale situasjoner.

De viktigste overvåkings- og sikkerhetsbekymringene

Ansiktsgjenkjenning endrer problemet fra «noen kan ta opp» til «noen kan identifisere og profilere personene som blir filmet». Senator Edward Markeys kontor advarte om at Metas omfattende datamengder, kombinert med kameraer i smartbriller, potensielt kan koble ansikter til navn, arbeidsplasser eller personlige profiler. Det kan skape risiko for stalking, trakassering og målrettet skremming.

Organisasjoner som arbeider med borgerrettigheter, vold i nære relasjoner, reproduktive rettigheter, LHBTQ+-rettigheter og støtte til innvandrere, har også bedt Meta droppe de omtalte planene om ansiktsgjenkjenning i brillene. Bekymringen er blant annet at overgripere, stalkere eller andre med onde hensikter kan identifisere mennesker diskret i offentligheten.

Risikoen forsterkes av brillenes utforming. En person i brukerens synsfelt vet kanskje ikke om kameraet tar opp, om en AI-modell analyserer ansiktet, eller om resultatet lagres for senere sammenligning. Forbipasserende kan ikke gi et reelt informert samtykke hver gang de tilfeldigvis kommer inn i kameraets synsfelt.

Det avgjørende skillet: kapasitet, utforskning og lansering

Den mest presise måten å lese materialet på er å skille mellom tre nivåer:

1. Kapasitet: Metas patentsøknad beskriver ansiktsgjenkjenning, sceneanalyse, relevansscoring og automatisk produksjon av medier.
2. Utforskning: Omtalt NameTag-kode og en lisens fra Rank One Computing tyder på arbeid med konkrete ansiktsgjenkjenningssystemer, selv om den omtalte koden ble fjernet og funksjonen ikke ble lansert offentlig.
3. Lansering: Materialet som foreligger, dokumenterer ikke at Meta i dag tilbyr offentlige smartbriller som identifiserer fremmede i sanntid.

Dette skillet bør stå sentralt i all omtale av patentet. Det er feil å kalle søknaden et bevis på at Meta har lansert briller med ansiktsgjenkjenning. Samtidig blir det for snevert å behandle den som et isolert tankeeksperiment når den kommer sammen med rapporter om programvare og leverandøraktivitet.

Det politiske spørsmålet er hvilke sikkerhetstiltak som måtte kreves dersom disse delene noen gang ble kombinert: uttrykkelig samtykke, strenge grenser for lagring, effektiv beskyttelse av forbipasserende, reell mulighet til å få data slettet og tydelige grenser for sensitive bruksområder. Inntil Meta forklarer om og hvordan et slikt system skal fungere, er patentet best forstått som et varsel om hvilken retning bærbare AI-kameraer kan ta – ikke som en bekreftelse på at overvåkingsscenarioet allerede er blitt en del av hverdagen.