Metas Muse: Hva AI-agenten kan gjøre – og hvorfor personvernet vekker uro

En AI-agent som kan gjøre ting – ikke bare svare

Muse er Metas nye personlige AI-agent. I motsetning til en vanlig chatbot, som primært svarer på spørsmål eller skriver tekst, er den laget for å bruke apper og nettsteder på vegne av brukeren. Meta lanserte tjenesten 8. september, først i USA, gjennom en egen Muse-app og WhatsApp. 23

Brukeren kan be Muse om å blant annet sende e-post, planlegge avtaler, kjøpe varer, legge ut ting for salg og bestille reiser. Den kan kobles til tjenester innen e-post, kalender, betalinger, helse, handel og smarthjem. Muse kan også hente kontekst fra Metas egne tjenester, som Instagram og Facebook. 2316

Gratisversjon og to betalte nivåer

Meta tilbyr en gratis grunnversjon. For mer omfattende bruk er det oppgitt abonnementer på 20 og 100 dollar per måned. Hvilket nivå som passer, avhenger av bruksmengde og funksjoner. 1319

Det er nettopp kombinasjonen av praktiske funksjoner og tilgang til mange kontoer som gjør Muse annerledes – og mer risikabel enn en vanlig tekstassistent.

Hvorfor en test med Gmail og Amazon skapte uro

En anmelder som koblet Muse til Gmail og Amazon, rapporterte at assistenten satte sammen en «urovekkende» stor mengde personopplysninger. Den skal blant annet ha utledet hvor brukeren befant seg fra Amazon-aktivitet og trukket slutninger om interesser fra Instagram-data. 13

Hovedproblemet er ikke bare at en AI kan lese data brukeren har gitt tillatelse til. Når informasjon fra e-post, kjøp, sosiale medier og andre tjenester kobles sammen, kan systemet trekke slutninger om vaner, interesser og livssituasjon som ikke er oppgitt direkte i noen enkelt tjeneste. 13

Metas sikkerhetsløfter – og begrensningene ved dem

Meta sier at Muse kjører i en isolert «Muse Secure VM», altså et separat digitalt miljø med egen nettleser. Selskapet sier også at Muse ikke ser brukernes faktiske passord, og at sensitive handlinger som meldinger og betalinger skal kreve bekreftelse. 111719

Slike mekanismer kan redusere risikoen, men løser ikke alt. Brede tilgangstillatelser kan fortsatt gi agenten tilgang til svært personlige opplysninger. Det finnes også risiko for feilhandlinger, datalekkasjer og følsomme slutninger basert på data den legitimt har fått tilgang til.

Reuters rapporterte dessuten at interne tester av Muse viste tilfeller der produktet stoppet opp og der sensitive data ble eksponert uten autorisasjon. 216

En separat Instagram-kontrovers

Personverndebatten rundt Muse kommer i tillegg til en tidligere, separat sak knyttet til Metas bildeverktøy Muse Image. I juli lot funksjonen brukere lage AI-bilder med utgangspunkt i offentlige Instagram-kontoer. Ordningen fikk raskt kritikk fordi folks offentlige profilinnhold og utseende kunne brukes uten at de nødvendigvis visste om det. 56

Meta stanset funksjonen få dager etter lanseringen. Selskapet sa at det hadde «bommet» og lyttet til tilbakemeldingene. 58

Denne saken gjaldt ikke den nye Muse-agenten, men den bidrar til å forklare hvorfor nye Meta-produkter som ber om tilgang til personlige data møtes med ekstra skepsis.

Tillit blir den avgjørende testen

Muse kan være nyttig dersom tilgangene er smale, enkle å trekke tilbake og alle handlinger utad krever tydelig godkjenning. Men e-post, kalendere, betalinger og helsedata er blant de mest følsomme digitale sporene mange har.

Meta har samtidig nylig inngått et forlik verdsatt til opptil 18 milliarder dollar med nesten alle amerikanske delstater i saker om påstander knyttet til avhengighetsskapende design og mindreårige på Facebook og Instagram. 1

På den bakgrunnen er det grunn til å være forsiktig med å gi Muse vedvarende og omfattende tilgang – særlig til primær e-post, økonomiske tjenester, helseopplysninger og data om barn. Funksjonalitet er ikke det samme som tillit.