Metas Muse kan sköta mejl och betalningar – men väcker nya integritetsfrågor

Muse är Metas nya personliga AI-agent: en chattliknande assistent som inte bara svarar på frågor, utan kan utföra handlingar i tjänster som användaren kopplar samman. Det kan göra den användbar för exempelvis mejl, kalender, shopping, resor och betalningar – men innebär också att den får en ovanligt bred åtkomst till personliga uppgifter. 23

Vad Muse kan göra – och vad den kostar

Muse kan kopplas till bland annat e-post, kalender, betaltjänster, hälsotjänster och smarta hem. Användaren kan be agenten att skriva och skicka mejl, planera uppgifter, köpa varor, lägga ut saker till försäljning eller boka resor. Vid lanseringen den 8 september var tjänsten endast tillgänglig i USA, via en separat Muse-app och WhatsApp. 23

Det finns en kostnadsfri version. För mer omfattande användning har Meta även abonnemang som uppges kosta 20 respektive 100 dollar i månaden. 13

Varför kopplingen till Gmail och Amazon väckte oro

Den centrala invändningen gäller inte bara att Muse kan läsa data som användaren har godkänt åtkomst till. När information från flera tjänster kombineras kan agenten också dra slutsatser som användaren aldrig uttryckligen har lämnat i en enda app.

En recensent som kopplade Muse till Gmail och Amazon beskrev mängden personuppgifter som agenten sammanställde som obehaglig. Enligt testet kunde den bland annat härleda var användaren befann sig utifrån Amazon-aktivitet och få fram intresseområden från Instagram-data. 13

Det är just denna typ av tvärgående profilering som gör en personlig AI-agent mer integritetskänslig än en vanlig chattbot: varje enskild datakälla kan vara tillåten, men helhetsbilden kan bli betydligt mer avslöjande.

Metas skyddsåtgärder

Meta uppger att Muse körs i en separat, isolerad miljö kallad Muse Secure VM, med en egen webbläsare. Företaget säger också att agenten inte får se användarens faktiska lösenord och att vissa känsliga åtgärder ska kräva en bekräftelse från användaren. 1119

Det är viktiga utformningsprinciper, men de undanröjer inte alla risker. För breda behörigheter, felaktigt utförda åtgärder, exponering av data eller känsliga slutsatser som dras från data agenten har legitim tillgång till är fortfarande möjliga problem. Reuters rapporterade dessutom att interna tester hade visat både stopp i systemet och obehörig exponering av känsliga uppgifter. 2

Den separata Instagram-incidenten om barn

En uppmärksammad incident med Instagram rörde enligt uppgifterna föreslagna Meta AI-prompter om en mammas små döttrar. I en viral video sade mamman att en sådan prompt gav uppgifter som namn, födelseinformation, material som hon menade inkluderade ett sedan länge raderat foto samt platsrelaterad information. Uppgifterna om att ett raderat foto eller andra specifika data hämtades tillbaka är användarens påståenden och har inte fastställts genom oberoende offentliga fynd. 1116

Meta sade till The Verge att förslagen hade ”missat målet” och att de skulle ändras. Detta var en annan händelse än kritiken i juli mot Muse Image, en funktion som gjorde det möjligt att skapa bilder med utgångspunkt i offentliga Instagram-konton. Den funktionen drogs tillbaka inom några dagar efter omfattande kritik. 115

Varför förtroendefrågan blir avgörande

Muse ber användaren att ge AI:n tillgång till några av de mest känsliga delarna av ett digitalt liv: primär e-post, kalender, köp, betalningar och i vissa fall hälsoinformation. Det ställer högre krav på tillit än för en tjänst som enbart genererar text eller bilder.

Tidpunkten förstärker också granskningen. Meta har nyligen gått med på en uppgörelse värd upp till 18 miljarder dollar med nästan alla amerikanska delstater i mål om påståenden kring beroendeframkallande design och minderåriga. Företaget har dessutom en lång historik av integritetskontroverser. 1

Bedömningen är därför att Muse kan vara praktisk, men att användare bör vara återhållsamma med vilka konton de ansluter. Smala och återkalleliga behörigheter samt bekräftelse före varje extern åtgärd är en rimligare utgångspunkt än att ge varaktig, bred åtkomst – särskilt till hälsoinformation, betalningar, barns uppgifter och den primära e-postadressen. 211