Meta stanset Muse-test etter rasistisk uttalelse og bekymringer om skjult menneskehjelp

Meta har stanset sin interne test av en menneskelig «concierge»-løsning for Muse etter at en kontraktør angivelig kom med en rasistisk referanse mens vedkommende forhandlet om en ansatts kabelregning. Episoden kom samtidig som ansatte uttrykte uro over at innleide operatører kunne håndtere samtaler uten at brukeren eller mottakeren av samtalen nødvendigvis visste det. Meta har rullet tilbake testen foreløpig. 111

Slik fungerte den menneskelige reserveordningen

Muse er Metas personlige KI-assistent, laget for å utføre oppgaver på vegne av brukeren – som å sende e-post, bestille reiser og gjennomføre transaksjoner. Assistenten kan kobles til blant annet e-post, kalender, betalingstjenester, helseapper og smarthjem-apper.

For enkelte telefonoppgaver testet Meta en menneskelig reserveordning: Opplærte kontraktører kunne overta og ringe på vegne av Muse. Ifølge rapporter basert på interne innlegg i selskapet var testen aktivert for rundt halvparten av Metas ansatte. 18

Ordningen tok sikte på å løse et praktisk problem: Noen virksomheter vil ikke snakke med en automatisert oppringer. Men den endret også hva tjenesten faktisk var. En oppgave brukeren kunne oppfatte som utført av en KI-agent, kunne i stedet bli utført av en person som jobbet for Meta eller en underleverandør.

Hvorfor Meta trakk testen tilbake

Den umiddelbare årsaken var en rapportert hendelse knyttet til opptreden. En ansatt som ba Muse forhandle om internett- og kabelregningen, gjennomgikk samtaletranskripsjonen og sa at kontraktøren hadde brukt en rasistisk referanse. 138

Saken handlet dermed om mer enn den enkelte bemerkningen. Når et menneske kan overta for KI-en, oppstår egne risikoområder: opplæring av kontraktører, oppfølging, atferdsstandarder og tydelige rutiner for hva som skjer når noe går galt.

Meta valgte å rulle tilbake testen, ikke å erklære den permanent avviklet. En visepresident i Meta Superintelligence Labs erkjente, ifølge rapportering som gjenga Reuters, at det var «en feil» å starte samtaler gjennom kontraktører uten tilstrekkelig informasjon om dette. 11

Bekymringen: personvern og manglende informasjon

Ansattes innvendinger dreide seg særlig om at kontraktører kunne håndtere samtaler i det skjulte. Poenget var ikke bare at mennesker hjalp systemet, men om de berørte partene fikk vite at et menneske hadde tatt over. 111

Dette er særlig viktig for en assistent som kan kobles til sensitive tjenester. For å løse en oppgave kan en kontraktør potensielt trenge kontekst fra brukerens konto, avtaler, kjøp eller andre personopplysninger. Ansatte advarte om at slik informasjon kunne deles med kundesenteransatte, mens brukeren trodde at bare et KI-system var involvert. 7

Det er to ulike spørsmål om informasjon og samtykke:

• Informasjon til brukeren: Vet brukeren at en kontraktør kan få innsyn i opplysninger eller utføre oppgaven?
• Informasjon til den som blir oppringt: Vet personen eller virksomheten at oppringeren er en menneskelig kontraktør som handler på vegne av brukeren, og ikke en automatisert assistent?

Uten klare svar kan en slik eskaleringsordning gjøre både samtykke og representasjon uklare. At oppgaven blir løst, er ikke i seg selv et svar på disse spørsmålene.

Mennesker lyktes oftere – men Meta oppga ikke KI-tallet

Meta opplyste til ansatte at menneskelige oppringere i enkelte tester oppnådde en suksessrate på 95–98 prosent, høyere enn samtaler utført bare av KI. 912

Det er et betydelig resultat, men det er ikke et presist mål på hvor godt Muse kan ringe helt på egen hånd. Meta oppga ikke suksessraten for KI alene, så forskjellen kan ikke beregnes ut fra den tilgjengelige rapporteringen. 9

Den praktiske lærdommen er enkel: En menneskelig reserve kan få en KI-agent til å fremstå som mer kapabel i reelle telefonoppgaver. Gevinsten har imidlertid en pris i form av menneskelig tilgang til data, opplysningsplikt, kvalitetskontroll og mulig svekket tillit til påstander om full autonomi.

Det Meta har sagt om en mulig retur

Rapportene dokumenterer bare at Meta har rullet tilbake ansattetesten foreløpig. De fastslår ikke en offentlig dato for gjenoppstart, hvilke krav som må være oppfylt før funksjonen kan tas i bruk igjen, eller noen formell plan om å relansere den under Connect 2026. 15

Dersom Meta går tilbake til løsningen, blir de sentrale spørsmålene konkrete: Når kan en kontraktør overta? Hvilke opplysninger kan personen få tilgang til? Kan brukeren velge det bort? Blir mottakeren av samtalen informert? Og hvordan følger Meta opp kontraktørenes opptreden?

Muse fikk tidlig sterk oppmerksomhet, noe som gjør disse svarene viktigere. Meta lanserte assistenten i USA i september 2026, og Reuters rapporterte om sterk tidlig etterspørsel og bruk. Concierge-episoden viser at den vanskeligste delen av en KI-agent ikke bare er å få oppgaven gjort, men å sikre at metoden er åpen, trygg og ansvarlig.