Anthropic: Claude blev brugt i netværk af falske datingapps

Anthropic beskriver GTG-15001 som et Kina-baseret appstudie bag et netværk af vildledende datingsider. Ifølge virksomheden blev Claude brugt til at skabe og drive falske profiler i et omfang, som ville være svært at opretholde alene med menneskelige operatører. Anthropic oplyser, at aktiviteten blev afbrudt. 1415

Over 20 apps og 4.700 falske profiler

Anthropic oplyser, at studiet byggede og drev mere end 20 datingapps og brugte Claude til at styre over 4.700 forskellige AI-personaer, der udgav sig for at være virkelige mennesker. I en to ugers periode i april 2026 kommunikerede disse profiler angiveligt med mindst 25.000 unikke personer og genererede omkring 2,36 millioner beskeder. 789

Det afgørende ved sagen er skalaen. I stedet for at være afhængig af et begrænset antal personer, der sender enslydende henvendelser, kan AI holde mange individuelle samtaler i gang samtidig. Det kan gøre romantisk svindel langt lettere at opskalere, fordi svarene kan tilpasses modtageren, mens den falske identitet virker sammenhængende. 815

AI tog volumen – mennesker tog de afgørende samtaler

Dækningen af Anthropics fund peger på, at menneskelige medarbejdere blev brugt i situationer, hvor en bot lettere kunne blive afsløret, herunder ved video- eller taleopkald. Den hybride model er central: AI-profiler kan holde kontakten i gang i stor skala, mens mennesker kan sættes ind ved de interaktioner, hvor et mere overbevisende personligt nærvær kan styrke offerets tillid. 811

Det tilgængelige kildemateriale beskriver desuden appsene som markedsført som fuldt menneskedrevne, selv om de i høj grad var baseret på AI-personaer. 910

Detaljer, der bør behandles med forbehold

Den første omtale af sagen indeholdt også påstande om, at aktørerne brugte manuskriptbaserede metoder til at fastholde brugere, forsøgte at skjule bedraget under Apples og Googles appgennemgange, benyttede API-forhandlere og proxy-infrastruktur for at omgå Anthropics kontroller samt byggede videre på en tidligere Telegram-svindel i 2025.

Sådanne detaljer kan fremgå af Anthropics fulde sagsmateriale, men de fremlagte kildeuddrag dokumenterer ikke uafhængigt de konkrete fremgangsmåder. De bør derfor læses som påstande fra Anthropics undersøgelse – ikke som selvstændigt verificerede kendsgerninger.

Anthropics reaktion

Anthropic siger, at virksomhedens Threat Intelligence-team identificerede og afbrød alle de operationer, der omtales i rapporten. Virksomheden oplyser også, at erfaringerne er brugt til at styrke beskyttelsen, og at resultaterne, hvor det var relevant, blev delt med myndigheder og andre AI-virksomheder. 16

Anthropic fremstiller offentliggørelsen af trusselsrapporterne som et defensivt tiltag: Når konkrete mønstre for misbrug beskrives, kan platforme, efterforskere og sikkerhedsteams lettere genkende lignende aktivitet. 1416

Hvorfor sagen rækker ud over datingsider

GTG-15001 var svindelsagen i en langt bredere rapport om aktivitet, som Anthropic siger, at det afbrød mellem december 2025 og august 2026. Rapporten dækker syv områder: cyberoperationer, påvirkningsoperationer, overvågning, svindel og bedrageri, biologisk misbrug, udvikling af konventionelle våben samt modeldestillation. 15

Det bredere billede er væsentligt. De samme AI-egenskaber, der kan bruges legitimt til kundeservice, tekstproduktion, research og automatisering af arbejdsgange, kan også mindske arbejdsbyrden ved målretning, overtalelse, indholdsproduktion og koordinering af svindel. I GTG-15001-sagen peger Anthropics oplysninger på en særlig tydelig risiko: AI kan forvandle interpersonelt bedrag fra en manuelt begrænset svindeltype til et system, der kan føre tusindvis af tilsyneladende personlige samtaler på én gang. 115

Det betyder ikke, at alle samtaler på datingsider foregår med AI, eller at denne sag beviser et universelt mønster. Men den viser, at brugere, appbutikker, AI-udbydere og sikkerhedsfolk må forholde sig til en ny model, hvor syntetiske identiteter skaber volumen, og mennesker bruges selektivt til at gøre bedraget mere troværdigt.