Anthropic: Claude ble brukt i svindelnettverk med over 20 datingapper

Anthropic opplyser at et Kina-basert appstudio, som selskapet kaller GTG-15001, brukte Claude til å bygge og drive et nettverk av villedende datingapper. Ifølge Anthropic gjorde KI det mulig å opprettholde et omfang av falske, tilsynelatende personlige samtaler som ville vært vanskelig å håndtere med bare menneskelige operatører. Selskapet sier at aktiviteten ble stanset. 1415

Over 20 apper og tusenvis av falske profiler

Anthropic sier at studioet bygget og drev mer enn 20 datingapper, og brukte Claude til å styre over 4 700 ulike KI-personaer som utga seg for å være ekte mennesker. I en periode på to uker i april 2026 skal profilene ha kommunisert med minst 25 000 unike personer og sendt rundt 2,36 millioner meldinger. 789

Det er skalaen som skiller saken ut. I stedet for at et begrenset antall svindlere sender standardiserte meldinger, kan KI holde mange parallelle samtaler i gang og tilpasse svarene til hver enkelt mottaker. Det kan gjøre romantikksvindel lettere å skalere, fordi den falske profilen kan fremstå både personlig og konsekvent. 815

KI tok volumet, mennesker tok de mest følsomme kontaktene

Rapporteringen om Anthropics funn tyder på at menneskelige arbeidere ble brukt i situasjoner der automatisering lettere kunne bli avslørt, blant annet ved video- eller taleanrop. 811

Denne kombinasjonen er sentral: KI kan holde store mengder samtaler aktive, mens mennesker kan settes inn ved kontaktpunkter der en reell stemme eller et ansikt kan styrke tilliten hos den som blir kontaktet. Kildematerialet beskriver også appene som markedsført som tjenester med bare ekte mennesker, selv om de i stor grad skal ha vært drevet av KI-personaer. 910

Enkelte detaljer må behandles som påstander

Den opprinnelige omtalen av saken omfattet også påstander om forhåndsskrevne taktikker for å holde brukere engasjert, forsøk på å skjule den villedende aktiviteten i Apples og Googles appgjennomganger, bruk av API-forhandlere og proxy-infrastruktur for å omgå Anthropics kontrollmekanismer, samt en utvidelse av en tidligere Telegram-svindel i 2025.

Disse konkrete mekanismene er ikke uavhengig dokumentert i de vedlagte kildeutdragene. De bør derfor forstås som påstander fra Anthropics egen etterforskning, ikke som selvstendig verifiserte fakta.

Anthropics respons

Anthropic opplyser at selskapets Threat Intelligence-team identifiserte og forstyrret hver av operasjonene som omtales i rapporten. Selskapet sier at erfaringene er brukt til å styrke sikkerhetstiltakene, og at funn ved behov ble delt med myndigheter og andre KI-selskaper. 16

Anthropic begrunner publiseringen av trusselrapporten som et forsvarstiltak: Ved å dokumentere observerte mønstre for misbruk kan plattformer, etterforskere og sikkerhetsteam lettere gjenkjenne lignende aktivitet. 1416

Hvorfor saken gjelder mer enn datingapper

GTG-15001 var svindelsaken i en bredere rapport om aktivitet Anthropic sier det stanset mellom desember 2025 og august 2026. Rapporten dekker sju skadeområder: cyberoperasjoner, påvirkningsoperasjoner, overvåking, svindel og bedrageri, biologisk misbruk, utvikling av konvensjonelle våpen og modelldestillering. 15

Det bredere bildet er at de samme KI-egenskapene som er nyttige i legitim kundestøtte, skriving, analyse og arbeidsflytautomatisering, også kan redusere arbeidsmengden bak målretting, overtalelse, innholdsproduksjon og koordinering. I GTG-15001-saken peker Anthropics opplysninger på en særlig tydelig risiko: Kunstige identiteter kan gjøre mellommenneskelig bedrag til en operasjon som fører tusenvis av tilsynelatende personlige samtaler samtidig. 115

Det betyr ikke at alle datingprofiler er kunstige, eller at én sak beviser et universelt mønster. Men den viser at brukere, appbutikker, KI-leverandører og sikkerhetsmiljøer må forholde seg til en modell der syntetiske identiteter skaper volum, mens menneskelige operatører brukes selektivt for å gjøre bedraget mer overbevisende.