Anthropic: Claude användes i nätverk med över 20 falska dejtingappar

Anthropic uppger att den Kinabaserade appstudion GTG-15001 byggde och drev ett nätverk av vilseledande dejtingappar, där AI-modellen Claude användes för att skapa och driva fejkade profiler. Enligt bolaget stoppades verksamheten. 1415

Över 20 appar och 4 700 AI-personor

Enligt Anthropics granskning omfattade nätverket fler än 20 dejtingappar. Där användes Claude för att driva över 4 700 olika AI-personor som utgav sig för att vara verkliga människor. Under en tvåveckorsperiod i april 2026 ska dessa konton ha kommunicerat med minst 25 000 unika personer och skickat omkring 2,36 miljoner meddelanden. 789

Det anmärkningsvärda är skalan. I stället för att enbart förlita sig på en mindre grupp personer som skickar standardiserade meddelanden kan en AI hålla igång många parallella och till synes personliga samtal. Det kan göra romansbedrägerier betydligt mer skalbara, eftersom budskap kan anpassas till mottagaren samtidigt som profilen behåller en konsekvent ton och bakgrund. 815

Människor tog över när samtalen blev mer känsliga

I rapporteringen om Anthropics fynd framgår att mänskliga medarbetare användes i situationer där en bot lättare kunde avslöjas, bland annat vid video- eller röstsamtal. 811

Denna kombination av automatisering och mänsklig medverkan är central. AI kan hålla mängder av konversationer aktiva, medan riktiga personer kan reserveras för de tillfällen då det krävs en mer övertygande personlig kontakt för att vinna någons förtroende. 811

Det tillgängliga underlaget beskriver också apparna som marknadsförda som helt mänskliga, trots att de till stor del drevs av AI-personor. 910

Flera detaljer är fortfarande obekräftade utanför Anthropics utredning

De första uppgifterna om fallet innehöll även påståenden om manusstyrda metoder för att hålla användare engagerade, försök att dölja det vilseledande beteendet vid Apples och Googles appgranskningar, samt användning av API-återförsäljare och proxyinfrastruktur för att kringgå Anthropics kontroller. Det har också sagts att nätverket byggde vidare på ett tidigare Telegram-bedrägeri från 2025.

Sådana detaljer kan finnas i Anthropics fullständiga fallmaterial, men de utdrag ur källorna som finns här styrker inte de exakta metoderna oberoende. De bör därför läsas som uppgifter från Anthropics egen utredning, inte som separat verifierade fakta.

Anthropics svar

Anthropic säger att bolagets Threat Intelligence-team identifierade och stoppade samtliga operationer som tas upp i rapporten. Företaget uppger också att lärdomarna har använts för att stärka skydden och att information, när det varit lämpligt, delats med myndigheter och andra AI-bolag. 16

Bolaget beskriver sin publicering av hotrapporten som en defensiv åtgärd: genom att redovisa hur AI missbrukas kan plattformar, utredare och säkerhetsteam lättare känna igen liknande aktivitet. 1416

Ett exempel i en betydligt bredare hotbild

GTG-15001 är bedrägerifallet i en större rapport om verksamhet som Anthropic säger sig ha stoppat mellan december 2025 och augusti 2026. Rapporten omfattar sju områden: cyberoperationer, påverkansoperationer, övervakning, bedrägerier, biologiskt missbruk, utveckling av konventionella vapen och modelldestillering. 15

Det bredare sammanhanget spelar roll. Samma AI-förmågor som kan vara användbara för kundstöd, skrivande, research och automatisering kan också minska arbetsinsatsen för kartläggning av mål, övertalning, innehållsproduktion och samordning. I GTG-15001-fallet pekar Anthropics uppgifter på en tydlig risk: mellanmänskligt bedrägeri kan gå från att vara begränsat av antalet mänskliga bedragare till att omfatta tusentals skenbart personliga konversationer samtidigt. 115

Slutsatsen är inte att varje kontakt i en dejtingapp är syntetisk eller att fallet visar hur alla sådana tjänster fungerar. Men användare, appbutiker, AI-leverantörer och säkerhetsteam behöver förhålla sig till en ny modell: syntetiska identiteter ger skala, medan människor sätts in selektivt för att göra bedrägeriet mer trovärdigt.