Anthropic-rapport: Sådan blev Claude forsøgt misbrugt i 2026

Anthropics trusselsintelligensrapport fra 10. september 2026 beskriver operationer, som virksomheden siger, at den identificerede og afbrød over otte måneder – fra december 2025 til august 2026. Sagerne omfattede forsøg på at misbruge Claude Haiku, Sonnet og Opus til cyberoperationer, påvirkningskampagner, overvågning, svindel, biologisk misbrug, udvikling af konventionelle våben og ulovlig modeldestillation. 16

Det afgørende forbehold er, at rapporten handler om forsøg på at få AI-hjælp – ikke om verificeret anvendelse i felten eller dokumentation for, at de omtalte våben-, overvågnings- eller biologiprojekter lykkedes. Anthropic fremstiller desuden sagerne som udvalgte eksempler, ikke som et billede af den typiske brug af Claude. 16

Hvad rapporten viser

Rapportens overordnede advarsel er, at avancerede modeller kan reducere behovet for specialistviden, tid og bemanding ved skadelig aktivitet. I de offentliggjorte sager søgte de påståede aktører hjælp til alt fra research og softwareudvikling til målretningsmateriale og operationelle analyser. 116

Våben og overvågning

Blandt de alvorligste påstande er forsøg på at bruge Claude i forbindelse med konventionelle våben og overvågningsarbejde. Omtale af rapporten beskrev arbejde knyttet til software til autonome envejskampdroner, missilnavigationssystemer og militære anvendelser forbundet med aktører med relationer til Rusland, Iran, Kina og Yemen. 1

Materialet omfattede også angivelige forsøg på at identificere og målrette uighurer via WhatsApp og Telegram samt et omfattende teleovervågningssystem i Mali. Eksemplerne understreger rapportens bredere pointe: Modeller kan bruges til mere end kodegenerering – også til research, klassificering, analyse og udarbejdelse af operationelle dokumenter. 116

Forsøg på biologisk misbrug

Anthropic identificerede fem sager om biologisk misbrug. En af dem omfattede ifølge omtalen af rapporten et forsøg relateret til at øge smitsomheden af en myggebåren virus. 1

Virksomheden oplyste også, at nogle brugere søgte mod konkurrerende AI-systemer, efter at Claude afviste følsomme anmodninger. Det dokumenterer ikke, at forsøgene lykkedes andre steder, men det peger på en begrænsning ved kontrol hos den enkelte udbyder: En afvisning kan standse aktiviteten på én tjeneste, mens aktøren fortsat kan forsøge andre steder. 1

Kampagner for modeldestillation

Et særskilt afsnit handler om ulovlig modeldestillation: at bruge svar fra en stærkere model til at hjælpe med at træne et andet system. Anthropic tilskrev kampagner til syv Kina-baserede laboratorier, herunder Alibaba, Moonshot og DeepSeek, og beskrev brug af mange konti og videresendte prompts for at hente anvendelige modeloutput eller ræsonnementer. 1

Denne type misbrug adskiller sig fra våben og overvågning, men udgør en strategisk risiko for AI-udviklere. Adgang til en model kan udnyttes til at efterligne kapabiliteter og muligvis omgå en del af omkostningen ved at udvikle dem selv.

Hvilke Claude-modeller var berørt?

Anthropic oplyste, at de rapporterede misbrugssager omfattede Claude Haiku, Sonnet og Opus. Virksomheden sagde, at ingen sager involverede de nyere Fable- eller Mythos-modelklasser – med én undtagelse: en sag om ulovlig destillation. 1216

Undtagelsen er væsentlig, fordi den korrigerer den for brede påstand, at Fable og Mythos slet ikke optrådte i rapporten. Det tilgængelige materiale understøtter en snævrere konklusion: De blev ikke brugt i de offentliggjorte misbrugssager bortset fra destillationstilfældet. 12

Anthropics indsats – og bevisernes grænser

Anthropic oplyser, at virksomheden afbrød operationerne, lukkede de relevante konti, styrkede sine forsvar og, hvor det var passende, delte oplysninger med myndigheder og branchepartnere. 16

Rapporten er dog virksomhedens egen redegørelse for aktivitet, den har observeret på sin egen platform. Den er væsentlig dokumentation for, hvad Anthropic har opdaget og reageret på, men den er ikke en uafhængig bekræftelse af, at alle de påståede aktører gennemførte deres projekter. Virksomheden beskriver selv rapporten som en samling bemærkelsesværdige sager, ikke som en repræsentativ opgørelse over alt misbrug. 16

Derfor førte rapporten til kravet om at sænke tempoet

To dage efter rapportens udgivelse offentliggjorde Anthropics direktør, Dario Amodei, essayet We Must Pace the Frontier. Her argumenterede han for, at AI-selskaber bevidst bør sænke tempoet, hvormed de forbedrer kapabiliteterne i de mest avancerede modeller, mens den tekniske udvikling fortsætter. Formålet er at give sikkerhedsarbejde, kontrolmekanismer og verificering mulighed for at indhente udviklingen. 25

Amodeis forslag var ikke et krav om at standse træning af modeller. Anthropics første konkrete tilsagn var at give tredjepartsevaluatorer permanent adgang på medarbejderniveau til selskabets systemer, så de kan vurdere sikkerhedspraksis, rapportere hændelser og evaluere modellernes alignment – altså hvor godt de handler i tråd med fastlagte sikkerhedsmål – under træningen. 1825

Hans plan i tre trin omfatter tilsyn på virksomhedsplan, koordinering mellem selskaber i demokratiske lande og på længere sigt bredere international koordinering. 2325

Hvad er fastslået – og hvad er ikke?

Rapporten fastslår, at Anthropic siger, at virksomheden opdagede og afbrød forsøg på ondsindet brug af ældre Claude-modeller i den angivne periode på tværs af syv skadeområder. Den giver samtidig et konkret grundlag for selskabets argument om, at sikkerhedsforanstaltninger skal udvikle sig i takt med modellernes kapabiliteter. 16

Det tilgængelige materiale fastslår derimod ikke, at rapporten direkte udløste bestemte initiativer i den amerikanske Kongres, afsluttede en pause i Repræsentanternes Hus eller førte til et konkret lovforslag om at forbyde »superintelligens«. Der er et bredere politisk pres for tilsyn med AI-sikkerhed, og Amodei har argumenteret for, at myndigheder bør hjælpe med at holde kapabiliteter og sikkerhed i balance. Men de specifikke årsagssammenhænge kræver dokumentation ud over materialet her. 2527

Den praktiske læring er mindre dramatisk, men mere betydningsfuld: At forebygge AI-misbrug handler ikke kun om, at en model afviser farlige prompts. Det kræver overvågning af koordineret misbrug, reaktion på kontoomgåelse og destillationsforsøg, deling af trusselsinformation og troværdige sikkerhedsevalueringer, efterhånden som modellerne bliver stærkere. 1625