Anthropics rapport om missbruk av Claude: vad hotfallen 2026 visar

Anthropics hotinformationsrapport från den 10 september 2026 beskriver insatser som företaget säger sig ha identifierat och stoppat under åtta månader, från december 2025 till augusti 2026. Fallen rörde försök att missbruka Claude Haiku, Sonnet och Opus för cyberoperationer, påverkansoperationer, övervakning, bedrägerier, biologiskt missbruk, utveckling av konventionella vapen och otillåten modelldestillering. 16

En avgörande reservation är att rapporten handlar om försök att få AI-assistans, inte om verifierad användning i verkligheten eller bekräftad framgång för de påstådda vapen-, övervaknings- eller biologiprojekten. Anthropic beskriver också fallen som utvalda exempel, inte som ett mått på hur Claude normalt används. 16

Vad rapporten visar

Den övergripande varningen är att avancerade språkmodeller kan minska den specialistkunskap, tid och bemanning som krävs för att bedriva skadlig verksamhet. I de redovisade fallen sökte aktörerna hjälp med allt från research och mjukvaruutveckling till underlag för målval och operativ analys. 116

Vapen och övervakning

Bland de mest allvarliga uppgifterna finns försök att använda Claude i arbete kopplat till konventionella vapen och övervakning. Rapporteringen om materialet beskriver försök relaterade till mjukvara för autonoma enkelriktade attackdrönare, missilnavigering och militära tillämpningar med kopplingar till aktörer i Ryssland, Iran, Kina och Jemen. 1

Fallmaterialet omfattade också påstådda försök att identifiera och välja ut uigurer via WhatsApp och Telegram samt ett storskaligt teleövervakningssystem i Mali. Exemplen illustrerar rapportens bredare oro: modeller kan användas inte bara för att generera kod, utan även för research, klassificering, analys och framtagning av operativa dokument. 116

Försök till biologiskt missbruk

Anthropic identifierade fem fall av biologiskt missbruk. Ett gällde enligt rapporteringen ett försök kopplat till att öka smittsamheten hos ett myggburet virus. 1

Företaget uppgav också att vissa användare sökte sig till konkurrerande AI-system efter att Claude avvisat känsliga frågor. Det bevisar inte att försöken lyckades hos andra leverantörer, men visar en begränsning med skydd hos enskilda tjänster: ett avslag kan avbryta aktiviteten på en plattform, samtidigt som aktören kan söka alternativ. 1

Kampanjer för modelldestillering

En separat del av rapporten handlar om otillåten modelldestillering – att använda utdata från en mer kapabel modell för att hjälpa till att träna ett annat system. Anthropic tillskrev kampanjer till sju laboratorier baserade i Kina, däribland Alibaba, Moonshot och DeepSeek, och beskrev hur många konton och vidarebefordrade frågor användes för att få fram användbara modellsvar eller resonemang. 1

Detta är en annan typ av missbruk än vapenutveckling eller övervakning, men innebär en strategisk risk för AI-utvecklare: åtkomst till en modell kan utnyttjas för att efterlikna dess förmågor och potentiellt undvika kostnaden för att utveckla dem från grunden.

Vilka Claude-modeller berördes?

Anthropic uppgav att de rapporterade fallen gällde Claude Haiku, Sonnet och Opus. Företaget sade att inga fall omfattade de nyare modellklasserna Fable eller Mythos, med ett undantag: ett fall av otillåten destillering. 1216

Undantaget är viktigt, eftersom det korrigerar det alltför breda påståendet att Fable och Mythos helt saknades i rapporten. Det tillgängliga underlaget stödjer en snävare slutsats: modellerna användes inte i de redovisade missbruksfallen, bortsett från destilleringsundantaget. 12

Anthropics åtgärder – och bevisens gränser

Anthropic sade att det stoppade operationerna, stängde av berörda konton, stärkte sitt försvar och, när det var lämpligt, delade information med myndigheter och branschpartners. 16

Rapporten är dock företagets egen redogörelse för aktivitet som observerats på den egna plattformen. Den är betydelsefull som dokumentation av vad Anthropic upptäckte och agerade mot, men den bör inte läsas som oberoende bekräftelse på att varje påstådd aktör slutförde sitt projekt. Företaget beskriver självt materialet som anmärkningsvärda fall, inte som en representativ kartläggning av allt missbruk. 16

Därför följde kravet på att ”hålla jämna steg med frontlinjen”

Två dagar efter rapportens publicering publicerade Anthropics vd Dario Amodei essän We Must Pace the Frontier. Där argumenterade han för att AI-bolag medvetet bör sänka takten i förbättringen av de mest avancerade modellernas förmågor, samtidigt som den tekniska utvecklingen fortsätter, så att säkerhetsarbete, skyddsåtgärder och verifiering kan hinna ikapp. 25

Amodeis förslag var inte ett krav på att stoppa modellträning. Anthropics första konkreta åtagande var i stället att ge externa utvärderare permanent åtkomst på samma nivå som anställda, så att de kan granska säkerhetsrutiner, rapportera incidenter och bedöma modellernas anpassning till avsedda mål under träningen. 1825

Den bredare planen består av tre steg: granskning på företagsnivå, samordning mellan företag i demokratiska länder och på sikt ett bredare internationellt samarbete. 2325

Vad är fastslaget – och vad är det inte?

Rapporten fastslår att Anthropic säger sig ha upptäckt och stoppat försök till skadlig användning av äldre Claude-modeller under den angivna perioden, inom sju riskkategorier. Den ger också en konkret bakgrund till bolagets ståndpunkt att säkerhetskontroller måste utvecklas i takt med modellernas förmågor. 16

Det tillgängliga rapporteringsunderlaget fastslår däremot inte att rapporten direkt ledde till särskilda initiativ i USA:s kongress, att ett uppehåll i representanthusets arbete avslutades eller att ett specifikt lagförbud mot ”superintelligens” infördes. Det finns ett bredare politiskt tryck för tillsyn av AI-säkerhet, och Amodei har argumenterat för att regeringar bör bidra till att hålla förmågor och säkerhet i balans. Men just dessa orsakssamband kräver belägg utöver materialet här. 2527

Den praktiska slutsatsen är mindre dramatisk, men mer betydelsefull: att motverka AI-missbruk handlar inte enbart om att en modell avvisar skadliga frågor. Det kräver övervakning av samordnat missbruk, hantering av konton som försöker kringgå skydd och destillera modeller, delning av hotinformation samt trovärdig säkerhetsutvärdering i takt med att modellerna blir mer kapabla. 1625