Anthropic: zo omzeilden dreigingsactoren Claude-beperkingen

Anthropic beschrijft in zijn dreigingsrapport van september 2026 hoe vermoedelijk staatsgelinkte en criminele actoren tussen december 2025 en augustus 2026 probeerden Claude te misbruiken. Het bedrijf zegt activiteiten te hebben verstoord rond cyberoperaties, beïnvloedingscampagnes, surveillance, oplichting en fraude, biologisch misbruik, ontwikkeling van conventionele wapens en illegale modeldistillatie. In de onderzochte zaken kwamen Claude Haiku, Sonnet en Opus voor. 16

De hoofdconclusie is niet dat alle pogingen ook daadwerkelijk slaagden. Het rapport laat vooral zien hoe AI de benodigde inspanning voor verkenning, surveillance, fraude en cyberoperaties kan terugdringen — en hoe toegangsbeperkingen via accountmisbruik kunnen worden omzeild. Anthropic zegt geen bewijs te hebben dat een met hulp van Claude ontwikkeld operationeel wapen is ingezet. 46

Zo werden toegangscontroles volgens Anthropic omzeild

In de beschreven zaken probeerden actoren geografische en platformbeperkingen te ontwijken met VPN’s, frauduleuze accounts, gecompromitteerde inloggegevens en accountrotatie. Daarmee konden zij, ondanks de controles van de aanbieder, toegang tot de modellen proberen te krijgen. 4

Anthropic meldde ook misbruik in het bredere AI-ecosysteem. Daarbij ging het onder meer om gestolen of doorverkochte API-sleutels en sessietokens, en om websites die zich voordeden als AI-producten of -aanbieders — waaronder Claude Code — om malware te verspreiden die inloggegevens steelt. 412

Daaruit volgt dat modelveiligheid niet alleen om prompts draait. Ook accountregistratie, identiteitscontrole, betalingsfraude, bescherming van inloggegevens en het opsporen van gecoördineerd accountgedrag vormen een beveiligingsgrens.

De gemelde misbruikzaken

Wapenonderzoek en onderzoek naar drones

Anthropic beschreef een in Jemen gevestigde technische cel voor geleide wapens die Claude gebruikte bij softwarewerk voor een geleide raket, een meertraps ballistische raket en een hypersonische glijraket. Het bedrijf zegt geen bewijs te hebben dat een met Claude ontwikkeld operationeel wapen is ingezet. 6

Een afzonderlijke, aan Rusland gelinkte actor zou hulp hebben gezocht voor een autonome zwerm kamikazedrones. De beschikbare berichtgeving duidt op een poging tot AI-ondersteunde ontwikkeling, niet op bewijs van een voltooid of daadwerkelijk ingezet systeem. 5

Surveillance, repressie en beïnvloedingscampagnes

Het rapport beschrijft ook AI-ondersteunde surveillance en inlichtingenverzameling. In een aan China gelinkte zaak ontwikkelde een ingenieur die werkte aan een gemeentelijk registratiesysteem van het Public Security Bureau — de Chinese politiedienst — naar verluidt een hulpmiddel om iemands verplaatsingen met politiedossiers te vergelijken via een nationaal identiteitsnummer. 4

Andere gemelde zaken betroffen een aan Mali gelinkte poging om communicatie bij mobiele operators te onderscheppen en een Iraanse operatie rond het verzamelen van identiteiten op sociale netwerken en de analyse van meer dan 155.000 tweets voor inlichtingen- of beïnvloedingsdoelen. Het beschikbare materiaal ondersteunt Anthropic’s claim dat deze activiteiten zijn gedetecteerd, maar toont niet voor elke campagne de daadwerkelijke effectiviteit of impact in de praktijk aan. 4

De waarschuwing van Anthropic is dat AI bestaande methoden voor surveillance en repressie goedkoper, sneller en makkelijker schaalbaar kan maken. Het gaat dus niet per se om volledig nieuwe vormen van schade, maar om een lagere drempel qua arbeid en expertise. 4

Cyberspionage, fraude en modeldiefstal

Het rapport documenteert cyberactiviteiten die uiteenlopen van diefstal van inloggegevens en ondersteuning bij inbraken tot deels autonome, door AI ondersteunde aanvalswerkwijzen. Ook beschrijft het operaties gericht op overheids-, financiële en commerciële organisaties in Azië. 4

Aan Rusland gelinkte activiteit omvatte volgens de rapportage cyberspionage en het blootleggen van inloggegevens die verbonden waren aan een Russische overheidsdatabase met een defensierelatie, via routering van modelqueries. 5

In aan China gelinkte zaken zouden partijen Claude-capaciteiten hebben geprobeerd te extraheren of te distilleren, onder meer via grote aantallen frauduleuze accounts. Anthropic noemt illegale distillatie een van de zeven onderzochte schadelijke gebieden. 416

Wat Anthropic naar eigen zeggen deed

Anthropic zegt de geïdentificeerde operaties te hebben verstoord, gekoppelde accounts te hebben verbannen, beveiligingsmaatregelen op basis van deze zaken te hebben aangepast en relevante informatie te hebben gedeeld met passende overheidsinstanties en partners in de industrie. 4

Met zulke maatregelen kan een specifieke route naar een commercieel model worden afgesloten en kunnen andere verdedigers bruikbare signalen krijgen. Ze nemen echter niet de onderliggende middelen of motieven achter de activiteiten weg.

Waarom accountverboden niet volstaan

Anthropic benadrukt zelf dat het probleem groter is dan toegang tot Claude. Actoren die van één dienst worden verwijderd, kunnen gestolen accounts gebruiken, naar een andere aanbieder overstappen of opensourcemodellen inzetten. 4

Daarom is het rapport vooral bewijs van een veranderend dreigingslandschap, niet van een definitieve oplossing door een groep accounts te blokkeren. Handhaving door aanbieders kan misbruik duurder maken, campagnes blootleggen en legitieme gebruikers beschermen. Maar volgens deze lezing moet zij samengaan met sterkere identiteitscontroles, betere bescherming van inloggegevens, gecoördineerde uitwisseling van dreigingsinformatie en verdediging die verder kijkt dan één AI-platform.

Conclusie

Anthropic schetst AI-misbruik als een schaalbaarheidsprobleem: actoren zouden bekende ontwijkingstechnieken — VPN’s, frauduleuze accounts en gestolen inloggegevens — hebben gebruikt om algemene AI-modellen toe te passen op wapenonderzoek, surveillance, beïnvloedingscampagnes, cyberactiviteiten en fraude. 416

De verstoringsmaatregelen van het bedrijf beperkten in de beschreven gevallen de toegang tot Claude. De bredere waarschuwing is dat krachtigere AI de drempel voor schadelijk werk in het hele ecosysteem verlaagt, terwijl het beschikbare bewijs niet laat zien dat iedere gemelde poging — ook rond wapens — tot operationele inzet heeft geleid. 46