Van AI-hulpje naar aanvalsketen: wat nieuwe dreigingsrapporten laten zien

De gezamenlijke conclusie is niet dat AI geheel nieuwe manieren van inbreken heeft uitgevonden. Wel verandert AI bestaande aanvalstechnieken in herhaalbare processen met meerdere stappen. Modellen kunnen helpen bij plannen, maken, testen, aanpassen en opschalen, waardoor aanvallers minder specialistische arbeid en minder tijd achter het toetsenbord nodig hebben. Het sterkste bewijs gaat dus over versnelling en coördinatie van bekende werkwijzen — niet over volledig onafhankelijke systemen die zonder betekenisvolle menselijke regie opereren. 107

Van assistent naar uitvoerende schakel

Google beschreef een verschuiving van losse prompts naar geïntegreerde, agentische workflows. Daarin kunnen systemen onder meer kwetsbaarheden scannen, inloggegevens verzamelen, fouten oplossen en infrastructuur rouleren. Een aanval waarvoor vroeger meerdere tools en operators nodig waren, kan daardoor veranderen in een snel itererende keten. 11

Tegelijkertijd is nuance nodig. Microsoft stelde dat het meeste waargenomen misbruik van AI nog steeds draait om het genereren van tekst, code en media, en niet om een volledig autonome compromittering van een doelwit. 10

Waarvoor aanvallers AI inzetten

In de onderzochte gevallen ging het onder meer om:

• onderzoek naar en profilering van doelwitten;
• meertalige spearphishing en andere social-engineeringteksten;
• ontwikkeling, debugging en aanpassing van malware en scripts;
• het opzetten van scripts of infrastructuur;
• het samenvatten van buitgemaakte gegevens;
• overtuigender lokmiddelen voor fraude en impersonatie.

Microsoft zag specifiek AI-gebruik voor phishinglokkertjes, vertalingen, het samenvatten van gestolen data en het genereren of debuggen van malware. 10

Staatsgelieerde groepen en financieel gemotiveerde criminelen

Anthropic meldde dat het activiteiten heeft verstoord waarbij Rusland-, China- en Iran-gelieerde actoren betrokken waren, naast financieel gemotiveerde groepen. De gemelde misbruikgevallen bestreken cyberoperaties, beïnvloedingscampagnes, surveillance, fraude, biologisch misbruik, conventionele wapens en modeldistillatie. Reuters berichtte onder meer over een aan Rusland gelieerde operatie die Oekraïense functionarissen viseerde en over door Anthropic gestelde misbruikgevallen door Chinese AI-bedrijven van Claude. Het gaat om bedrijfsattributies en casestudy's, niet om een volledige meting van alle dreigingsactiviteit. 724

De operationele betekenis van agentisch gebruik zit vooral in de feedbacklus: code genereren, testen, aanpassen en opnieuw inzetten. Volgens de gemelde Anthropic-cases kunnen aanvallers een model bijvoorbeeld om aangepaste code vragen wanneer beveiligingssoftware malware detecteert. Gestolen inloggegevens of API-sleutels kunnen bovendien goedkope toegang tot rekenkracht bieden. Het risico schuilt daarmee in de snelheid van die iteratie, niet in één afzonderlijke kwaadaardige prompt. 87

ShinyHunters: bekende credentialdiefstal, beter opgeschaald

Microsoft koppelde phishing- en social-engineeringcampagnes rond passkeys en single sign-on (SSO) tegen zakelijke Microsoft 365-accounts aan actoren die verbonden zouden zijn met ShinyHunters, Helix en verwante afpersingsgroepen. Het gemelde patroon bestond uit verkenning vooraf, gevolgd door imitatie van IT-support om toegang te verkrijgen en clouddata te stelen. 3

Dit illustreert de kern van de trend: het blijft in essentie conventionele credentialdiefstal. AI kan het doelwitonderzoek, de personalisatie en de hoeveelheid geloofwaardige lokmiddelen verbeteren, maar het bewijst niet dat een model de volledige inbraak zelfstandig uitvoerde. 310

Impersonatie wordt goedkoper en gevarieerder

AI past ook in de economie van merk- en support-impersonatie. Overtuigende supportpagina's, phishingmails, chatgesprekken, gekloonde stemmen of beelden en meertalige varianten zijn sneller en goedkoper te maken en te vernieuwen. Daardoor krijgen verdedigers te maken met meer volume, meer personalisatie en voortdurend wisselende formuleringen. Filters die leunen op bekende sjablonen of evidente taalfouten worden daarmee minder betrouwbaar. Microsoft observeerde onder meer het gebruik van AI voor phishingteksten en vertalingen. 10

Modeldistillatie: ook AI-modellen zelf zijn een doelwit

Google omschreef het systematisch bevragen van Gemini om eigen mogelijkheden te achterhalen als model-extractie of distillatie. Dat is niet alleen een vorm van gewone cybercriminaliteit, maar ook een vraagstuk van intellectueel eigendom en bescherming van modelcapaciteiten. 11

Publieke berichtgeving beschreef campagnes met zeer grote aantallen prompts. De verdedigbare conclusie is dat aanvallers via legitieme API-toegang kunnen proberen het nuttige gedrag van een geavanceerd model te reproduceren door het op grote schaal te bevragen. Aanbieders proberen zulke misbruikpatronen te herkennen en hun modellen, redeneercapaciteiten en veiligheidsmaatregelen te beschermen. 118

Waarom de kostenverhouding kantelt

AI verlaagt de marginale kosten van schrijven, lokaliseren, onderzoek, codehulp en herhaalde misleiding. Daardoor kunnen kleine criminele groepen en hacktivisten delen van de capaciteit krijgen die vroeger eerder bij grotere teams hoorden. Voor verdedigers wordt het moeilijker om sterk gepersonaliseerde en vaak gewijzigde kwaadaardige berichten te onderscheiden van legitieme communicatie. 610

Dat betekent niet dat elke AI-ondersteunde aanval slaagt. Wel ontstaat een asymmetrie in snelheid en schaal: aanvallers kunnen sneller varianten produceren en testen dan beveiligingsteams ze op basis van vaste herkenningspatronen kunnen blokkeren. 610

Breder dan phishing: verantwoord AI-gebruik

De vraag naar toegangsbeheer, modelcapaciteiten en monitoring reikt verder dan cybercrime. In het rapport van Anthropic kwamen ook pogingen aan bod om modellen te misbruiken voor biologisch onderzoek en de ontwikkeling van conventionele wapens. Daarom draait de beleidsdiscussie ook om misbruikmonitoring, account- en API-controles, limieten op gebruik, detectie van model-extractie, het delen van incidentinformatie en aanvullende waarborgen voor toepassingen met zware gevolgen. 162

De belangrijkste kanttekening blijft: deze publicaties beschrijven ontdekte en verstoorde gevallen. Ze tonen dus reële mogelijkheden en opkomende operationele patronen, maar bewijzen op zichzelf niet dat autonome aanvallen inmiddels de dominante vorm van cybercriminaliteit zijn. 7