Google ziet aanvallers verschuiven van losse AI-prompts naar agentgestuurde aanvalsketens

Google Threat Intelligence Group (GTIG) ziet een belangrijke verschuiving in het misbruik van AI. Aanvallers gebruiken AI niet langer alleen voor losse taken, zoals het schrijven van een phishingmail of een stukje code. Sommige groepen koppelen die taken inmiddels aan elkaar in agentgestuurde workflows: processen waarin AI-systemen meerdere stappen in een aanval ondersteunen en deels automatiseren. Daardoor blijft er minder tijd over voor beveiligingsteams om een incident te ontdekken, te onderzoeken en te stoppen. 25

Van hulpmiddel naar gekoppelde aanvalsketen

Eerder ging AI-misbruik vaak om afgebakende ondersteuning: informatie verzamelen over een doelwit, een bericht opstellen, code schrijven of debuggen, of tekst vertalen. In de update van september beschrijft GTIG hoe verder gevorderde aanvallers opschuiven naar workflows waarin AI verschillende samenhangende taken uitvoert en automatisering ondersteunt. 25

Dat is relevant omdat een aanval dan sneller kan doorstromen van verkenning naar bijvoorbeeld het scannen op kwetsbaarheden, het verzamelen van inloggegevens en het oplossen van technische problemen tijdens de operatie. Minder menselijke tussenkomst kan de gebruikelijke reactietijd voor verdedigers sterk verkorten. 25

Credentialdiefstal in minder dan zes uur

Een van de opvallendste voorbeelden betreft een financieel gemotiveerde actor. Die gebruikte volgens de berichtgeving een multi-agentframework om in minder dan zes uur een grootschalige operatie voor het buitmaken van inloggegevens op te zetten en te starten. De agents hielpen onder meer bij scans, credentialdiefstal en het oplossen van operationele problemen. 212

Het verschil zit dus niet alleen in AI die een script schrijft. Agents kunnen een operatie ook gaande houden wanneer er alledaagse technische obstakels ontstaan. Dat vermindert de handmatige coördinatie die anders nodig is om een aanval voort te zetten.

Statelijk gelinkte groepen gebruiken AI in meerdere aanvalsfases

GTIG meldde ook AI-gebruik door statelijk gelinkte actoren, van vroeg onderzoek en doelwitinlichtingen tot technische probleemoplossing tijdens een inbraak. De aan China gelinkte spionagegroep BASINCASTLE zou grote taalmodellen hebben gebruikt voor onderzoek en voor het oplossen van problemen tijdens inbraken. 1

Een andere aan China gelinkte groep probeerde Gemini in te zetten om een geautomatiseerd raamwerk voor penetratietests te bouwen. Daarbij zou agentgestuurde AI bedoeld zijn om de eerste fasen van een inbraak zelfstandig uit te voeren. 1

Deze voorbeelden laten zien dat AI aanvallers al vóór een mogelijk verstorende actie voordeel kan opleveren: sneller onderzoek, eenvoudiger technisch experimenteren en sneller aanpassen als een operatie niet volgens plan verloopt.

Phishing en imitatie blijven de grootste praktische zorg

De breedste impact van generatieve AI ligt mogelijk niet bij een volledig nieuw type cyberaanval, maar bij het opschalen van bestaande aanvallen die zich op mensen richten. AI kan phishing- en social-engineeringmateriaal sneller produceren, beter afstemmen op ontvangers en overtuigender maken in uiteenlopende talen en regio’s. GTIG beschreef eerder al het gebruik van AI voor informatievergaring, realistische phishingfraude en malwareontwikkeling. 11

Ook voor imitatie en beïnvloedingsoperaties is dat belangrijk. AI-ondersteunde content kan geloofwaardiger voorwendselen, verzonnen online identiteiten en misleidende berichten op schaal mogelijk maken. Volgens berichtgeving over de Q3-bevindingen gebruikten Iraanse, door de staat gesteunde groepen Gemini onder meer voor phishing en het creëren van valse identiteiten. 4

Voor organisaties is de les eenvoudig: een professioneel geschreven e-mail, document of telefonisch voorwendsel is niet langer een betrouwbare aanwijzing dat een verzoek legitiem is.

Belangrijke nuance: nog geen volledig autonome aanvallen in het wild

Google zegt nadrukkelijk nog geen dreigingsactoren te hebben gezien die volledig autonome aanvalspijplijnen tegen doelwitten in het wild hebben ingezet. 2

De bevinding gaat dus niet over een volledig zelfstandig opererende ‘AI-hacker’. GTIG beschrijft vooral een ontwikkeling richting meer autonomie. Agents kunnen nu al omvangrijke deeltaken uitvoeren en onderdelen van een aanvalsketen verbinden, terwijl mensen vooralsnog de doelen en cruciale besluiten lijken te bepalen. De grootste uitdaging op korte termijn is daarmee dat bekende aanvallen sneller, goedkoper en moeilijker op tijd te beoordelen worden. 25

Wat beveiligingsteams hieruit moeten meenemen

De tracker onderstreept dat verdediging niet alleen om technische verfijning draait, maar ook om snelheid:

• Behandel identiteitsaanvallen als een hoofdprioriteit. Gebruik phishingbestendige authenticatie en let op afwijkend gebruik van accounts en inloggegevens.
• Verkort detectie- en indammingstijd. Agentondersteunde operaties kunnen snel bewegen tussen verkenning, toegang en gegevensverzameling.
• Controleer risicovolle verzoeken via een apart kanaal. Denk aan wijzigingen van betaalgegevens, aanvragen om wachtwoorden of verzoeken om gevoelige bestanden te delen.
• Beveilig AI-middelen en ontwikkelprocessen. GTIG ziet dat aanvallers in toenemende mate AI-gerelateerd intellectueel eigendom, AI-gebruikers, systemen en zwakke plekken in de toeleveringsketen aanvallen. 15

De boodschap van Google is urgent, maar niet alarmistisch: volledig autonome cyberaanvallen zijn nog geen vastgesteld feit in de praktijk. AI helpt criminelen en statelijk gelinkte groepen wél nu al om vertrouwde tactieken om te zetten in beter gecoördineerde en schaalbare operaties. 25