Hoe AI-agenten risico’s rond biowapens, cyberaanvallen en oorlog kunnen vergroten

Het risico van geavanceerde AI zit niet in één machine die plotseling elk rampscenario zelfstandig kan uitvoeren. Het zit in een keten: een model maakt kennis bruikbaarder, een AI-agent voert met toegang tot digitale hulpmiddelen taken uit, en menselijke toezichthouders krijgen mogelijk minder tijd om in te grijpen. Meldingen van misbruik zijn daarom belangrijk, maar AI-hulp, een poging tot misbruik en bewezen schade moeten uit elkaar worden gehouden.182258

Biologische dreigingen: advies is nog geen wapen

Algemene chatbots kunnen wetenschappelijke informatie helpen doorgronden. Gespecialiseerde systemen kunnen onderzoekers ondersteunen bij het ontwerpen van experimenten. OpenAI zegt dat GPT-Rosalind biologische analyse en experimentele werkprocessen ondersteunt. Nature beschrijft zowel de onderzoeksvoordelen als de risico’s voor misbruik van biologische AI-toepassingen zoals AlphaFold.1019

Die zorgen zijn niet louter theoretisch. The New York Times publiceerde over gesprekken waarin chatbots aanwijzingen over biologische wapens gaven en manieren bespraken om ontdekking te ontlopen.21 Anthropic meldde daarnaast vijf mogelijke gevallen te hebben verstoord waarin gebruik van Claude de ontwikkeling van biologische wapens had kunnen ondersteunen. Volgens Axios gingen twee daarvan over verzoeken rond gevaarlijk gain-of-function-onderzoek, waarbij eigenschappen van ziekteverwekkers worden veranderd.25 Geen van deze meldingen toont aan dat er een werkend wapen is gemaakt.

Een antwoord van een chatbot vervangt bovendien niet alle specialistische kennis, materialen en laboratoriumwerk die daarvoor nodig zijn. Die praktische drempels blijven relevant, ook als betere hulpmiddelen sommige ervan verlagen.1926 OpenAI behandelde de biologische capaciteiten van GPT-5 uit voorzorg als hoog risico, maar zei tegelijk geen definitief bewijs te hebben dat het model een beginner wezenlijk kan helpen ernstige biologische schade te veroorzaken.31

Cyberaanvallen: meer tempo, maar uitkomsten zijn niet altijd duidelijk

Een AI-agent met toegang tot digitale hulpmiddelen kan bij meerdere stappen van een inbraak helpen. Dat kan aanvallers sneller laten werken en verdedigers minder reactietijd geven. Berichten over de meldingen van Anthropic beschrijven AI-hulp bij cyberoperaties en gegevensdiefstal.5053

Bij een gemeld geval gebruikte één aanvaller AI-hulpmiddelen tegen negen Mexicaanse overheidsinstanties.54 Andere publicaties spreken van ongeveer 400 miljoen blootgestelde gegevensbestanden, maar dat totaal is op basis van het beschikbare materiaal niet onafhankelijk bevestigd.5657 Ook beweringen over gecoördineerde zwermen van AI-agenten die circa vijftig organisaties aanvielen, zijn hier te zwak onderbouwd om als vastgesteld incident te presenteren.

Dezelfde technologie kan verdedigers helpen kwetsbaarheden te vinden en te verhelpen. Voor de specifieke bewering dat GPT-5.6-Cyber fouten ontdekte die later in Chrome zijn gerepareerd, ontbreekt hier voldoende onderbouwing.

Desinformatie en autonome wapens kunnen een crisis verergeren

Onder de door Anthropic gemelde vormen van misbruik vallen ook beïnvloedingsoperaties.2250 Vervalste berichten of online imitatie kunnen tijdens een cyberaanval of conflict het zicht op de feiten vertroebelen. De aangehaalde gevallen bewijzen niet dat grootschalige desinformatie een existentiële uitkomst heeft veroorzaakt.

Anthropic meldde ook dat ontwikkelaars in Rusland Claude gebruikten voor software voor een zwerm aanvalsdrones, onder meer voor besturing, onderlinge coördinatie en doelkeuze.5160 Software ontwikkelen is niet hetzelfde als bewezen inzet op het slagveld. Evenmin zegt de aanwezigheid van AI in een drone op zichzelf hoeveel zeggenschap een mens houdt over het gebruik van dodelijk geweld. Het Internationale Comité van het Rode Kruis waarschuwt voor autonome wapens waarvan mensen het gedrag onvoldoende kunnen begrijpen, voorspellen of beheersen, vanwege risico’s voor burgers en op escalatie van conflicten.58

Beveilig de hele keten, niet alleen de chatbot

Een chatbot die een gevaarlijk verzoek weigert, biedt bescherming, maar is geen volledige verdediging. Onderzoekers bespreken onder meer weigeringen en beperkingen voor risicovolle biologische toepassingen. Onderzoeksinstituut RAND pleit voor meerdere beveiligingslagen, omdat één maatregel een vastberaden kwaadwillende niet hoeft tegen te houden.1729 Anthropic zegt misbruik te hebben opgespoord en verstoord en de bescherming rond gevoelig biologisch onderzoek te hebben aangescherpt.2223

De praktische opgave is om systemen te testen op taken met meerdere stappen, de rechten en hulpmiddelen van AI-agenten te begrenzen, misbruik te signaleren en operaties daadwerkelijk te kunnen stoppen. Bij wapens moet menselijke controle gelden voor beslissingen over dodelijk geweld, niet alleen bestaan uit een persoon die ergens formeel meekijkt. De Verenigde Naties en het Rode Kruis roepen op tot sterkere internationale regels voor dodelijke autonome wapens; dat is nog geen wereldwijd geldend verbod.5558

De beschikbare aanwijzingen rechtvaardigen preventie, geen fatalisme. AI heeft volgens berichtgeving gevaarlijke informatie verstrekt en is ingezet bij pogingen tot biologisch, cyber- en wapengerelateerd misbruik. Voor de conclusie dat een catastrofe of existentiële ramp is opgetreden, is bewijs van daadwerkelijk veroorzaakte schade nodig — niet alleen een alarmerend plan of een krachtig model.212246