Van regels naar AI-agenten: zo is kunstmatige intelligentie geëvolueerd

Dat leidt tot belangrijke ethische vragen in onder meer kredietverlening, werving, verzekeringen en de zorg. Historische gegevens kunnen maatschappelijke vooroordelen reproduceren, terwijl ondoorzichtige scores beslissingen moeilijk aanvechtbaar maken. Goed bestuur vraagt daarom om een duidelijk omschreven doel, tests voor nauwkeurigheid en eerlijkheid bij relevante groepen, privacybescherming, uitleg en menselijke beoordeling bij beslissingen met grote gevolgen. Zorgen over vooroordelen, misinformatie en misbruik zijn bredere AI-beleidskwesties en spelen dus niet alleen bij chatbots.

2. Generatieve AI: van labels voorspellen naar content maken

Generatieve AI verandert de gebruikersvraag van ‘In welke categorie valt dit?’ naar ‘Maak of verander iets op basis van deze instructie’. Grote modellen kunnen aannemelijke tekst, beelden, audio en code produceren. Dat ondersteunt onder meer het opstellen van antwoorden voor klantenservice, vertalen, bijles, het samenvatten van juridisch materiaal, softwareontwikkeling en creatief werk.

Generatieve systemen kunnen de tijd en kosten voor een eerste concept verlagen, complexe informatie toegankelijk maken via een gesprek en professionals ondersteunen in plaats van alleen een vaste beslissing te automatiseren.

De belangrijkste zwakte: aannemelijk betekent niet waar

Een generatief model kan een zelfverzekerd klinkende maar verzonnen of onjuiste uitspraak, bron, juridische grondslag, medische bewering of code produceren. Het Amerikaanse National Institute of Standards and Technology (NIST) gebruikt hiervoor de term confabulation: ‘the production of confidently stated but erroneous or false content’, in het dagelijks taalgebruik vaak een hallucinatie genoemd.

Daarom is controle essentieel zodra feitelijke juistheid belangrijk is. Nuttige waarborgen zijn onder meer het ophalen van informatie uit betrouwbare bronnen, bronverwijzingen, gestructureerde evaluaties, tests binnen een specifiek vakgebied en beoordeling door een gekwalificeerde professional. Een vloeiend antwoord moet worden gezien als een concept of voorspelling — niet als bewijs dat de onderliggende bewering klopt.

De bredere risico’s van generatieve systemen

Generatieve AI roept ook vragen op over gegevensbescherming, intellectueel eigendom, misinformatie en de herkomst van gegenereerde content. Richtlijnen van de Europese Commissie voor onderzoek wijzen op deze risico’s en benadrukken dat mensen verantwoordelijk blijven voor het werk dat zij publiceren, ook wanneer AI daarbij heeft geholpen.

Ook in het onderwijs ontstaat een dilemma. Wanneer studenten schrijfwerk, redeneringen en probleemoplossing structureel uitbesteden, kunnen ze een gepolijst eindresultaat krijgen terwijl ze de onderliggende vaardigheden minder oefenen. Richtlijnen voor onderwijs noemen daarom onder meer onnauwkeurige of bevooroordeelde content, schadelijk materiaal, datalekken, inbreuken op intellectueel eigendom en problemen rond academische integriteit.

Veiligheidsfouten kunnen ernstiger uitpakken in gevoelige gesprekken. Generatieve systemen kunnen haatdragende, gewelddadige, seksuele of manipulatieve content produceren, of inadequaat reageren wanneer iemand gedachten aan zelfbeschadiging uit. NIST noemt onder meer gevaarlijke of gewelddadige aanbevelingen, privacyrisico’s en schadelijke vooroordelen. In situaties met een hoog risico mag AI gekwalificeerde hulp of menselijke bescherming niet vervangen. Systemen hebben stevig weigerings- en escalatiegedrag nodig, naast privacycontroles en een duidelijke route naar directe menselijke ondersteuning.

3. Agentische AI: plannen, tools gebruiken en handelen

Agentische AI voegt een actielus toe rond een model. In plaats van één keer op een prompt te reageren, kan een agent een doel interpreteren, het opdelen in stappen, tools gebruiken zoals een browser, code-uitvoerder, e-maildienst of API, resultaten controleren, het plan aanpassen en doorgaan.

Stanford omschrijft agentische AI als autonome of semi-autonome systemen die doelen kunnen interpreteren, acties kunnen ordenen, tools kunnen gebruiken, op feedback kunnen reageren en zich kunnen aanpassen om binnen bepaalde grenzen een taak uit te voeren.

Het praktische verschil is groot:

• een voorspellend systeem geeft een score aan een transactie;
• een generatief systeem stelt een antwoord op over die transactie; en
• een agent kan, als hij de benodigde toegang krijgt, de transactie onderzoeken, een dossier bijwerken en een bericht versturen.

Google Jules laat zien hoe dit in softwareontwikkeling kan werken. Google beschrijft Jules als een asynchrone codingagent die met repositories integreert, een codebase naar een virtuele machine in de cloud kopieert en op codetaken werkt die later kunnen worden beoordeeld. Open-sourceagenten die tools gebruiken vertegenwoordigen een andere aanpak. Producten voor werving, zoals LinkedIn Hiring Assistant, laten zien hoe agentische workflows ook op sourcing en personeelswerving kunnen worden toegepast.

Agenten zijn aantrekkelijk omdat ze meerstapswerk kunnen uitvoeren in plaats van alleen een volgende stap te suggereren. Een codingagent kan bijvoorbeeld een bug onderzoeken, meerdere bestanden aanpassen, tests uitvoeren en een pull request voorbereiden. Een workflowagent kan informatie verzamelen, ordenen en communicatie voorbereiden ter goedkeuring.

Waarom meer autonomie ook meer risico betekent

Plannen is niet hetzelfde als betrouwbaar begrijpen. Een agent kan een webpagina verkeerd interpreteren, een slecht plan kiezen, een kwaadaardige instructie volgen of een kleine fout over meerdere stappen versterken. Uit de Stanford AI Index 2026 blijkt dat agenten op OSWorld — een benchmark voor echte computertaken — verbeterden van 12 procent naar ongeveer 66 procent taaksucces. Toch mislukten ze nog altijd bij ongeveer één op de drie pogingen.

Een hallucinatie van een chatbot blijft mogelijk beperkt tot een communicatieprobleem. Een agent met inloggegevens, browsertoegang of betaalbevoegdheid kan dezelfde fout omzetten in een externe handeling. Governance voor agentische AI moet daarom niet alleen kijken naar de kwaliteit van de output, maar ook naar bevoegdheden, omkeerbaarheid en verantwoordelijkheid.

De belangrijkste veiligheidsrisico’s voor AI-agenten

De grootste risico’s ontstaan wanneer een agent invloed kan hebben op systemen, geld, gegevens of andere mensen:

• Ongeautoriseerde betalingen: een agent kan het verkeerde product kiezen, een budget overschrijden of door een kwaadaardige webpagina worden gemanipuleerd.
• Privacyverlies en datadiefstal: toegang tot e-mail, bestanden, klantgegevens, broncode of API-sleutels vergroot de kans op openbaarmaking, vooral via promptinjectie.
• Beveiligingsproblemen en softwareschade: een agent kan onveilige code introduceren, configuraties wijzigen, bestanden of andere resources verwijderen of geheimen via logs en externe tools lekken.
• Onduidelijke verantwoordelijkheid: het kan onduidelijk worden of de verantwoordelijkheid ligt bij de modelleverancier, ontwikkelaar van de toepassing, organisatie die de agent inzet, toolleverancier of gebruiker.
• Manipulatie: persistente, conversationele agenten kunnen ongepaste invloed uitoefenen, vooral bij kwetsbare gebruikers of wanneer het systeem betrouwbaarder en capabeler lijkt dan het in werkelijkheid is.

Hoe verantwoord bestuur eruitziet

De juiste controles moeten aansluiten bij de mogelijkheden van het systeem en bij de gevolgen van een fout.

Voor voorspellende AI moeten organisaties het doel vastleggen, nauwkeurigheid en eerlijkheid meten, persoonsgegevens beschermen en manieren bieden om beslissingen met grote gevolgen uit te leggen of aan te vechten.

Voor generatieve AI moeten zij belangrijke beweringen controleren, testen op hallucinaties en schadelijke output, gevoelige gegevens afschermen, vragen over herkomst en intellectueel eigendom adresseren en gekwalificeerde mensen verantwoordelijk houden voor juridische, medische, financiële en beschermingsbeslissingen.

Voor agenten zijn aanvullende technische en organisatorische maatregelen nodig:

1. Baken de toepassing af. Bepaal vóór de ingebruikname wat de agent wel en niet mag doen.
2. Beperk de toegang. Gebruik toegangsrechten volgens het principe van least privilege, beperkte tools, transactielimieten en afgeschermde omgevingen.
3. Vraag goedkeuring op belangrijke controlepunten. Financiële, juridische, privacygevoelige en veiligheidskritieke acties mogen niet plaatsvinden zonder passende menselijke autorisatie.
4. Maak activiteiten controleerbaar. Bewaar logs, monitor gedrag en wijs duidelijk eigenaarschap toe bij incidenten.
5. Test aanvallend. Onderzoek vóór en tijdens de implementatie onder meer promptinjectie, gegevensonttrekking, schadelijk gedrag en herstel na fouten.
6. Behoud menselijke controle. Mensen moeten acties met grote gevolgen kunnen stoppen, overrulen en aanvechten.

De Infocomm Media Development Authority (IMDA) van Singapore werkt deze risicogestuurde aanpak uit in het Model AI Governance Framework for Agentic AI. Het kader is bedoeld voor organisaties die zelf agenten ontwikkelen of oplossingen van derden inzetten. De kernles is dat autonomie stapsgewijs moet worden opgebouwd: begin met ondersteuning die alleen gegevens leest, ga daarna over op acties met een laag risico en reserveer onomkeerbare of ingrijpende handelingen voor expliciete goedkeuring.

De richting van AI

De ontwikkeling van AI laat zich het best begrijpen als een steeds bredere mogelijkhedenstack, niet als drie volledig losstaande tijdperken. Traditionele systemen voorspellen en classificeren. Generatieve systemen creëren en transformeren. Agentische systemen voegen planning, toolgebruik en handelen toe.

Governance moet in hetzelfde tempo meegroeien. Nauwkeurigheids- en eerlijkheidscontroles blijven noodzakelijk, maar zijn niet langer voldoende. Generatieve systemen vragen om stevige procedures voor verificatie, herkomst en contentveiligheid. Agenten hebben daarnaast duidelijke toegangsgrenzen, controlepunten voor acties, beveiligingsmonitoring en heldere verantwoordelijkheid nodig.

Hoe meer een AI-systeem zelfstandig kan doen, hoe zorgvuldiger organisaties moeten bepalen wat het systeem daadwerkelijk mag doen.