Toezichthouders slaan alarm over autonome AI in de financiële sector — Singapore komt met veiligheidskader

Autonome AI-agenten — vaak aangeduid als agentic AI — schuiven op van advies naar actie. Ze kunnen plannen maken, redeneren en zelfstandig opdrachten uitvoeren, zoals betalingen, wijzigingen in databases of transacties. In financiële markten kan dat op een snelheid gebeuren die menselijke controle lastig maakt.

Daarom waarschuwen toezichthouders wereldwijd voor risico’s voor de financiële stabiliteit, cybersecurity, marktintegriteit en consumentenbescherming. Singapore reageert met een samenhangend pakket van kaders en hulpmiddelen. Het meest sectorspecifieke onderdeel is het whitepaper SAFR, voluit Safeguards for Agentic Finance at Runtime.

Waarom toezichthouders zich zorgen maken

Risico voor de financiële stabiliteit

De Financial Stability Board (FSB), het internationale orgaan dat de stabiliteit van het financiële stelsel monitort, riep financiële instellingen in juni 2025 nadrukkelijk op om direct waarborgen in te voeren tegen steeds autonomere AI-systemen. Zulke systemen kunnen complexe, ingrijpende taken uitvoeren met weinig menselijk toezicht ^AI.

Ook de Bank of England gaf in juni 2026 aan dat specifieke AI-regels nodig kunnen zijn. Volgens plaatsvervangend gouverneur Sarah Breeden hebben ontwikkelingen rond onder meer autonome betalingen en handel mogelijke hiaten in bestaande regels blootgelegd ^M.

Europese centrale bankiers en toezichthouders waarschuwden in juli 2026 bovendien dat de financiële regelgeving de snelle ontwikkeling van AI nauwelijks kan bijbenen. Dat kan risico’s opleveren voor de integriteit en stabiliteit van markten ^C.

Cybersecurity en concentratierisico’s

AI kan niet alleen verdedigingen versterken, maar ook kwetsbaarheden sneller opsporen en uitbuiten. Een vooraanstaande Zwitserse toezichthouder zei in juni 2026 dat AI de cybersecurityrisico’s in de financiële sector aanjaagt ^R.

Analyses van onder meer de Bank for International Settlements (BIS) en de OESO wijzen daarnaast op risico’s door afhankelijkheid van externe technologiebedrijven, geconcentreerde modellen en vergelijkbaar gedrag van verschillende AI-systemen. Daardoor kunnen problemen zich sneller door het financiële systeem verspreiden ^AB.

Fraude en schade voor consumenten

De Amerikaanse Commodity Futures Trading Commission (CFTC) waarschuwde consumenten voor beleggingsfraude waarbij oplichters zich beroepen op AI-tools die enorme rendementen zouden opleveren. Zulke claims worden volgens de toezichthouder vaak via sociale media verspreid ^C.

De BIS waarschuwde in juni 2026 ook dat AI bestaande risico’s binnen financiële instellingen kan versterken, waaronder krediet-, liquiditeits-, model- en operationele risico’s ^B.

AI valt steeds meer onder toezichtregels

In de Verenigde Staten plaatste FINRA, de toezichthouder voor beursmakelaars en effectenhandelaren, autonome AI in zijn rapport over toezicht voor 2026 nadrukkelijk binnen de regels voor toezicht op brokerprocessen. Daarmee verschuift de aandacht van AI als communicatiehulpmiddel naar AI die daadwerkelijk taken uitvoert binnen gereguleerde werkstromen ^SF.

De centrale vraag is dan niet alleen of een model een fout antwoord geeft. Het gaat er ook om wie verantwoordelijk is wanneer een systeem zelfstandig een stap uitvoert die normaal door een geregistreerde medewerker wordt gezet — en of die handeling achteraf kan worden gecontroleerd.

Singapore kiest voor meerdere beschermingslagen

Singapore heeft de aanpak verdeeld over verschillende instanties en instrumenten:

Initiatief	Verantwoordelijke instantie	Datum	Wat het doet
SAFR-whitepaper (Safeguards for Agentic Finance at Runtime)	Monetary Authority of Singapore (MAS)	3 juli 2026	Beschrijft waarborgen voor AI-agenten in financiële dienstverlening, waaronder controlepunten om acties vóór uitvoering te controleren en vast te leggen EN
Model AI Governance Framework for Agentic AI	Infocomm Media Development Authority (IMDA)	22 januari 2026	Het eerste specifiek op autonome AI-agenten gerichte governancekader dat Singapore presenteerde; het behandelt onder meer zelfstandig uitgevoerde betalingen, databasewijzigingen en andere ingrijpende handelingen MAT
AI Risk Management Guidelines (AIRG)	MAS	Consultatie van november 2025 tot 31 januari 2026	Voorgestelde richtlijnen voor alle door MAS gereguleerde financiële instellingen, met eisen en verwachtingen rond toezicht, de levenscyclus van AI, risicobeheersing en externe leveranciers MMKP
AI Risk Management Toolkit, Project MindForge	MAS en Association of Banks in Singapore (ABS)	Maart 2026	Praktische hulpmiddelen voor financiële instellingen om AI-risico’s te beheren RL
National AI Safety Framework	IMDA	Mei 2026	Een breed nationaal kader voor AI-veiligheid, gericht op de risico’s van de snelle verspreiding van generatieve en autonome AI R

Wat SAFR anders maakt

Het SAFR-whitepaper is specifiek ontworpen voor AI-agenten die in een live financiële omgeving handelen. Het bouwt voort op het bredere governancekader van IMDA en de AI-risicorichtlijnen van MAS ^EN.

De kern bestaat uit governance checkpoints: controlepunten waarop een AI-agent zijn voorgenomen actie moet laten verifiëren en registreren voordat die wordt uitgevoerd. Zo kunnen instellingen toetsen of een handeling past binnen vooraf vastgelegde beleidsregels ^N.

Het Model AI Governance Framework van IMDA vult dat aan met vier belangrijke uitgangspunten:

• de bevoegdheden en toegang van een AI-agent moeten worden begrensd;
• op vastgelegde momenten moet een mens verantwoordelijk blijven;
• technische controles, waaronder basistests, moeten de werking van het systeem toetsen;
• ook de eindgebruiker moet weten welke verantwoordelijkheid bij het gebruik van de agent hoort ^L.

Het kader behandelt bovendien de vraag wie verantwoordelijk is wanneer meerdere partijen betrokken zijn — bijvoorbeeld de ontwikkelaar, de financiële instelling, een externe leverancier en de medewerker die de agent inzet. Het doel is een duidelijke verantwoordingsketen op elk niveau ^Y.

De AIRG-consultatie van MAS richt zich ondertussen op de hele AI-levenscyclus. Daarbij gaat het onder meer om de verantwoordelijkheid van bestuur en senior management, systemen om alle gebruikte AI-toepassingen in kaart te brengen, een volledige AI-inventaris en controles vanaf ontwikkeling tot uitfasering ^MKP. De voorgestelde richtlijnen zouden gelden voor alle financiële instellingen die onder MAS vallen, waaronder banken, verzekeraars en fintechbedrijven.

Een model voor andere landen?

Singapore probeert niet met één regel alle AI-risico’s op te lossen. De aanpak combineert een governancekader, sectorspecifieke richtlijnen, praktische hulpmiddelen en samenwerking met de financiële sector. Daardoor ontstaat een systeem waarin zowel beleid op bestuursniveau als technische controle tijdens de uitvoering een plaats krijgt.

Of andere jurisdicties het Singaporese model volledig zullen overnemen, is nog niet duidelijk. Wel biedt de gelaagde architectuur een concreet voorbeeld op een moment dat toezichthouders in Europa, het Verenigd Koninkrijk en de Verenigde Staten aangeven dat bestaande regels mogelijk niet volstaan voor systemen die zelfstandig financiële beslissingen en handelingen uitvoeren ^AMI.