Een zinvolle AI-rem vraagt om onafhankelijke tests en duidelijke gevolgen

Een zinvolle rem op AI betekent de ontwikkeling van de krachtigste systemen doseren, niet AI in de hele economie stilleggen. Recente publieke oproepen van prominente AI-bestuurders zetten onafhankelijke evaluatie en samenwerking op de agenda. Maar geloofwaardige waarborgen vragen om meer dan vrijwillige toezeggingen: evaluaties moeten onafhankelijk zijn, besluiten over uitrol moeten gevolgen hebben en regels moeten aansluiten bij het risico.

Singapore heeft al bruikbare bouwstenen, zoals een bestuurskader voor agentische AI, de testtools van AI Verify en een programma dat externe AI-testers erkent. De volgende stap is die instrumenten te verbinden aan heldere, op bewijs gebaseerde beslissingen over de systemen die organisaties daadwerkelijk inzetten. 4

Wat de oproepen om AI af te remmen wel en niet betekenen

De recente voorstellen gaan over het tempo van frontier-AI: de meest geavanceerde systemen, waarbij veiligheidsmaatregelen en extern toezicht mogelijk geen gelijke tred houden met de ontwikkeling van nieuwe capaciteiten. In de berichtgeving genoemde ideeën zijn onder meer doorlopende toegang voor externe evaluatoren bij toonaangevende AI-bedrijven, gezamenlijke veiligheidsnormen en bredere internationale samenwerking.

Die voorstellen wijzen op groeiende belangstelling, maar vormen nog geen vastgesteld beleid of bindende overeenkomst tussen AI-bedrijven. Het International AI Safety Report stelt dat risicobeheer nog in ontwikkeling is en dat de meeste initiatieven van bedrijven vrijwillig blijven. Dat onderscheid is belangrijk: de belofte van een bedrijf om een model te testen is op zichzelf geen afdwingbare regel die een lancering uitstelt wanneer er ernstige risico’s overblijven.

Maak van veiligheid een voorwaarde voor uitrol

Een werkbare aanpak stelt strengere voorwaarden aan systemen met meer mogelijkheden of bevoegdheden, zonder alle alledaagse AI-toepassingen over één kam te scheren. Een eenvoudige schrijftool en een agent die ingrijpende acties mag uitvoeren, hoeven niet automatisch aan dezelfde eisen te voldoen. Het Singaporese kader voor agentische AI adviseert organisaties al om risico’s te beoordelen en te begrenzen, en menselijke goedkeuring in te bouwen bij belangrijke of gevoelige acties. 46

Voor frontier-modellen en toepassingen met grote impact kunnen beleidsmakers dat principe verder uitwerken in een proces vóór de uitrol, met onder meer:

• Onafhankelijke evaluatie vóór de lancering: Geef gekwalificeerde externe evaluatoren beveiligde toegang tot relevante systemen en informatie. Laat hen gevaarlijke capaciteiten en voorzienbaar misbruik onderzoeken. Doorlopende toegang voor evaluatoren is voorgesteld in recente oproepen om frontier-AI te doseren; het is geen universele, al geldende verplichting.
• Duidelijke drempels en opvolging: Leg helder vast welke bevindingen leiden tot extra waarborgen, beperktere toegang of uitstel. Een mislukte evaluatie moet leiden tot een gedocumenteerde reactie en, wanneer het risico dat rechtvaardigt, tot uitstel van de uitrol — niet alleen tot een nieuwe interne beoordeling. Dit zijn voorgestelde bestuursmaatregelen, geen eisen uit het huidige Singaporese kader. 4
• Maatregelen die passen bij de toepassing: Overweeg bij agenten met ingrijpende bevoegdheden begrensde toegang, menselijke goedkeuring op belangrijke momenten, monitoring en heldere verantwoordelijkheid. Het Singaporese kader ondersteunt risicobeperking en betekenisvol menselijk toezicht; de precieze maatregelen moeten afhangen van het systeem en het gebruik ervan. 48
• Opnieuw beoordelen na wezenlijke wijzigingen: Test opnieuw wanneer een model, de beschikbare hulpmiddelen of de gebruiksomgeving ingrijpend verandert. Een eerdere test is geen blijvende garantie. Dit is een voorgestelde manier om de beoordeling relevant te houden wanneer het systeem in de praktijk verandert.

Voor toepassingen met een lager risico moet juist een eenvoudiger, lichter traject beschikbaar zijn. Risicogebaseerde regels kunnen ruimte bieden aan zakelijk gebruik zonder een geslaagde test te behandelen als bewijs dat een systeem in elke context veilig is. De AI-verordening van de EU is een voorbeeld van regelgeving die uitgaat van de risico’s van AI-toepassingen.

Houd de regels openbaar en de tests onafhankelijk

Internationale samenwerking kan evaluaties beter vergelijkbaar maken en de prikkel verkleinen om toezicht te zoeken in het minst veeleisende rechtsgebied. Overheden kunnen werken aan gedeelde testmethoden, het uitwisselen van informatie over incidenten en minimumvereisten voor systemen met de hoogste risico’s. Onafhankelijke evaluatoren kunnen vervolgens bewijs verzamelen aan de hand van die afspraken. Ook de recente voorstellen om AI af te remmen pleiten voor samenwerking tussen bedrijven en over landsgrenzen heen.

Een heldere taakverdeling is daarbij essentieel. Overheden moeten afdwingbare drempels vaststellen en bepalen wat er gebeurt als die worden overschreden. Bedrijven kunnen technische kennis inbrengen, maar zouden niet als enige mogen bepalen of hun eigen systemen aan de eisen voldoen. Onafhankelijke testers hebben transparante methoden nodig en moeten mogelijke belangenconflicten melden. Dit zijn ontwerpprincipes voor een mogelijk toezichtsysteem, geen kenmerken die al vastliggen in de genoemde oproepen vanuit de sector.

Waar Singapore op kan voortbouwen

Het Singaporese Model AI Governance Framework for Agentic AI biedt organisaties richtlijnen voor het inzetten van AI-agenten, waaronder risicobeoordeling, menselijke verantwoordelijkheid en beheersmaatregelen. Het is richtlijn voor verantwoord gebruik, maar op zichzelf geen afdwingbare voorwaarde voor een lancering. 468

AI Verify biedt testtools. Het AI Tester Accreditation Programme erkent externe testbedrijven met relevante technische capaciteiten en operationele gereedheid. Samen kunnen deze initiatieven bijdragen aan consistentere beoordelingen in het bedrijfsleven en de financiële sector. Singapore zou ook gezamenlijke assurance-profielen kunnen stimuleren, evenals contracten die verduidelijken wat modelaanbieders, systeemintegrators, organisaties die AI inzetten en testers moeten aantonen. Dat zijn mogelijke vervolgstappen, geen beleid dat al in de aangehaalde kaders is vastgelegd.

Een nuttig doel zou zijn om testresultaten en -methoden over grenzen heen te erkennen — niet om te beweren dat één nationaal certificaat elk systeem in elke toepassing veilig maakt. De richtlijnen en testtools kunnen helpen om bewijs beter te structureren. Overheden en organisaties moeten nog steeds beoordelen of dat bewijs de risico’s van de daadwerkelijke toepassing dekt.

Beoordeel AI-veiligheid, softwarebetrouwbaarheid en cybersecurity samen

De antwoorden van een model testen is maar één onderdeel van de beoordeling van een AI-agent. Een volledige beoordeling moet ook kijken naar de software eromheen en naar de beveiliging van de tools en bevoegdheden waartoe de agent toegang heeft. Dat zijn verwante, maar verschillende vragen: welk schadelijk gedrag kan de AI vertonen; hoe gedraagt de complete toepassing zich als er iets misgaat of verandert; en kan een aanvaller het systeem overnemen of omleiden?

Deze gecombineerde beoordeling is een aanbevolen uitbreiding van assurance, niet de bewering dat alle bestaande hulpmiddelen deze drie gebieden al afdekken. De AI Verify Toolkit beschrijft technische tests voor traditionele machine-learning-systemen, onder meer op eerlijkheid, uitlegbaarheid en robuustheid. Het is daarom belangrijk om vast te leggen welke aanvullende tests nodig zijn voor agentische toepassingen, in plaats van aan te nemen dat een resultaat op modelniveau ook de veiligheid van het complete systeem bevestigt.

De maatstaf voor een zinvolle AI-rem

Een AI-rem is pas zinvol als onafhankelijk bewijs daadwerkelijk invloed heeft op wat er daarna gebeurt: een uitrol met grote risico’s kan worden uitgesteld, beperkt of aangepast wanneer de waarborgen tekortschieten, terwijl gewone toepassingen met een lager risico een proportionele route naar gebruik behouden. De Singaporese kaders en testprogramma’s bieden een basis voor zo’n aanpak, maar de drempels voor uitrol, de handhaving en de reikwijdte van de evaluaties moeten nog expliciet worden gemaakt.