Singapore wil AI-risico’s toetsen, niet alleen over rampscenario’s praten

De waarschuwingen zijn ernstig, maar wat kun je er vandaag mee doen? In Singapore wijzen stemmen uit de AI-sector op een praktisch antwoord: laat systemen onafhankelijk testen, maak veiligheidsmaatregelen controleerbaar en beperk wat AI na ingebruikname mag doen. Dat is iets anders dan ongeremd doorontwikkelen, maar ook iets anders dan al het AI-werk stilleggen. 732

Van waarschuwing naar controle

Onderzoeker Jacob Coxon vertrok in september 2026 bij Anthropic. Hij had ook bij OpenAI gewerkt en beschuldigde beide bedrijven ervan onverantwoord snel toe te werken naar AI die zichzelf kan verbeteren. Anthropic-onderzoeker Evan Hubinger onderschreef zijn zorg en schatte persoonlijk de kans dat AI binnen tien jaar tot het uitsterven van de mensheid leidt op meer dan 10 procent. Dat getal is zijn inschatting, geen gemeten kans of bewijs dat zo’n uitkomst nabij is. 34

Ook Anthropic-topman Dario Amodei riep op 12 september op tot een lager ontwikkelingstempo. In zijn voorstel krijgen externe beoordelaars toegang om na te gaan of bedrijven hun veiligheidsprocedures volgen en incidenten melden. Daarmee wordt de vraag concreter: niet alleen hoe groot is het gevaar?, maar ook wat kunnen buitenstaanders controleren? 1332

Wat een audit wel en niet bewijst

Singapore beschikt al over instrumenten om bestaande systemen te toetsen. De in 2022 gelanceerde toolkit AI Verify ondersteunt beoordelingen van onder meer eerlijkheid, robuustheid en uitlegbaarheid. Het AI Tester Accreditation Programme is bedoeld om de capaciteit voor zulke tests te vergroten. Geen van beide bewijst dat toekomstige systemen veilig zullen zijn. 1933

Een interne verklaring van een leverancier is bovendien niet hetzelfde als onafhankelijke controle. Beoordelaars hebben voldoende toegang nodig om veiligheidspraktijken te onderzoeken en incidenten aan het licht te brengen. Organisaties die AI koppelen aan hun gegevens en werkprocessen moeten van leveranciers inzicht en controle over die koppeling verlangen. Alleen toegang tot de modelgewichten — de interne parameters van een model — vertelt nog niet welke keuzes tijdens de training zijn gemaakt of welke beveiligingen zijn ingebouwd. 3234

Dit sluit een gerichte pauze niet uit. Een in het debat aangehaalde deskundige uit Singapore stelt dat ontwikkelaars een activiteit moeten stilleggen als zij een systeem niet voldoende kunnen beheersen of niet kunnen uitleggen hoe zij ernstige risico’s aanpakken. Dat is een voorwaarde gekoppeld aan een aantoonbaar risico, geen algemene stop voor alle toepassingen. 32

Geef AI-agenten niet meer bevoegdheden dan nodig

Bij autonome AI-agenten is toezicht direct relevant: zulke systemen kunnen hulpmiddelen gebruiken en handelingen uitvoeren binnen werkprocessen. De Singaporese digitale toezichthouder IMDA lanceerde in januari 2026 een governancekader voor deze agenten. Het adviseert organisaties vooraf risico’s te beoordelen en grenzen te stellen aan zelfstandigheid en toegang tot hulpmiddelen en gegevens. Een latere versie werkt het principe uit dat een agent alleen de minimaal noodzakelijke toegang krijgt. Het kader is richtsnoer, geen algemeen wettelijk verbod op AI-agenten. 504852

Voor organisaties betekent dat: wijs per agent een verantwoordelijke aan, beperk rechten, leg handelingen vast, zorg waar mogelijk dat ze ongedaan kunnen worden gemaakt en blijf het gebruik volgen. Zulke maatregelen zijn toetsbaarder dan de algemene belofte dat een agent ‘veilig’ is. 34 Minister Josephine Teo vergeleek de rol van veiligheidsnormen bij het opbouwen van vertrouwen in AI met veiligheidspraktijken in de burgerluchtvaart. 17

De kern is verantwoordelijkheid ondanks onzekerheid: test wat nu te testen valt, laat anderen meekijken en geef systemen geen bevoegdheden die je niet kunt beheersen. Daarmee is het debat over AI-risico’s op lange termijn niet beslecht, maar weten ontwikkelaars en gebruikers wel waarop ze vandaag aanspreekbaar zijn. 3248