Hoe Singapore AI opschaalt binnen de overheid zonder autonome systemen vrij spel te geven

Singapore kiest bij AI in de publieke sector niet voor een losse chatbotstrategie, maar voor een complete infrastructuur. De overheid wil AI beschikbaar maken voor ongeveer 150.000 ambtenaren, terwijl zij tegelijk controle houdt over de agents, tools en gegevens waartoe deze systemen toegang krijgen.

De AI Assistant Desk en het geplande register voor AI-agents moeten zichtbaar maken welke systemen worden gebruikt, wie ervoor verantwoordelijk is en wat ze in de praktijk doen. Het initiatief wordt nog ontwikkeld en getest met een beperkte groep ambtenaren; een bredere uitrol staat gepland voor later in 2026.

De kern van het plan is daarmee niet alleen méér AI, maar een gemeenschappelijke bestuurslaag voor AI binnen de overheid.

Het register maakt digitale medewerkers traceerbaar

Het register moet vastleggen wie eigenaar is van een AI-agent, waarvoor die agent mag worden ingezet en hoe hij wordt gebruikt. Overheidsinstanties kunnen zo een geautomatiseerd systeem koppelen aan een verantwoordelijke eigenaar en het gedrag ervan in de tijd beoordelen.

Dat is belangrijk omdat een agent meer kan doen dan tekst genereren. Afhankelijk van de toegangsrechten en koppelingen kan zo’n systeem beslissingen nemen, tools aanroepen of taken uitvoeren op machinale snelheid. Een register is daarom niet slechts een softwarecatalogus, maar ook een inventaris- en verantwoordingsmechanisme voor digitale medewerkers.

GovTech, de overheidsorganisatie die de digitale transformatie van Singapore coördineert, beschrijft de bredere Assistant Desk als een veilige digitale werkomgeving. Verwachte toepassingen zijn onder meer rapporten opstellen, agenda’s beheren, programmeren, onderzoek doen en andere routinetaken uitvoeren.

Technische vangrails bepalen wat agents mogen doen

Singapore wil veiligheid niet alleen overlaten aan de ingebouwde beveiliging van één AI-model. De voorgestelde bescherming zit ook in het systeem eromheen. Genoemde maatregelen zijn onder meer:

• aanpasbare regels voor verschillende instanties of toepassingen;
• goedgekeurde AI-tools;
• beperkingen op acties zoals bestanden verwijderen of externe e-mails versturen;
• beperkingen op het aantal of type ontvangers, om ongecontroleerde verspreiding en spam tegen te gaan; en
• automatische controles van prompts en uitvoer op beledigende taal en andere ongewenste inhoud.

Deze aanpak sluit aan bij het principe van minimale bevoegdheden: een agent krijgt alleen de toegang en handelingsruimte die nodig zijn voor zijn taak. Dat wordt extra belangrijk wanneer overheidsinstanties meerdere modellen gebruiken of agents koppelen aan gevoelige overheidssystemen.

De verschuiving is wezenlijk. Het uitgangspunt is niet langer alleen: ‘vertrouw op het model’. In plaats daarvan worden beleid en toegangsrechten technisch afdwingbaar gemaakt.

De veiligheidslaag moet blijven werken als modellen veranderen

GovTechs AI Guardian vormt een aparte bestuurslaag voor AI-toepassingen. De twee genoemde onderdelen hebben elk een eigen rol. Litmus beoordeelt veiligheids- en beveiligingsrisico’s vóór ingebruikname, onder meer via adversariële tests. Sentinel zorgt na de ingebruikname voor realtime inhoudsmoderatie en het filteren van uitvoer.

Door deze functies los te koppelen van het onderliggende model, wordt Singapore minder afhankelijk van één leverancier. GovTech heeft bovendien gezegd dat de beveiligingsarchitectuur van de Assistant Desk bescherming moet blijven bieden wanneer externe AI-tools worden toegevoegd of vervangen.

Dat onderscheid is cruciaal: een model kan veranderen, maar de eisen voor gegevensbescherming, toegestane acties, monitoring en veilige uitvoer zouden stabiel moeten blijven. In GovTechs raamwerk voor verantwoorde AI zijn veiligheid, robuustheid, beveiliging en privacy, uitlegbaarheid en transparantie kernvereisten.

Adoptie gaat hand in hand met opleiding

Het programma draait niet uitsluitend om autonome agents. GovTechs Pair-assistent ondersteunt al schrijven, onderzoek, samenvatten en analyseren op apparaten van de overheid. De tool is goedgekeurd voor gebruik met gevoelige overheidsgegevens die niet in commerciële chatbots mogen worden verwerkt.

Daarnaast werkt GovTech aan AI-ondersteunde software-engineering en toepassingen met weinig of geen code. Daarmee kunnen technische teams en ambtenaren sneller prototypes maken en werkprocessen automatiseren. Eerdere berichtgeving van GovTech beschreef plannen voor AI-codeassistenten, AI-ondersteunde engineering en hulpmiddelen om prototypes gecontroleerder naar een veilige productieomgeving te brengen.

Ook training maakt deel uit van de infrastructuur. GovTech biedt leermiddelen voor data en AI aan ambtenaren. In bredere plannen van Singapore krijgen bovendien technologieprofessionals AI-training voor geautomatiseerd programmeren en het bouwen van agentische systemen.

Het praktische doel is interne expertise opbouwen. Ambtenaren moeten weten wanneer AI geschikt is, technische teams moeten kunnen beoordelen en beveiligen wat zij ontwikkelen, en instanties hebben gedeelde platforms nodig in plaats van een verzameling losstaande experimenten.

Publieke toepassingen laten zien waarom evaluatie nodig is

LangBuddy illustreert waarom een AI-toepassing moet worden beoordeeld op haar werkelijke doel. Het is een AI-spraakchatbot waarmee leerlingen door gesprekken hun moedertaal kunnen oefenen.

Bij zo’n toepassing volstaat het niet om te kijken of de chatbot vloeiende antwoorden geeft. In het evaluatiewerk van GovTech wordt ook gekeken naar veiligheid, het risico op hallucinaties en de vraag of antwoorden de vooraf bepaalde pedagogische regels volgen.

Die les geldt breder voor publieke dienstverlening. Overheidsinstanties moeten testen of een AI-systeem de taak uitvoert waarvoor het is ontworpen, zich aan de beperkingen houdt en zich in realistische gesprekken aanvaardbaar gedraagt. Een overtuigend klinkend antwoord is op zichzelf geen bewijs dat een systeem goed werkt.

Cyberbeveiliging is voorwaarde én toepassing

Dezelfde bestuursfilosofie komt terug in het cyberbeveiligingswerk van GovTech. De organisatie noemt onder meer veilige systeemarchitectuur, red-teaming, penetratietests, een programma voor het melden van kwetsbaarheden en blue-teamfuncties voor het detecteren en bestrijden van dreigingen.

GovTech test daarnaast AI-ondersteunde penetratietests en geautomatiseerde triage in security operations. AI wordt daarmee aan beide kanten van het beveiligingsproces ingezet: om zwakke plekken te helpen vinden en om beveiligingsteams te helpen incidenten te prioriteren.

In sommige berichtgeving wordt gesproken over meer dan 2.000 digitale overheidssystemen in de context van het opschalen van veiligheidstests. De beschikbare informatie onderbouwt de bredere richting — red-teaming, penetratietests en AI-ondersteunde beveiligingsoperaties — maar bewijst niet dat continue AI-tests al op elk van die systemen draaien.

Wat dit betekent voor de strategie van Singapore

Samen ondersteunen de initiatieven drie doelstellingen:

1. Betere publieke dienstverlening. Assistenten en agents kunnen helpen bij rapportage, analyse, programmeren en routinematige werkprocessen. Daardoor houden ambtenaren meer tijd over voor complexe dossiers en contact met burgers.
2. Sterkere technologische zelfredzaamheid. Gedeelde platforms, evaluatietools, beveiligingslagen en opleidingen helpen Singapore kennis en controle in eigen huis te houden, in plaats van volledig afhankelijk te worden van één modelleverancier of commercieel product.
3. Bescherming van vertrouwen en nationale systemen. Registers, toegangsrechten, controleerbaarheid, veiligheidstests en cyberverdediging moeten toezicht bieden naarmate AI toegang krijgt tot overheidswerk en -gegevens.

De belangrijkste conclusie is dat veilige AI op grote schaal niet alleen een modelprobleem is, maar ook een architectuurprobleem. Singapore probeert AI breed beschikbaar te maken en tegelijk eigenaarschap, bevoegdheden, tests en activiteiten zichtbaar te houden voor de instellingen die verantwoordelijk zijn voor publieke diensten.