De kern van het plan is daarmee niet alleen méér AI, maar een gemeenschappelijke bestuurslaag voor AI binnen de overheid.
Het register moet vastleggen wie eigenaar is van een AI-agent, waarvoor die agent mag worden ingezet en hoe hij wordt gebruikt. Overheidsinstanties kunnen zo een geautomatiseerd systeem koppelen aan een verantwoordelijke eigenaar en het gedrag ervan in de tijd beoordelen.
Dat is belangrijk omdat een agent meer kan doen dan tekst genereren. Afhankelijk van de toegangsrechten en koppelingen kan zo’n systeem beslissingen nemen, tools aanroepen of taken uitvoeren op machinale snelheid. Een register is daarom niet slechts een softwarecatalogus, maar ook een inventaris- en verantwoordingsmechanisme voor digitale medewerkers.
GovTech, de overheidsorganisatie die de digitale transformatie van Singapore coördineert, beschrijft de bredere Assistant Desk als een veilige digitale werkomgeving. Verwachte toepassingen zijn onder meer rapporten opstellen, agenda’s beheren, programmeren, onderzoek doen en andere routinetaken uitvoeren.
Singapore wil veiligheid niet alleen overlaten aan de ingebouwde beveiliging van één AI-model. De voorgestelde bescherming zit ook in het systeem eromheen. Genoemde maatregelen zijn onder meer:
Deze aanpak sluit aan bij het principe van minimale bevoegdheden: een agent krijgt alleen de toegang en handelingsruimte die nodig zijn voor zijn taak. Dat wordt extra belangrijk wanneer overheidsinstanties meerdere modellen gebruiken of agents koppelen aan gevoelige overheidssystemen.
De verschuiving is wezenlijk. Het uitgangspunt is niet langer alleen: ‘vertrouw op het model’. In plaats daarvan worden beleid en toegangsrechten technisch afdwingbaar gemaakt.
GovTechs AI Guardian vormt een aparte bestuurslaag voor AI-toepassingen. De twee genoemde onderdelen hebben elk een eigen rol. Litmus beoordeelt veiligheids- en beveiligingsrisico’s vóór ingebruikname, onder meer via adversariële tests. Sentinel zorgt na de ingebruikname voor realtime inhoudsmoderatie en het filteren van uitvoer.
Door deze functies los te koppelen van het onderliggende model, wordt Singapore minder afhankelijk van één leverancier. GovTech heeft bovendien gezegd dat de beveiligingsarchitectuur van de Assistant Desk bescherming moet blijven bieden wanneer externe AI-tools worden toegevoegd of vervangen.
Dat onderscheid is cruciaal: een model kan veranderen, maar de eisen voor gegevensbescherming, toegestane acties, monitoring en veilige uitvoer zouden stabiel moeten blijven. In GovTechs raamwerk voor verantwoorde AI zijn veiligheid, robuustheid, beveiliging en privacy, uitlegbaarheid en transparantie kernvereisten.
Het programma draait niet uitsluitend om autonome agents. GovTechs Pair-assistent ondersteunt al schrijven, onderzoek, samenvatten en analyseren op apparaten van de overheid. De tool is goedgekeurd voor gebruik met gevoelige overheidsgegevens die niet in commerciële chatbots mogen worden verwerkt.
Daarnaast werkt GovTech aan AI-ondersteunde software-engineering en toepassingen met weinig of geen code. Daarmee kunnen technische teams en ambtenaren sneller prototypes maken en werkprocessen automatiseren. Eerdere berichtgeving van GovTech beschreef plannen voor AI-codeassistenten, AI-ondersteunde engineering en hulpmiddelen om prototypes gecontroleerder naar een veilige productieomgeving te brengen.
Ook training maakt deel uit van de infrastructuur. GovTech biedt leermiddelen voor data en AI aan ambtenaren. In bredere plannen van Singapore krijgen bovendien technologieprofessionals AI-training voor geautomatiseerd programmeren en het bouwen van agentische systemen.
Het praktische doel is interne expertise opbouwen. Ambtenaren moeten weten wanneer AI geschikt is, technische teams moeten kunnen beoordelen en beveiligen wat zij ontwikkelen, en instanties hebben gedeelde platforms nodig in plaats van een verzameling losstaande experimenten.
LangBuddy illustreert waarom een AI-toepassing moet worden beoordeeld op haar werkelijke doel. Het is een AI-spraakchatbot waarmee leerlingen door gesprekken hun moedertaal kunnen oefenen.
Bij zo’n toepassing volstaat het niet om te kijken of de chatbot vloeiende antwoorden geeft. In het evaluatiewerk van GovTech wordt ook gekeken naar veiligheid, het risico op hallucinaties en de vraag of antwoorden de vooraf bepaalde pedagogische regels volgen.
Die les geldt breder voor publieke dienstverlening. Overheidsinstanties moeten testen of een AI-systeem de taak uitvoert waarvoor het is ontworpen, zich aan de beperkingen houdt en zich in realistische gesprekken aanvaardbaar gedraagt. Een overtuigend klinkend antwoord is op zichzelf geen bewijs dat een systeem goed werkt.
Dezelfde bestuursfilosofie komt terug in het cyberbeveiligingswerk van GovTech. De organisatie noemt onder meer veilige systeemarchitectuur, red-teaming, penetratietests, een programma voor het melden van kwetsbaarheden en blue-teamfuncties voor het detecteren en bestrijden van dreigingen.
GovTech test daarnaast AI-ondersteunde penetratietests en geautomatiseerde triage in security operations. AI wordt daarmee aan beide kanten van het beveiligingsproces ingezet: om zwakke plekken te helpen vinden en om beveiligingsteams te helpen incidenten te prioriteren.
In sommige berichtgeving wordt gesproken over meer dan 2.000 digitale overheidssystemen in de context van het opschalen van veiligheidstests. De beschikbare informatie onderbouwt de bredere richting — red-teaming, penetratietests en AI-ondersteunde beveiligingsoperaties — maar bewijst niet dat continue AI-tests al op elk van die systemen draaien.
Samen ondersteunen de initiatieven drie doelstellingen:
De belangrijkste conclusie is dat veilige AI op grote schaal niet alleen een modelprobleem is, maar ook een architectuurprobleem. Singapore probeert AI breed beschikbaar te maken en tegelijk eigenaarschap, bevoegdheden, tests en activiteiten zichtbaar te houden voor de instellingen die verantwoordelijk zijn voor publieke diensten.
De kern van het plan is daarmee niet alleen méér AI, maar een gemeenschappelijke bestuurslaag voor AI binnen de overheid.
Het register moet vastleggen wie eigenaar is van een AI-agent, waarvoor die agent mag worden ingezet en hoe hij wordt gebruikt. Overheidsinstanties kunnen zo een geautomatiseerd systeem koppelen aan een verantwoordelijke eigenaar en het gedrag ervan in de tijd beoordelen.
Dat is belangrijk omdat een agent meer kan doen dan tekst genereren. Afhankelijk van de toegangsrechten en koppelingen kan zo’n systeem beslissingen nemen, tools aanroepen of taken uitvoeren op machinale snelheid. Een register is daarom niet slechts een softwarecatalogus, maar ook een inventaris- en verantwoordingsmechanisme voor digitale medewerkers.
GovTech, de overheidsorganisatie die de digitale transformatie van Singapore coördineert, beschrijft de bredere Assistant Desk als een veilige digitale werkomgeving. Verwachte toepassingen zijn onder meer rapporten opstellen, agenda’s beheren, programmeren, onderzoek doen en andere routinetaken uitvoeren.
Singapore wil veiligheid niet alleen overlaten aan de ingebouwde beveiliging van één AI-model. De voorgestelde bescherming zit ook in het systeem eromheen. Genoemde maatregelen zijn onder meer:
Deze aanpak sluit aan bij het principe van minimale bevoegdheden: een agent krijgt alleen de toegang en handelingsruimte die nodig zijn voor zijn taak. Dat wordt extra belangrijk wanneer overheidsinstanties meerdere modellen gebruiken of agents koppelen aan gevoelige overheidssystemen.
De verschuiving is wezenlijk. Het uitgangspunt is niet langer alleen: ‘vertrouw op het model’. In plaats daarvan worden beleid en toegangsrechten technisch afdwingbaar gemaakt.
GovTechs AI Guardian vormt een aparte bestuurslaag voor AI-toepassingen. De twee genoemde onderdelen hebben elk een eigen rol. Litmus beoordeelt veiligheids- en beveiligingsrisico’s vóór ingebruikname, onder meer via adversariële tests. Sentinel zorgt na de ingebruikname voor realtime inhoudsmoderatie en het filteren van uitvoer.
Door deze functies los te koppelen van het onderliggende model, wordt Singapore minder afhankelijk van één leverancier. GovTech heeft bovendien gezegd dat de beveiligingsarchitectuur van de Assistant Desk bescherming moet blijven bieden wanneer externe AI-tools worden toegevoegd of vervangen.
Dat onderscheid is cruciaal: een model kan veranderen, maar de eisen voor gegevensbescherming, toegestane acties, monitoring en veilige uitvoer zouden stabiel moeten blijven. In GovTechs raamwerk voor verantwoorde AI zijn veiligheid, robuustheid, beveiliging en privacy, uitlegbaarheid en transparantie kernvereisten.
Het programma draait niet uitsluitend om autonome agents. GovTechs Pair-assistent ondersteunt al schrijven, onderzoek, samenvatten en analyseren op apparaten van de overheid. De tool is goedgekeurd voor gebruik met gevoelige overheidsgegevens die niet in commerciële chatbots mogen worden verwerkt.
Daarnaast werkt GovTech aan AI-ondersteunde software-engineering en toepassingen met weinig of geen code. Daarmee kunnen technische teams en ambtenaren sneller prototypes maken en werkprocessen automatiseren. Eerdere berichtgeving van GovTech beschreef plannen voor AI-codeassistenten, AI-ondersteunde engineering en hulpmiddelen om prototypes gecontroleerder naar een veilige productieomgeving te brengen.
Ook training maakt deel uit van de infrastructuur. GovTech biedt leermiddelen voor data en AI aan ambtenaren. In bredere plannen van Singapore krijgen bovendien technologieprofessionals AI-training voor geautomatiseerd programmeren en het bouwen van agentische systemen.
Het praktische doel is interne expertise opbouwen. Ambtenaren moeten weten wanneer AI geschikt is, technische teams moeten kunnen beoordelen en beveiligen wat zij ontwikkelen, en instanties hebben gedeelde platforms nodig in plaats van een verzameling losstaande experimenten.
LangBuddy illustreert waarom een AI-toepassing moet worden beoordeeld op haar werkelijke doel. Het is een AI-spraakchatbot waarmee leerlingen door gesprekken hun moedertaal kunnen oefenen.
Bij zo’n toepassing volstaat het niet om te kijken of de chatbot vloeiende antwoorden geeft. In het evaluatiewerk van GovTech wordt ook gekeken naar veiligheid, het risico op hallucinaties en de vraag of antwoorden de vooraf bepaalde pedagogische regels volgen.
Die les geldt breder voor publieke dienstverlening. Overheidsinstanties moeten testen of een AI-systeem de taak uitvoert waarvoor het is ontworpen, zich aan de beperkingen houdt en zich in realistische gesprekken aanvaardbaar gedraagt. Een overtuigend klinkend antwoord is op zichzelf geen bewijs dat een systeem goed werkt.
Dezelfde bestuursfilosofie komt terug in het cyberbeveiligingswerk van GovTech. De organisatie noemt onder meer veilige systeemarchitectuur, red-teaming, penetratietests, een programma voor het melden van kwetsbaarheden en blue-teamfuncties voor het detecteren en bestrijden van dreigingen.
GovTech test daarnaast AI-ondersteunde penetratietests en geautomatiseerde triage in security operations. AI wordt daarmee aan beide kanten van het beveiligingsproces ingezet: om zwakke plekken te helpen vinden en om beveiligingsteams te helpen incidenten te prioriteren.
In sommige berichtgeving wordt gesproken over meer dan 2.000 digitale overheidssystemen in de context van het opschalen van veiligheidstests. De beschikbare informatie onderbouwt de bredere richting — red-teaming, penetratietests en AI-ondersteunde beveiligingsoperaties — maar bewijst niet dat continue AI-tests al op elk van die systemen draaien.
Samen ondersteunen de initiatieven drie doelstellingen:
De belangrijkste conclusie is dat veilige AI op grote schaal niet alleen een modelprobleem is, maar ook een architectuurprobleem. Singapore probeert AI breed beschikbaar te maken en tegelijk eigenaarschap, bevoegdheden, tests en activiteiten zichtbaar te houden voor de instellingen die verantwoordelijk zijn voor publieke diensten.