Sådan skalerer Singapore AI i staten uden at give agenter frit spil

Singapore forsøger at gøre AI tilgængelig i hele den offentlige sektor uden at lade AI-agenter handle uden kontrol. GovTech – Singapores centrale myndighed for offentlig digitalisering – bygger derfor et fælles system, hvor agenter, værktøjer og data kan administreres og overvåges, efterhånden som brugen vokser til omkring 150.000 offentligt ansatte.

Initiativet er stadig under udvikling og afprøves i øjeblikket af udvalgte ansatte. En bredere udrulning er planlagt senere i 2026. Det handler dermed ikke blot om endnu en chatbot, men om at etablere et fælles styringslag for AI i hele staten.

AI Assistant Desk skal gøre ansvar tydeligt

Det planlagte register skal indeholde oplysninger om, hvem der ejer en AI-agent, hvad agenten må gøre, og hvordan den bruges. På den måde kan en myndighed knytte et automatiseret system til en ansvarlig person eller enhed og følge dets aktivitet over tid.

Det er vigtigt, fordi en AI-agent kan meget mere end at skrive tekst. Afhængigt af dens tilladelser og forbindelser til andre systemer kan den træffe beslutninger, kalde eksterne værktøjer eller udføre opgaver i maskinhastighed. Et register fungerer derfor både som fortegnelse og som ansvarsmekanisme for digitale medarbejdere – ikke blot som en liste over software.

GovTech beskriver AI Assistant Desk som et sikkert digitalt assistentmiljø for offentligt ansatte. De forventede anvendelser omfatter blandt andet rapportskrivning, kalenderstyring, programmering, research og andre rutineopgaver.

Tekniske sikkerhedsregler bestemmer, hvad agenter må gøre

Modellen bygger på, at sikkerheden håndhæves af systemet omkring AI-modellen – ikke kun af de indbyggede sikkerhedsforanstaltninger i den enkelte model. De beskrevne kontroller omfatter blandt andet:

• regler, der kan tilpasses forskellige myndigheder og anvendelser;
• godkendte AI-værktøjer;
• begrænsninger på handlinger som sletning af filer og afsendelse af eksterne e-mails;
• begrænsninger på antallet eller typen af modtagere for at mindske risikoen for ukontrolleret distribution og spam; samt
• automatiske tjek af prompts og svar for stødende sprog og andre problemer.

Tilgangen følger et princip om mindst mulige privilegier: En agent bør kun få den adgang og de handlemuligheder, som den konkrete opgave kræver. Det bliver særligt vigtigt, når myndigheder bruger flere modeller eller kobler agenter til følsomme offentlige systemer.

Sikkerhedslaget skal kunne bestå, når modeller udskiftes

GovTechs AI Guardian fungerer som et særskilt styringslag for AI-applikationer. Platformen har to navngivne komponenter med forskellige roller: Litmus vurderer sikkerheds- og risici før lancering gennem såkaldt adversarial testing, mens Sentinel står for realtidsmoderation og filtrering af output, når en applikation er taget i brug.

Ved at adskille disse funktioner fra selve AI-modellen bliver systemet mindre afhængigt af én bestemt leverandør. GovTech har også beskrevet AI Assistant Desks sikkerhedsarkitektur som udformet, så beskyttelsen bevares, selv når tredjepartsværktøjer tilføjes eller udskiftes.

Skellet er centralt: En model kan ændre sig, men statens krav til databeskyttelse, tilladelser, overvågning og sikre svar bør forblive stabile. GovTechs ramme for ansvarlig AI fremhæver sikkerhed, robusthed, sikkerhed og privatliv, forklarlighed samt gennemsigtighed som kernekrav.

Udrulningen følges af kompetenceopbygning

Singapores AI-program i den offentlige sektor handler ikke kun om autonome agenter. GovTechs Pair-assistent understøtter allerede skrivning, research, opsummering og analyse på offentligt udleverede enheder. Den er godkendt til arbejde med følsomme offentlige data, som kommercielle chatbots ikke kan håndtere.

GovTech udvikler desuden AI-understøttet softwareudvikling og low-code-værktøjer, så tekniske teams og offentligt ansatte hurtigere kan bygge prototyper og automatisere arbejdsgange. Tidligere rapportering fra GovTech beskrev planer om AI-kodeassistenter, AI-understøttet udvikling og værktøjer, der skal hjælpe myndigheder med at flytte prototyper over i sikrere driftsmiljøer.

Uddannelse er en anden del af infrastrukturen. GovTech tilbyder læringsmateriale om data og AI til offentligt ansatte, mens Singapores bredere arbejdsmarkedsplaner omfatter AI-programmer for teknologifolk, der skal arbejde med automatiseret kodning og agentbaserede systemer.

Det praktiske mål er at opbygge kompetencer internt: De ansatte skal vide, hvornår AI er egnet, tekniske teams skal kunne evaluere og sikre det, de bygger, og myndighederne skal have fælles platforme i stedet for en samling isolerede eksperimenter.

Offentlige AI-projekter viser, hvorfor evaluering er afgørende

GovTechs arbejde med LangBuddy viser, hvorfor en AI-applikation skal vurderes ud fra sit reelle formål. LangBuddy er en AI-baseret stemmechatbot, der skal hjælpe elever med at øve deres modersmål gennem samtale.

For den type løsning er det ikke nok, at chatbotten svarer flydende. GovTechs evalueringsarbejde ser også på sikkerhed, risikoen for hallucinationer og på, om svarene følger de pædagogiske regler, der er fastlagt.

Princippet kan overføres til alle offentlige tjenester: Myndighederne skal teste, om et AI-system løser den opgave, det er designet til, overholder sine begrænsninger og fungerer acceptabelt i realistiske situationer – ikke blot om det lyder overbevisende.

Cybersikkerhed er både forudsætning og anvendelsesområde

Den samme styringsfilosofi går igen i GovTechs cybersikkerhedsarbejde. Myndighedens beskrevne kapaciteter omfatter sikker systemdesign, red-team-øvelser, penetrationstests, crowdsourcet indberetning af sårbarheder samt blue-team-funktioner til at opdage og håndtere trusler.

GovTech afprøver også AI-understøttede penetrationstests og automatiseret prioritering af hændelser i sikkerhedsoperationscentre. AI bruges dermed på begge sider af sikkerhedsarbejdet: til at finde svagheder og til at hjælpe forsvarerne med at prioritere hændelser.

Nogle beskrivelser nævner mere end 2.000 offentlige digitale systemer i forbindelse med en opskalering af sikkerhedstests. Det tilgængelige materiale underbygger den overordnede retning – red-teaming, penetrationstests og AI-assisteret sikkerhedsdrift – men dokumenterer ikke, at kontinuerlig AI-test allerede foregår på hvert eneste af disse systemer.

Hvad programmet betyder for Singapores bredere strategi

Samlet understøtter initiativerne tre sammenhængende mål:

1. Bedre offentlig service. Assistenter og agenter kan håndtere skrivning, analyse, kodning og rutinearbejdsgange, så de ansatte får mere tid til komplekse sager og borgerrettet arbejde.
2. Stærkere teknologiske kompetencer internt. Fælles platforme, evalueringsværktøjer, sikkerhedslag og uddannelse hjælper Singapore med at fastholde viden og driftsevne i landet i stedet for at være helt afhængig af én modelleverandør eller et kommercielt produkt.
3. Beskyttelse af tillid og nationale systemer. Registre, adgangstilladelser, revisionsspor, sikkerhedstests og cyberforsvar skaber kontrol omkring AI, efterhånden som teknologien får adgang til offentligt arbejde og data.

Den centrale lære er, at sikker opskalering af AI i lige så høj grad er et arkitekturproblem som et modelproblem. Singapore forsøger at gøre AI bredt tilgængelig, samtidig med at ejerskab, tilladelser, test og aktivitetsmonitorering forbliver synlige for de institutioner, der har ansvaret for den offentlige service.