Slik skal Singapore ta i bruk AI i staten uten å gi agentene frie tøyler

Singapore velger en systemtilnærming til AI i offentlig sektor: Teknologien skal gjøres tilgjengelig i stor skala, men agentene, verktøyene og dataene de får tilgang til, skal være underlagt håndhevbare regler. GovTechs AI Assistant Desk og det planlagte registeret over AI-agenter skal gjøre bruken av AI synlig og etterprøvbar når satsingen utvides til rundt 150 000 offentlig ansatte.

Initiativet er fortsatt under utvikling og testes nå av utvalgte ansatte. En bredere utrulling er planlagt senere i 2026. Det sentrale er derfor ikke bare at Singapore innfører enda en chatbot, men at landet forsøker å bygge et felles styringslag for AI i hele statsforvaltningen.

Et register som knytter AI til ansvar

Registeret skal etter planen dokumentere hvem som eier en AI-agent, hva agenten har lov til å gjøre og hvordan den brukes. Dermed kan etaten koble det automatiserte systemet til en ansvarlig person eller virksomhet og følge aktiviteten over tid.

Dette er viktig fordi en AI-agent kan gjøre langt mer enn å skrive tekst. Avhengig av tilganger og integrasjoner kan den ta beslutninger, bruke andre verktøy eller utføre oppgaver i maskinhastighet. Et register blir derfor både en oversikt og en ansvarsordning for digitale medarbeidere – ikke bare en programvarekatalog.

GovTech beskriver AI Assistant Desk som et sikkert miljø for digitale assistenter. Bruksområdene skal blant annet omfatte rapportskriving, kalenderhåndtering, programmering, research og andre rutineoppgaver.

Tekniske sperrer skal begrense agentenes handlingsrom

Modellen bygger på at sikkerheten håndheves av systemet rundt AI-en, og ikke bare av sikkerhetsfunksjonene i én bestemt språkmodell. Kontrollene som er omtalt, omfatter blant annet:

• regler som kan tilpasses ulike etater eller bruksområder;
• godkjente AI-verktøy;
• begrensninger på handlinger som å slette filer eller sende e-post til eksterne mottakere;
• begrensninger på antall eller typer mottakere for å redusere risikoen for ukontrollert spredning og spam; og
• automatiske kontroller av forespørsler og svar for støtende språk og andre grunnleggende sikkerhets- og kvalitetsproblemer.

Dette følger et prinsipp om minst mulige privilegier: En agent skal bare få den tilgangen og det handlingsrommet oppgaven krever. Det blir særlig relevant når offentlige etater bruker flere modeller eller kobler agentene til sensitive statlige systemer.

Sikkerhetslaget skal tåle at modellene skiftes ut

GovTechs AI Guardian fungerer som et separat styringslag for AI-applikasjoner. De to navngitte komponentene har ulike roller: Litmus vurderer sikkerhets- og trygghetsrisiko før lansering gjennom såkalt adversarial testing, mens Sentinel sørger for innholdsmoderering og filtrering av svar i sanntid etter at løsningen er tatt i bruk.

Ved å skille disse funksjonene fra selve modellen blir myndighetene mindre avhengige av én leverandør. GovTech har også beskrevet sikkerhetsarkitekturen i Assistant Desk som utformet slik at beskyttelsen skal bestå når tredjepartsverktøy legges til eller byttes ut.

Skillet er viktig: Modellene kan endres, men kravene til databeskyttelse, tillatte handlinger, overvåking og sikre svar bør være stabile. GovTechs rammeverk for ansvarlig AI trekker frem sikkerhet, robusthet, personvern, forklarbarhet og åpenhet som kjernekrav.

Opplæring følger utrullingen

Singapores offentlige AI-program handler ikke bare om autonome agenter. GovTechs Pair-assistent støtter allerede skriving, research, oppsummering og analyse på enheter utstedt av myndighetene. Den er godkjent for arbeid med sensitive offentlige data som kommersielle chatboter ikke kan håndtere.

GovTech utvikler også AI-støttet programvareutvikling og lavkodeverktøy, slik at tekniske team og offentlig ansatte raskere kan lage prototyper eller automatisere arbeidsflyter. Tidligere omtale fra GovTech beskrev planer om kodeassistenter, AI-støttet utvikling og verktøy som skal hjelpe etatene med å flytte prototyper over i sikrere driftsmiljøer.

Opplæring er en annen del av infrastrukturen. GovTech tilbyr læringsressurser om data og AI for offentlig ansatte, mens Singapores bredere arbeidslivsplaner omfatter AI-programmer for teknologer som skal arbeide med automatisert programmering og agentbaserte systemer.

Det praktiske målet er å bygge kompetanse internt: Ansatte må vite når AI er egnet, tekniske team må kunne evaluere og sikre løsningene de utvikler, og etatene trenger felles plattformer i stedet for en samling løsrevne eksperimenter.

Offentlige prosjekter viser hvorfor testing er avgjørende

GovTechs arbeid med LangBuddy illustrerer behovet for å vurdere AI-løsninger mot det de faktisk skal brukes til. LangBuddy er en stemmestyrt AI-chatbot som skal hjelpe elever med å øve på Singapores «morsmål» gjennom samtale.

For en slik løsning er det ikke nok at chatboten svarer flytende. Evalueringen ser også på sikkerhet, risikoen for hallusinasjoner og om svarene følger de pedagogiske reglene som er satt.

Det samme prinsippet gjelder i hele offentlig sektor: Etaten må teste om systemet utfører oppgaven det er laget for, følger begrensningene sine og oppfører seg akseptabelt i realistiske samtaler – ikke bare om svarene høres overbevisende ut.

Cybersikkerhet er både en forutsetning og et bruksområde for AI

Den samme styringsfilosofien går igjen i GovTechs cybersikkerhetsarbeid. Etaten beskriver kapasiteter innen sikker systemutforming, red teaming, penetrasjonstesting, ordninger for rapportering av sårbarheter og såkalte blue-team-funksjoner som oppdager og håndterer trusler.

GovTech tester også AI-støttet penetrasjonstesting og automatisert prioritering av hendelser i sikkerhetsoperasjonssentre. Dermed brukes AI på begge sider av sikkerhetsarbeidet: til å finne svakheter og til å hjelpe forsvarerne med å vurdere hvilke hendelser som bør håndteres først.

Noe omtale viser til mer enn 2 000 digitale statlige systemer i forbindelse med oppskalering av sikkerhetstesting. Det tilgjengelige materialet underbygger den overordnede retningen – red teaming, penetrasjonstesting og AI-støttet sikkerhetsdrift – men dokumenterer ikke at kontinuerlig AI-testing allerede foregår på hvert eneste av disse systemene.

Hva satsingen betyr for Singapores strategi

Sett under ett støtter tiltakene tre sammenhengende mål:

1. Bedre offentlige tjenester. Assistenter og agenter kan håndtere skriving, analyse, programmering og rutineprosesser, slik at ansatte får mer tid til komplekse saker og direkte kontakt med innbyggerne.
2. Sterkere teknologisk egenkapasitet. Felles plattformer, evalueringsverktøy, sikkerhetslag og opplæring gjør det mulig for Singapore å beholde operativ kompetanse, i stedet for å bli helt avhengig av én modellleverandør eller et kommersielt produkt.
3. Beskyttelse av tillit og nasjonale systemer. Registre, tilgangsstyring, revisjonsspor, sikkerhetstesting og cyberforsvar gir kontroll når AI får tilgang til offentlig arbeid og offentlige data.

Hovedlærdommen er at trygg AI i stor skala handler like mye om arkitektur som om selve modellen. Singapore forsøker å gjøre AI tilgjengelig for hele statsforvaltningen, samtidig som eierskap, tillatelser, testing og aktivitet skal være synlig for institusjonene som har ansvar for offentlige tjenester.