Så skalar Singapore AI i staten utan att släppa agenterna fria

Det är betydelsefullt eftersom en AI-agent kan göra mer än att skriva text. Beroende på vilka behörigheter och systemkopplingar den får kan den fatta beslut, anropa verktyg eller utföra uppgifter i maskinhastighet. Ett register fungerar därför inte bara som en programvarulista, utan som en form av inventering och ansvarsstruktur för digitala medarbetare.

GovTech beskriver AI Assistant Desk som en säker miljö för digitala assistenter åt offentliganställda. Användningsområdena väntas bland annat omfatta rapportskrivning, schemaläggning, programmering och research.

Tekniska skydd ska begränsa vad agenterna kan göra

Grundtanken är att säkerheten ska byggas in i systemet runt AI-modellen, snarare än att man enbart litar på skydden i en enskild modell. De kontroller som har beskrivits omfattar bland annat:

• regler som kan anpassas efter myndighet eller användningsområde,
• godkända och sanktionerade AI-verktyg,
• begränsningar av åtgärder som att radera filer eller skicka e-post utanför organisationen,
• begränsningar av antalet eller typerna av mottagare för att minska risken för okontrollerad spridning och spam, samt
• automatiska kontroller av instruktioner och svar för stötande språk och andra grundläggande säkerhetsproblem.

Det speglar principen om minsta möjliga behörighet: en agent ska bara få tillgång till de data, verktyg och åtgärder som krävs för den aktuella uppgiften. Det blir särskilt viktigt när myndigheter använder flera modeller eller kopplar agenter till känsliga statliga system.

Säkerhetslagret ska bestå även när modeller byts ut

GovTechs AI Guardian är ett separat styrningslager för AI-applikationer. Plattformen har två namngivna delar med olika roller: Litmus bedömer säkerhets- och trygghetsrisker före lansering genom så kallad adversarial testing, där systemet utsätts för avsiktligt svåra eller manipulerande tester. Sentinel står för realtidsmoderering och filtrering av svar när en applikation väl är i drift.

Genom att skilja dessa funktioner från den underliggande modellen kan Singapore minska beroendet av en enskild leverantör. GovTech har också beskrivit säkerhetsarkitekturen i Assistant Desk som utformad för att behålla skydden även när tredjepartsverktyg läggs till eller byts ut.

Skillnaden är central: själva modellen kan förändras, men kraven på dataskydd, tillåtna åtgärder, övervakning och säkra svar bör vara stabila. GovTechs ramverk för ansvarsfull AI lyfter fram säkerhet, robusthet, cybersäkerhet och integritet samt begriplighet och transparens som centrala krav.

AI-användning kombineras med kompetensutveckling

Programmet handlar inte enbart om autonoma agenter. GovTechs assistent Pair stöder redan skrivande, research, sammanfattningar och analys på myndighetsutrustning. Verktyget är godkänt för arbete med känsliga statliga data som kommersiella chattbottar inte kan hantera.

GovTech utvecklar dessutom AI-stödd programvaruutveckling och lågkodslösningar, så att tekniska team och offentliganställda snabbare kan bygga prototyper och automatisera arbetsflöden. Tidigare rapportering från GovTech har också beskrivit planer på kodassistenter, AI-stödd systemutveckling och verktyg som ska hjälpa myndigheter att flytta prototyper till säkrare driftmiljöer.

Utbildning är en annan del av infrastrukturen. GovTech erbjuder utbildningsmaterial inom data och AI för offentliganställda, medan Singapores bredare arbetsmarknadsplaner omfattar AI-program för tekniker som arbetar med automatiserad kodning och agentbaserade system.

Den praktiska ambitionen är att bygga kompetens internt. Medarbetare behöver förstå när AI passar för en uppgift, utvecklingsteamen måste kunna utvärdera och säkra systemen, och myndigheterna behöver gemensamma plattformar i stället för en samling isolerade experiment.

Offentliga AI-projekt visar varför utvärdering behövs

GovTechs arbete med LangBuddy illustrerar varför en AI-applikation måste bedömas utifrån sitt verkliga syfte. LangBuddy är en röstbaserad AI-chattbot som ska hjälpa elever att öva sina modersmål genom samtal.

För en sådan tjänst räcker det inte att svaren låter flytande. GovTechs utvärdering tar hänsyn till säkerhet, risken för hallucinationer och om svaren följer de pedagogiska regler som satts upp.

Samma princip gäller för offentlig service i stort. Myndigheter behöver testa om AI-systemet faktiskt löser uppgiften det byggdes för, följer sina begränsningar och beter sig på ett acceptabelt sätt i realistiska situationer – inte bara om det låter övertygande.

Cybersäkerhet är både en förutsättning och ett användningsområde

Samma styrningsfilosofi syns i GovTechs cybersäkerhetsarbete. Myndigheten arbetar med säker systemdesign, red-teaming, penetrationstester, crowdsourcad rapportering av sårbarheter samt blue-team-funktioner för att upptäcka och hantera hot.

GovTech testar också AI-stödd penetrationstestning och automatiserad prioritering av incidenter i säkerhetscenter. AI används därmed på båda sidor av säkerhetsarbetet: för att hitta svagheter och för att hjälpa försvarare att avgöra vilka incidenter som bör hanteras först.

Vissa rapporter nämner fler än 2 000 digitala statliga system i samband med en utbyggnad av säkerhetstesterna. Det tillgängliga underlaget stödjer den bredare inriktningen – red-teaming, penetrationstester och AI-stödd säkerhetsdrift – men visar inte att kontinuerlig AI-testning redan genomförs i samtliga dessa system.

Tre mål bakom Singapores AI-strategi

Sammantaget pekar satsningarna mot tre sammanlänkade mål:

1. Bättre offentlig service. Assistenter och agenter kan hantera rapportskrivning, analys, kodning och rutinmässiga arbetsflöden, så att medarbetare får mer tid för komplexa ärenden och direkt kontakt med invånare.
2. Starkare teknisk förmåga inom staten. Gemensamma plattformar, utvärderingsverktyg, säkerhetslager och utbildning hjälper Singapore att behålla kunskap och kontroll internt i stället för att bli helt beroende av en enskild modellleverantör eller kommersiell produkt.
3. Skydd för samhällssystem och förtroende. Register, behörigheter, granskningsmöjligheter, säkerhetstester och cyberförsvar skapar översyn när AI får tillgång till statligt arbete och känsliga data.

Den centrala lärdomen är att säker AI i stor skala handlar lika mycket om arkitektur som om själva modellen. Singapore försöker göra AI brett tillgängligt, men samtidigt hålla ägarskap, behörigheter, tester och aktivitet synliga för de institutioner som ansvarar för den offentliga servicen.