Singapore och Microsofts plan för AI-säkerhet: Det här omfattar avtalet från den 12 juni

Singapores samförståndsavtal från den 12 juni 2026 med Microsoft bör främst ses som en ram för att utvärdera och styra avancerad AI – inte som ett beslut om att införa en viss Microsoft-modell i landet. Avtalet omfattar gemensam forskning, informationsutbyte och arbete med regler för kontrollerad åtkomst, med särskilt fokus på agentbaserad AI och säkerhetstester på flera språk.

Det finns alltså inget offentligt löfte om att lansera Microsofts modell, eller någon annan namngiven avancerad modell, i Singapore. Målet är i stället att utveckla testmetoder, styrningsprinciper och åtkomstkontroller som måste finnas på plats innan mycket kapabla AI-system används i känsliga miljöer.

Det här omfattar avtalet mellan Singapore och Microsoft

Samarbetet är uppbyggt kring tre sammanlänkade områden.

1. Teknisk forskning och utvärdering

Singapores myndighet för informations- och medieutveckling, Infocomm Media Development Authority (IMDA), och Microsoft ska samarbeta kring forskning om AI-säkerhet och AI-skydd. Arbetet omfattar bland annat agentbaserad AI och metoder för att utvärdera säkerhet på flera språk.

Flerspråkiga tester är viktiga eftersom ett AI-systems skydd inte nödvändigtvis fungerar likadant när instruktioner, kulturella sammanhang eller skadliga avsikter uttrycks på olika språk och med olika språkliga register. Avtalet beskriver forskning och utvärdering – det meddelar inte att en viss modell ska tas i bruk.

Fokus på agentbaserad AI är också betydelsefullt. System som kan planera, använda verktyg och genomföra uppgifter i flera steg behöver testas på mer än kvaliteten i ett enskilt svar. Utvärderingen måste även undersöka vilka handlingar systemet får utföra, hur det hanterar otydliga instruktioner och om tekniska spärrar kan begränsa skadliga eller oavsiktliga åtgärder.

2. Utbyte av kunskap och styrningspraxis

Parterna ska också utbyta information, bästa praxis och ramverk för AI-styrning. Det kan knyta ihop tekniska tester med praktiska beslut: vilka risker som ska testas, vilka gränsvärden som ska gälla, vem som får använda en modell och vad som ska ske när en allvarlig svaghet upptäcks.

Detta är ett bredare angreppssätt än att enbart mäta modellens prestanda. En modell kan prestera imponerande i ett test men ändå vara olämplig för offentlig verksamhet eller kritisk infrastruktur om åtkomst, övervakning, rapportering, mänsklig kontroll eller rutiner för att avslöja brister inte håller måttet.

3. En policy för kontrollerad åtkomst

Det tredje området är att undersöka policyer för så kallad betrodd eller kontrollerad åtkomst till avancerade AI-modeller. Grundtanken är att mycket kapabla system ska kunna användas för legitim säkerhetsforskning och nyttiga uppgifter, men inte göras fritt tillgängliga utan skyddsåtgärder som står i proportion till deras förmåga och risker.

Avtalet pekar därmed mot en säkerhetsmodell i flera lager: testa systemet, dela lärdomar, begränsa åtkomsten där det behövs och använd styrningsregler för att tydliggöra ansvar.

Varför Claude Mythos är relevant – men inte bevisat orsaken

Anthropics Claude Mythos Preview är ett tydligt exempel på den dubbla användningen av avancerad AI. Anthropic uppger att företaget och omkring 50 partner inom Project Glasswing använde den begränsade modellen för att hitta över 10 000 sårbarheter med hög eller kritisk allvarlighetsgrad i samhällsviktig programvara. Företaget har också uppgett att Mythos kunde identifiera och utnyttja sårbarheter, inklusive så kallade zero-day-sårbarheter, i stora operativsystem och webbläsare.

En sådan förmåga kan stärka cybersäkerheten genom att hjälpa forskare att hitta brister innan kriminella gör det. Men samma förmåga kan också förkorta vägen från upptäckt till angrepp om modellen släpps brett eller hanteras utan tillräckliga kontroller. Därför höll Anthropic Mythos bakom begränsad åtkomst genom Project Glasswing i stället för att göra modellen offentlig.

Det tillgängliga underlaget visar däremot inte att Claude Mythos specifikt utlöste eller ledde fram till avtalet mellan Singapore och Microsoft den 12 juni. Mythos bör snarare ses som ett exempel på den snabbt föränderliga riskmiljö som gör strukturerad utvärdering, kontrollerad åtkomst och tydliga styrningsramverk allt viktigare.

Så kan säkerhetsåtgärderna se ut i praktiken

Begränsad åtkomst är i sig en säkerhetsåtgärd

Project Glasswings modell med begränsad åtkomst är en riskhanteringsåtgärd. Anthropic gav en utvald grupp partner tillgång för defensivt säkerhetsarbete i stället för att släppa modellen brett. Det minskar exponeringen samtidigt som säkerhetsteam kan undersöka systemets förmågor.

Begränsad åtkomst är dock inget komplett säkerhetssystem. Den kräver bland annat noggrann granskning av användare, övervakning, säker hantering och ansvarsfull rapportering av sårbarheter. Men modellen illustrerar principen bakom arbetet med betrodd åtkomst i avtalet: åtkomst bör anpassas efter modellens kapacitet och risk, inte behandlas som om varje avancerad AI-modell vore ett vanligt publikt program.

Upptäckta sårbarheter måste följas av åtgärder

Att hitta en sårbarhet är bara början. Singapores cybersäkerhetsmyndighet Cyber Security Agency of Singapore har uppmanat organisationer att installera säkerhetsuppdateringar för kritiska sårbarheter och sårbarheter med hög allvarlighetsgrad, införa multifaktorautentisering i gränssnitt och gateways samt se över onödiga användarbehörigheter. Sådana åtgärder minskar möjligheten för angripare att utnyttja brister medan organisationerna utreder och åtgärdar dem.

Underlaget ger samtidigt inte stöd för att beskriva de omkring 10 000 fynden från Mythos som brett åtgärdade. En senare bedömning rapporterade att 1 596 sårbarheter hade meddelats till ansvariga utvecklare, men att endast 97 hade fått en lösning. Det betyder inte att projektet saknade defensiv nytta, men påståenden om att ”många” av fynden har åtgärdats bör formuleras med försiktighet.

Lärdomen är lika mycket organisatorisk som teknisk: AI-säkerhet kräver rutiner för att identifiera risker, rapportera dem ansvarsfullt, prioritera reparationer och minska exponeringen så länge åtgärder saknas.

Microsofts roll – och vad avtalet inte bekräftar

Microsoft bidrar med erfarenhet av utveckling av avancerade AI-modeller, företagsinfrastruktur och det praktiska arbetet med att utvärdera system och kontrollera åtkomst till dem. Avtalets angivna omfattning är dock bredare än en enskild Microsoft-modell. Det handlar om metoder för säkerhetstester och kontrollerad åtkomst till avancerade AI-modeller i allmänhet.

Det tillgängliga underlaget styrker inte flera mer specifika påståenden som formella delar av avtalet. Det gäller bland annat uppgifter om Microsofts MAI-modell, åtkomst via Azure AI Foundry till modeller från OpenAI och Anthropic eller jämförbara överenskommelser med Storbritanniens AI Security Institute och USA:s Centre for AI Standards and Innovation. Dessa detaljer bör därför inte presenteras som åtaganden inom ramen för Singapore–Microsoft-avtalet.

Målet är ett pålitligt ekosystem för AI

Sammantaget bildar avtalets delar en praktisk säkerhetskedja:

1. Utvärdera avancerade och agentbaserade system, även hur de fungerar på olika språk.
2. Dela tekniska resultat, styrningspraxis och erfarenheter från tester.
3. Kontrollera åtkomsten till modeller vars förmågor medför förhöjda risker.
4. Agera genom ansvarsfull rapportering, säkerhetsuppdateringar, autentisering och behörighetskontroller.
5. Utforma policy för när och hur avancerade system får användas i känsliga miljöer.

Det är avtalets huvudsakliga betydelse. Det gör inte avancerad AI säker på egen hand och löser inte de risker som Claude Mythos illustrerar. I stället kopplar det samman teknisk utvärdering med åtkomststyrning och cybersäkerhet – med ambitionen att göra avancerad AI säkrare, mer tillförlitlig och mer ansvarsutkrävande innan hög kapacitet misstas för faktisk beredskap.