Singapore og Microsofts plan for trygg frontlinje-AI: Dette dekker avtalen fra 12. juni

Singapores samarbeidsavtale med Microsoft fra 12. juni 2026 bør først og fremst forstås som et rammeverk for å evaluere og styre avansert AI. Den omfatter felles forskning, deling av informasjon og politikk for kontrollert tilgang – med særlig vekt på agentbasert AI og sikkerhetstesting på tvers av språk.

Avtalen er ikke et offentlig løfte om å ta i bruk Microsofts modell, eller en annen navngitt avansert modell, i Singapore. Målet er heller å utvikle testmetoder, styringspraksis og tilgangskontroller som må være på plass før svært kapable systemer brukes i følsomme miljøer.

Dette dekker Singapore–Microsoft-avtalen

Samarbeidet er bygget rundt tre sammenhengende områder:

1. Teknisk forskning og evaluering

Singapores Infocomm Media Development Authority (IMDA) og Microsoft skal samarbeide om forskning på AI-sikkerhet og -trygghet. Det inkluderer agentbasert AI og metoder for å evaluere sikkerhet på flere språk.

Dette er viktig fordi sikkerhetsmekanismene i en modell ikke nødvendigvis fungerer likt når instrukser, kulturell kontekst eller skadelig hensikt uttrykkes på ulike språk og i ulike språkformer. Avtalen beskriver forskning og evaluering – den annonserer ikke utrulling av en bestemt modell.

Vektleggingen av agentbasert AI er også betydningsfull. Systemer som kan planlegge og utføre handlinger gjennom verktøy eller arbeidsflyter, må vurderes på mer enn kvaliteten på ett enkelt svar. Testene må blant annet undersøke hva systemet har lov til å gjøre, hvordan det håndterer uklare instrukser, og om tekniske sperrer kan begrense skadelige eller utilsiktede handlinger.

2. Deling av kunnskap og styringspraksis

Partene skal også utveksle informasjon, beste praksis og rammeverk for styring. Det kan bidra til å koble teknisk testing med praktiske beslutninger: Hvilke risikoer skal testes? Hvilke terskler skal gjelde? Hvem skal få tilgang til en modell? Og hva skal skje når det oppdages en alvorlig svakhet?

Dette er en bredere tilnærming enn å måle modellens evner alene. En modell kan gjøre det svært godt på en test, men likevel være uegnet for offentlige tjenester eller kritisk infrastruktur dersom tilgangsrettigheter, overvåking, varslingsrutiner eller menneskelig kontroll ikke er gode nok.

3. En politikk for kontrollert tilgang

Det tredje området er å utrede politiske løsninger for såkalt «trusted access» – kontrollert og tillitsbasert tilgang – til de mest avanserte AI-modellene. Tanken er at svært kapable systemer skal kunne brukes til legitim testing og nyttig arbeid, men ikke gjøres fritt tilgjengelige uten sikkerhetstiltak som står i forhold til modellens evner og risiko.

Avtalen peker dermed mot en trinnvis sikkerhetsmodell: Test systemet, del det man lærer, begrens tilgangen ved behov, og bruk styringsregler til å plassere ansvar.

Hvorfor Claude Mythos er relevant – uten at den nødvendigvis utløste avtalen

Anthropics Claude Mythos Preview illustrerer utfordringen med teknologi som kan brukes både defensivt og offensivt. Anthropic sier at selskapet og rundt 50 partnere i Project Glasswing brukte den begrensede modellen til å finne mer enn 10 000 sårbarheter med høy eller kritisk alvorlighetsgrad i systemkritisk programvare. Selskapet har også opplyst at Mythos kunne identifisere og utnytte sårbarheter, inkludert såkalte zero-day-sårbarheter, i store operativsystemer og nettlesere.

En slik kapasitet kan hjelpe sikkerhetsforskere med å finne feil før kriminelle aktører gjør det. Den kan samtidig gjøre veien fra sårbarhetsfunn til angrep kortere dersom modellen slippes bredt eller kontrolleres dårlig. Derfor holdt Anthropic Mythos bak begrenset tilgang gjennom Project Glasswing, i stedet for å gjøre den offentlig tilgjengelig.

Det finnes imidlertid ikke tilstrekkelig dokumentasjon til å slå fast at Claude Mythos spesifikt forårsaket eller utløste avtalen mellom Singapore og Microsoft 12. juni. Mythos bør heller ses som et eksempel på et raskt skiftende risikobilde som gjør strukturert testing, kontrollert tilgang og tydelige styringsrammer stadig viktigere.

Slik kan sikkerhetstiltakene se ut i praksis

Begrenset tilgang er et sikkerhetstiltak

Project Glasswings modell for begrenset tilgang er i seg selv et risikoreduserende tiltak. Anthropic ga en definert gruppe partnere tilgang til defensivt sikkerhetsarbeid, i stedet for å publisere modellen åpent. Det begrenser eksponeringen samtidig som sikkerhetsteam kan undersøke hva systemet faktisk er i stand til.

Begrenset tilgang er ikke et komplett sikkerhetssystem. Ordningen er avhengig av grundig godkjenning av brukere, overvåking, sikker håndtering og ansvarlig varsling. Men den viser prinsippet bak arbeidet med kontrollert tilgang i avtalen: Tilgangen bør gjenspeile modellens evner og risiko, ikke behandle enhver avansert modell som en vanlig offentlig programvareutgivelse.

Sårbarheter må følges opp med utbedring

Å finne en feil er bare første steg. Singapores Cyber Security Agency har anbefalt virksomheter å installere sikkerhetsoppdateringer for sårbarheter med kritisk eller høy alvorlighetsgrad, aktivere flerfaktorautentisering på tvers av grensesnitt og inngangsporter, og gjennomgå unødvendige tilgangsrettigheter. Slike tiltak reduserer muligheten for at angripere utnytter svakheter mens virksomheten undersøker og løser dem.

Dokumentasjonen gir heller ikke grunnlag for å fremstille de rundt 10 000 funnene fra Mythos som bredt utbedret. En senere vurdering rapporterte at 1 596 sårbarheter var meldt til vedlikeholderne, mens bare 97 var rettet. Det betyr ikke at prosjektet manglet defensiv verdi, men påstander om at «mange» av funnene er løst, bør behandles med varsomhet.

Lærdommen er derfor både teknisk og operasjonell: AI-sikkerhet krever en prosess for å identifisere risiko, varsle ansvarlig, prioritere reparasjoner og redusere eksponeringen mens utbedringen pågår.

Microsofts rolle – og det avtalen ikke bekrefter

Microsoft bidrar med erfaring fra utvikling av avanserte modeller, bedriftsinfrastruktur og den praktiske siden av å evaluere og kontrollere tilgang til AI-systemer. Avtalens uttalte omfang er likevel bredere enn én Microsoft-modell. Den handler om metoder for sikkerhetstesting og kontrollert tilgang til avanserte modeller generelt.

Dokumentasjonen som er tilgjengelig, underbygger ikke flere mer spesifikke påstander som formelle deler av avtalen. Det gjelder blant annet påstander om Microsofts egen MAI-modell, tilgang til modeller fra OpenAI og Anthropic gjennom Azure AI Foundry, eller tilsvarende avtaler med UK AI Security Institute og US Centre for AI Standards and Innovation. Disse detaljene bør derfor ikke presenteres som forpliktelser under Singapore–Microsoft-avtalen.

Det overordnede målet: et tillitsbasert AI-økosystem

Sett under ett danner avtalens elementer en praktisk sikkerhetskjede:

1. Evaluer avanserte og agentbaserte systemer, også hvordan de oppfører seg på tvers av språk.
2. Del tekniske funn, styringspraksis og erfaringer fra testingen.
3. Kontroller tilgangen til modeller som innebærer forhøyet risiko.
4. Følg opp med ansvarlig varsling, sikkerhetsoppdateringer, autentisering og tilgangskontroller.
5. Utform politikk for når og hvordan avanserte systemer kan brukes i følsomme miljøer.

Det er dette som er avtalens viktigste betydning. Den gjør ikke avansert AI trygg i seg selv, og den fjerner ikke risikoene Claude Mythos illustrerer. I stedet kobler den teknisk evaluering med tilgangsstyring og cybersikkerhet – i et forsøk på å gjøre avansert AI tryggere, sikrere, mer pålitelig og mer ansvarlig før høy kapasitet forveksles med faktisk beredskap for bruk.