Singapore og Microsoft vil teste grænse­sprængende AI – her er, hvad aftalen faktisk dækker

2. Videndeling og styringspraksis

Parterne vil desuden udveksle information, bedste praksis og rammer for AI-styring. Det kan forbinde tekniske tests med praktiske beslutninger: Hvilke risici skal undersøges? Hvilke grænseværdier skal gælde? Hvem må få adgang til en model? Og hvad skal der ske, hvis en alvorlig svaghed bliver opdaget?

Det er en bredere tilgang end blot at måle en models præstation på standardiserede benchmarks. En model kan klare sig imponerende i en test og stadig være uegnet til offentlig administration eller kritisk infrastruktur, hvis adgangsrettigheder, overvågning, procedurer for sårbarhedsrapportering eller menneskeligt tilsyn ikke er tilstrækkelige.

3. En ramme for betroet adgang

Det tredje fokus er at undersøge politiske og praktiske modeller for betroet adgang til de mest avancerede AI-modeller. Grundideen er kontrolleret tilgængelighed: Systemer med meget stærke evner skal kunne bruges til legitim forskning og nyttige formål, men ikke udleveres bredt uden sikkerhedsforanstaltninger, der svarer til deres kapacitet og risici.

Aftalen peger dermed på en flerlaget sikkerhedsmodel: Test systemet, del erfaringerne, begræns adgangen, når det er nødvendigt, og brug styringsregler til at fastlægge ansvar.

Hvorfor Claude Mythos er relevant – uden at være dokumenteret som årsagen

Anthropics Claude Mythos Preview er et illustrativt eksempel på de såkaldte dual-use-risici ved avanceret AI. Anthropic oplyser, at selskabet sammen med cirka 50 partnere i Project Glasswing brugte den begrænsede model til at finde over 10.000 sårbarheder med høj eller kritisk alvorlighed i systemisk vigtig software. Anthropic har også rapporteret, at Mythos kunne identificere og udnytte sårbarheder – herunder zero-day-sårbarheder – i større styresystemer og webbrowsere.

Den evne kan styrke det defensive cybersikkerhedsarbejde ved at hjælpe forskere med at finde fejl, før kriminelle gør det. Men den kan også forkorte vejen fra opdagelse til angreb, hvis modellen frigives bredt eller kontrolleres dårligt. Derfor holdt Anthropic Mythos bag begrænset adgang gennem Project Glasswing i stedet for at gøre den offentligt tilgængelig.

De tilgængelige oplysninger dokumenterer imidlertid ikke, at Claude Mythos specifikt udløste eller foranledigede aftalen mellem Singapore og Microsoft fra 12. juni. Mythos bør snarere ses som et eksempel på et hurtigt skiftende risikobillede, der gør strukturerede evalueringer, kontrolleret adgang og klare styringsrammer stadig vigtigere.

Sådan ser sikkerhedsforanstaltningerne ud i praksis

Begrænset adgang er i sig selv et sikkerhedstiltag

Project Glasswings model med begrænset adgang er en form for risikostyring. Anthropic gav en afgrænset gruppe partnere adgang til defensivt arbejde i stedet for at frigive modellen bredt. Det begrænser eksponeringen, samtidig med at sikkerhedsteams kan undersøge, hvad systemet er i stand til.

Begrænset adgang er ikke et komplet sikkerhedssystem. Det kræver blandt andet grundig godkendelse af brugere, overvågning, sikker håndtering af data og ansvarlig offentliggørelse af sårbarheder. Men tilgangen illustrerer princippet bag arbejdet med betroet adgang: Adgangen bør afspejle en models kapacitet og risiko – ikke behandle enhver avanceret model som almindelig offentligt tilgængelig software.

Sårbarheder skal følges op med udbedring

At finde en fejl er kun første skridt. Singapores Cyber Security Agency har anbefalet organisationer at installere rettelser til kritiske sårbarheder og sårbarheder med høj alvorlighed, aktivere multifaktorgodkendelse på tværs af grænseflader og gateways samt gennemgå unødvendige adgangsrettigheder. Tiltagene mindsker angriberes muligheder, mens organisationerne undersøger og udbedrer problemerne.

De tilgængelige oplysninger giver heller ikke grundlag for at fremstille de omkring 10.000 fund fra Mythos som bredt udbedret. En senere vurdering oplyste, at 1.596 sårbarheder var blevet rapporteret til de ansvarlige vedligeholdere, men at kun 97 var blevet rettet. Det betyder ikke, at projektet ikke havde en defensiv værdi, men påstande om, at “mange” af fundene er blevet udbedret, bør behandles med forsigtighed.

Læringen er derfor både teknisk og operationel: AI-sikkerhed kræver en proces for at identificere risici, rapportere dem ansvarligt, prioritere reparationer og begrænse eksponeringen, mens udbedringen stadig er ufuldstændig.

Microsofts rolle – og hvad aftalen ikke bekræfter

Microsoft bidrager med erfaring inden for udvikling af avancerede modeller, virksomhedsinfrastruktur og den praktiske evaluering og kontrol af adgang til AI-systemer. Aftalens beskrevne omfang er dog bredere end én Microsoft-model. Den handler om metoder til sikkerhedstest og betroet adgang til avancerede modeller generelt.

Det materiale, der ligger til grund for denne artikel, dokumenterer ikke flere mere specifikke påstande som formelle dele af aftalen. Det gælder blandt andet oplysninger om Microsofts MAI-model, adgang til OpenAI- og Anthropic-modeller via Azure AI Foundry eller tilsvarende aftaler med Storbritanniens AI Security Institute og USA's Centre for AI Standards and Innovation. Disse forhold bør derfor ikke fremstilles som tilsagn under Singapore-Microsoft-aftalen.

Det bredere mål: et tillidsbaseret AI-økosystem

Samlet danner aftalens elementer en praktisk sikkerhedskæde:

1. Evaluér avancerede og agentiske systemer – også deres adfærd på tværs af sprog.
2. Del tekniske resultater, styringspraksis og erfaringer fra testarbejdet.
3. Kontrollér adgangen til modeller, hvis evner medfører forhøjet risiko.
4. Reagér gennem ansvarlig rapportering, opdateringer, multifaktorgodkendelse og adgangskontrol.
5. Fastlæg politik for, hvornår og hvordan avancerede systemer må bruges i følsomme miljøer.

Det er aftalens centrale betydning. Den gør ikke avanceret AI sikker i sig selv, og den fjerner ikke de risici, Claude Mythos illustrerer. I stedet forbinder den teknisk evaluering med adgangsstyring og cybersikkerhed – en tilgang, der skal gøre avanceret AI mere sikker, robust, pålidelig og ansvarlig, før høj kapacitet forveksles med dokumenteret parathed.