EUs AI-tilgang viser Storbritannias sårbare sikkerhetsmodell

EUs tilgang til testing av avanserte AI-modeller er viktig, men den er ikke det samme som en fast rett til å undersøke enhver ny modell før lansering. Det er hovedpoenget i kontrasten mellom ENISA, EUs cybersikkerhetsbyrå, og Storbritannias AI Security Institute.

ENISA har fått tilgang til Anthropic Mythos 5 og OpenAI GPT-6 Astra for testing. Samtidig fikk det britiske instituttet ifølge rapporter ikke tilgang til Anthropic Claude Mythos 5.1 før modellen ble lansert. 920 Det sier mindre om britisk fagkompetanse enn om et grunnleggende styringsproblem: Når tilgang i siste instans avhenger av selskapets samtykke, er uavhengig og tidsriktig kontroll ikke garantert.

Tilgang gjelder den konkrete modellen

ENISAs tilgang gjelder to navngitte modeller, Mythos 5 og GPT-6 Astra, under bestemte ordninger. 9 Mythos 5.1 er en annen og nyere utgivelse, med en langt mer begrenset tilgangsmodell. Det er derfor misvisende å beskrive saken som en enkel EU-seier og britisk tap.

Den praktiske lærdommen er at sikkerhetsevaluering i økende grad blir delt opp etter modellversjon, kapasitet, bruksområde, jurisdiksjon og selskapenes egne kriterier for samarbeidspartnere. En regulator eller et nasjonalt testmiljø kan ha tilgang til én modell, uten at det gir adgang til etterfølgeren.

Hvorfor Mythos 5.1 er en særskilt krevende sak

Anthropic opplyser at Claude Fable 5.1 og Claude Mythos 5.1 bygger på samme underliggende modell, men har ulike sikkerhetstiltak. Fable 5.1 er allment tilgjengelig, mens Mythos 5.1 bare tilbys gjennom selskapets programmer for betrodd tilgang, rettet mot arbeid innen cybersikkerhet og biovitenskap. 12

Dermed handler dette ikke bare om ordinær produkttesting. Modeller utviklet for sensitive oppgaver innen cyber eller forskning i livsvitenskap reiser spørsmål om kontrollerte testmiljøer, overvåking av misbruk, klarering av personell og håndtering av nasjonale sikkerhetsinteresser. Rapporteringen sier at tilgangen til Mythos 5.1 i utgangspunktet var begrenset til kvalitetssikrede amerikanske organisasjoner. 1824

Kildene dokumenterer ikke at Anthropic utelot Storbritannia fordi selskapet manglet tillit til landet eller instituttet. Begrenset programdesign, operasjonell sikkerhet og kommersiell kontroll over tilgangen er mulige forklaringer. Likevel er utfallet betydningsfullt: Etablerte samarbeidsforhold og et godt faglig omdømme ga ikke britiske evaluatorer sikker tilgang til en modell med potensielt store konsekvenser.

EUs styrke – og begrensning

EU har et sterkere rettslig utgangspunkt enn en rent frivillig ordning. Artikkel 55 i EUs AI Act pålegger tilbydere av KI-modeller for generelle formål med systemrisiko å gjennomføre modelevalueringer med standardiserte protokoller og verktøy, vurdere og begrense systemrisiko, følge opp og rapportere alvorlige hendelser samt sørge for et passende nivå av cybersikkerhet. 4337

Regelverket legger også opp til evaluering før en modell først bringes på markedet, inkludert dokumentert stresstesting gjennom såkalt adversarial testing, enten internt eller gjennom uavhengig ekstern testing når det er relevant. 3534

Men disse pliktene for leverandørene gir ikke automatisk ENISA rett til modellvekter, ubegrenset systemtilgang eller forhåndstilgang til hver eneste avanserte modell. ENISAs testordning er nettopp viktig fordi den ser ut til å være oppnådd både gjennom dialog med selskapene og EUs bredere regulatoriske posisjon. 49

Regulering kan altså styrke EUs mulighet til å kreve dokumentasjon, risikostyring og etterlevelse. Den kan ikke fjerne behovet for sikre samarbeidsordninger når det dreier seg om modeller med følsomme cyber-, bio- eller agentkapasiteter.

Storbritannias frivillige modell er mer utsatt

At Mythos 5.1 angivelig ikke ble gjort tilgjengelig for britisk testing før lansering, synliggjør svakheten ved frivillig tilgang. Etter saken har det kommet krav om et tydeligere lovgrunnlag og sterkere fullmakter for AI Security Institute. 23

Frivillig samarbeid kan fungere godt når laboratoriene ser nytten av det, og det kan være raskere og mer fleksibelt enn rigide regler. Ulempen er manglende forutsigbarhet: En utvikler kan begrense partnerkretsen, endre vilkårene eller plassere en modell i en strammere kanal av hensyn til nasjonal sikkerhet.

For Storbritannia skaper dette en strategisk risiko. Dersom landets evaluatorer først får tilgang etter lansering – eller etter at andre myndigheter og godkjente partnere har testet modellen – kan landet gå fra å forme sikkerhetsgrunnlaget til å motta vurderinger gjort andre steder.

Hva en mer robust britisk ordning kan innebære

Målet trenger ikke å være tvungen utlevering av modellvekter. For særlig kapable modeller kan det i seg selv skape sikkerhets- og immaterialrettslige risikoer. En sterkere ordning kan heller bygge på kontrollert og etterprøvbar tilgang.

Mulige tiltak er:

1. Varslingsplikt før utrulling av utpekte avanserte modeller. Utviklere kan pålegges å varsle en utpekt myndighet før modeller som passerer definerte kapasitet- eller risikoterskler, tas i bruk.
2. Lovfestet rett til å kreve dokumentasjon. AI Security Institute kan få klar fullmakt til å innhente sikkerhetsvurderinger, testresultater, hendelsesinformasjon og relevant teknisk dokumentasjon.
3. Sikre testmiljøer. Tidsavgrenset tilgang via overvåkede API-er, sandkasser eller andre kontrollerte miljøer kan være et alternativ til tilgang til modellvekter.
4. Et nasjonalsikkerhetsspor. Modeller med vesentlige konsekvenser for cyber, biovitenskap eller autonome agenter kan utløse samordnet vurdering med kompetanse fra sikkerhetsmyndigheter, cybersikkerhet, biosikkerhet og KI-evaluering.
5. Formalisert samarbeid med EU. Felles testprotokoller, gjensidige kanaler for sikker testing og kompatible systemer for rapportering av alvorlige hendelser kan redusere dobbeltarbeid og hindre at Storbritannia faller utenfor europeiske testnettverk.

Evaluering av front-KI blir trolig lagdelt

Utviklingen peker mot et system med flere nivåer. Modeller som tilbys bredt i markedet, vil i større grad omfattes av leverandørtesting, regulatorisk dokumentasjon og hendelsesplikter. Mer sensitive cyber-, bio- og agentkapasiteter vil stadig oftere bli evaluert i lukkede miljøer. De mest risikofylte systemene kan bli tilgjengelige bare for et lite antall sikkerhetsklarerte myndigheter, laboratorier og partnere.

ENISAs tilgang og Storbritannias manglende forhåndstilgang til Mythos 5.1 viser hvorfor dette skillet betyr noe. Konkurransen handler ikke lenger bare om hvem som kan bygge den sterkeste modellen, men også om hvem som kan inspisere, teste og styre de mest betydningsfulle versjonene før de tas i bred bruk. 91220

For Storbritannia er teknisk evalueringskapasitet fortsatt verdifull, men ikke tilstrekkelig alene. Skal landet beholde innflytelse, trenger det mer forutsigbare juridiske fullmakter hjemme og varige, sikkerhetsbevisste tilgangsordninger med partnere i utlandet.