EU’s AI-adgang blotlægger Storbritanniens hul i sikkerhedstesten af frontmodeller

Storbritanniens angivelige udelukkelse fra test før lanceringen af Anthropics Claude Mythos 5.1 er ikke først og fremmest en dom over britisk teknisk ekspertise. Den viser snarere et problem med adgang: Et nationalt evalueringsorgan kan ikke uafhængigt teste en frontmodel i tide, hvis deltagelsen i sidste ende afhænger af udviklerens samtykke.

At EU’s cybersikkerhedsagentur ENISA har fået adgang til Anthropics Mythos 5 og OpenAI’s GPT-6 Astra er vigtigt. Men det betyder hverken, at EU har en fast ret til at teste alle efterfølgende modeller, eller at ENISA også havde adgang til Mythos 5.1. 920

Det afgørende er, hvilken konkret model der er adgang til

Ifølge en talsperson for EU-Kommissionen har ENISA fået adgang til Mythos 5 og GPT-6 Astra til test. 9 Samtidig lyder det i medierapporter, at Anthropic ikke gav det britiske AI Security Institute adgang til Mythos 5.1 før lanceringen. Det var angiveligt første gang, Anthropic holdt en større model ude af instituttets proces for test før udgivelse. 2023

Det bør ikke reduceres til en enkel fortælling om en EU-sejr og et britisk nederlag. ENISA’s adgang gælder to navngivne modeller under bestemte aftaler. Mythos 5.1 er en anden udgivelse og et mere begrænset adgangstilfælde. I praksis bliver sikkerhedsevaluering i stigende grad opdelt efter modelversion, kapacitet, anvendelsesformål, jurisdiktion og udviklerens egne kriterier for samarbejdspartnere.

Hvorfor Mythos 5.1 er en vanskeligere styringsopgave

Anthropic oplyser, at Claude Fable 5.1 og Claude Mythos 5.1 bygger på den samme underliggende model, men har forskellige sikkerhedsværn. Fable 5.1 er bredt tilgængelig, mens Mythos 5.1 kun tilbydes gennem programmer med betroet adgang, der er indrettet til arbejde med cybersikkerhed og biovidenskab. 12

Dermed er der tale om mere end almindelig produkttest. Et system målrettet følsomt cyber- eller videnskabeligt arbejde rejser spørgsmål om kontrollerede testmiljøer, overvågning af misbrug, sikkerhedsgodkendelse af personale og håndtering af nationale sikkerhedsinteresser. Ifølge rapporteringen var adgangen til Mythos 5.1 i første omgang begrænset til godkendte amerikanske organisationer. 1824

Det foreliggende materiale dokumenterer ikke, at Anthropic udelukkede Storbritannien, fordi selskabet mistroede landet eller det britiske institut. Det kan også forklares med programmets begrænsede design, hensyn til operationel sikkerhed og virksomhedens kontrol over kommerciel adgang. Men resultatet er stadig væsentligt: Etableret samarbejde og en evaluators gode omdømme sikrede ikke rettidig adgang til en model med potentielt store konsekvenser.

Hvad ENISA’s adgang siger om EU’s forhandlingsstyrke

EU har et stærkere juridisk udgangspunkt end et rent frivilligt system. Artikel 55 i EU’s AI-forordning pålægger udbydere af AI-modeller til generelle formål med systemisk risiko at gennemføre modelevalueringer efter standardiserede protokoller og værktøjer, vurdere og begrænse systemiske risici, registrere og rapportere alvorlige hændelser samt sikre et passende niveau af cybersikkerhed. 4337

Forordningen lægger desuden op til evaluering før en models første markedsføring, herunder dokumenteret adversarial testing – altså målrettede stresstest, som efter omstændighederne kan udføres internt eller af en uafhængig ekstern aktør. 3534

Disse pligter for udbyderne er dog ikke det samme som en generel ret for ENISA til at få modelvægte, ubegrænset systemadgang eller adgang før lancering til enhver ny frontmodel. Netop derfor er ENISA’s testordning betydningsfuld: Den ser ud til at være opnået gennem dialog med virksomhederne såvel som gennem EU’s bredere reguleringsmæssige position. 49

Regulering kan altså styrke EU’s mulighed for at kræve dokumentation, risikostyring og efterlevelse. Den fjerner ikke behovet for sikker, praktisk koordinering, når man tester modeller med følsomme cyber-, bio- eller agentegenskaber.

Hvorfor Storbritannien står mere udsat

Den rapporterede udelukkelse fra Mythos 5.1 tydeliggør begrænsningerne ved frivillig adgang. I omtalen af sagen er der blevet efterlyst et stærkere lovgrundlag og flere beføjelser til det britiske AI Security Institute, efter at Anthropic ikke gav instituttet adgang til den nyeste model. 23

En frivillig model kan fungere godt, når AI-laboratorierne ser en værdi i samarbejdet. Den kan være hurtigere og mere teknisk fleksibel end faste regler. Svagheden er forudsigeligheden: En udvikler kan begrænse adgangen, ændre gruppen af kvalificerede partnere eller beslutte, at en model hører hjemme i en snævrere kanal med nationale sikkerhedskrav.

Det skaber en strategisk risiko for Storbritannien. Hvis britiske evaluatorer først får adgang til frontsystemer efter lanceringen – eller først efter at andre regeringer og godkendte partnere har testet dem – kan landet gå fra at være med til at forme sikkerhedsgrundlaget til at være modtager af analyser, andre har udarbejdet.

Et mere holdbart britisk svar

Det umiddelbare politiske mål behøver ikke være tvungen udlevering af modelvægte. For særligt kapable modeller kan det i sig selv skabe risici for sikkerhed og immaterielle rettigheder. Et stærkere system kan i stedet bygge på kontrolleret og dokumenterbar adgang.

Mulige tiltag omfatter:

1. Varsling før ibrugtagning af udpegede frontmodeller. Udviklere kan pålægges at underrette en kompetent myndighed, før modeller over definerede kapacitets- eller risikotærskler tages i brug.
2. Lovfæstede beføjelser til at indhente dokumentation. AI Security Institute kan få klar hjemmel til at kræve sikkerhedsvurderinger, testresultater, oplysninger om hændelser og relevant teknisk dokumentation.
3. Sikre testmiljøer. Regler kan kræve tidsbegrænset adgang via overvågede API’er, sandkasser eller andre kontrollerede miljøer frem for direkte adgang til modelvægte.
4. Et spor for national sikkerhedsvurdering. Modeller med væsentlige konsekvenser for cyberområdet, biovidenskab eller autonome agenter kan udløse en koordineret vurdering med cyber-, biosikkerheds-, efterretnings- og AI-evalueringskompetencer.
5. Formelt samarbejde med EU. Fælles testprotokoller, gensidige kanaler for sikker test og kompatible procedurer for alvorlige hændelser kan mindske dobbeltarbejde og reducere risikoen for, at Storbritannien holdes uden for europæiske testnetværk.

Forslagene retter sig mod den kernefejl, sagen har blotlagt: Adgang bør indbygges i styringssystemet frem for udelukkende at bero på relationer til enkelte AI-laboratorier.

Sikkerhedstest af front-AI bliver sandsynligvis opdelt i niveauer

Udviklingen peger mod et lagdelt evalueringssystem. Modeller, der er bredt tilgængelige på markedet, vil være omfattet af udbydertest, regulatorisk dokumentation og pligter ved alvorlige hændelser. Mere følsomme cyber-, bio- og agentfunktioner vil i stigende grad blive vurderet i begrænsede miljøer. De mest risikofyldte systemer kan blive forbeholdt en lille kreds af sikkerhedsgodkendte myndigheder, laboratorier og sikkerhedspartnere.

ENISA’s aftale og Storbritanniens rapporterede udelukkelse fra Mythos 5.1 viser, hvorfor forskellen betyder noget. Konkurrencen handler ikke længere kun om, hvem der kan bygge den stærkeste model. Den handler også om, hvem der kan inspicere, teste og styre de mest konsekvensfulde versioner, før de når bredere ud. 91220

For Storbritannien er teknisk evalueringskapacitet fortsat værdifuld, men den er ikke nok i sig selv. Skal landet bevare indflydelse, kræver det pålidelig juridisk hjemmel nationalt og varige, sikkerhedsbevidste adgangsaftaler med internationale partnere.