EU:s AI-tillgång blottar Storbritanniens säkerhetslucka för toppmodeller

EU:s tillgång till testning av Anthropic Mythos 5 och OpenAI GPT-6 Astra är betydelsefull. Men den bör inte tolkas som att EU automatiskt har företräde till varje framtida toppmodell. Att Storbritanniens AI Security Institute, AISI, enligt uppgifter inte fick förhandsåtkomst till Anthropic Claude Mythos 5.1 visar i stället ett mer grundläggande problem: utan en formell rätt till insyn är en nationell utvärderares tillgång i slutänden beroende av utvecklarens samtycke.

ENISA – EU:s cybersäkerhetsbyrå – har fått tillgång till Mythos 5 och GPT-6 Astra för testning, enligt en talesperson för EU-kommissionen. 9 Samtidigt uppges Anthropic inte ha gett AISI tillgång till Mythos 5.1 före lanseringen. Det ska vara första gången som Anthropic har hållit tillbaka en större modell från institutets förhandsgranskning. 2023

Tillgången gäller enskilda modeller – inte hela modellgenerationer

Det är viktigt att skilja på modellerna. ENISA:s tillgång gäller de två uttryckligen angivna modellerna Mythos 5 och GPT-6 Astra. 9 Mythos 5.1 är en annan lansering, med en mer begränsad åtkomstmodell.

Det handlar alltså inte enkelt om en EU-vinst och en brittisk förlust. Det visar snarare att AI-säkerhetsgranskning håller på att delas upp efter modellversion, kapacitet, användningsområde, jurisdiktion och utvecklarens egna kriterier för partners. En myndighet kan ha tillgång till en modell, men ändå sakna tillgång till dess efterföljare när den blir känsligare eller mer begränsad.

Varför Mythos 5.1 är ett svårare styrningsfall

Anthropic uppger att Claude Fable 5.1 och Claude Mythos 5.1 bygger på samma underliggande modell, men har olika skyddsräcken. Fable 5.1 är allmänt tillgänglig, medan Mythos 5.1 endast erbjuds inom företagets program för betrodd åtkomst och är utformad för arbete inom cybersäkerhet och biovetenskap. 12

Därmed är detta mer än en vanlig produktgranskning. En modell avsedd för känsligt cyber- eller vetenskapligt arbete väcker frågor om kontrollerade miljöer, övervakning av missbruk, säkerhetsprövning av användare och hantering av nationella säkerhetsintressen. Enligt rapporteringen var åtkomsten till Mythos 5.1 inledningsvis begränsad till granskade organisationer i USA. 1824

Underlaget visar inte att Anthropic stängde ute Storbritannien på grund av misstro mot landet eller AISI. Det begränsade programmets utformning, operativ säkerhet och företagets kontroll över kommersiell tillgång är alla rimliga förklaringar. Men resultatet är ändå viktigt: tidigare samarbete och ett starkt tekniskt rykte garanterar inte snabb tillgång till en modell med stora riskkonsekvenser.

EU har starkare rättslig grund – men ingen blankocheck

EU:s AI-förordning ger unionen en tydligare rättslig bas än ett helt frivilligt system. Enligt artikel 55 ska leverantörer av AI-modeller för allmänna ändamål med systemrisk genomföra modellutvärderingar enligt standardiserade protokoll och verktyg, bedöma och minska systemrisker, följa och rapportera allvarliga incidenter samt säkerställa en lämplig cybersäkerhetsnivå. 4337

Förordningen förutsätter också utvärdering före den första marknadsintroduktionen, inklusive dokumenterad adversarial testing – alltså tester där man aktivt försöker hitta svagheter och missbruksscenarier. Dessa kan, när det är lämpligt, utföras internt eller av oberoende externa aktörer. 3534

Men dessa skyldigheter för leverantörer innebär inte automatiskt att ENISA har en stående rätt att få modellvikter, obegränsad systemåtkomst eller förhandsåtkomst till varje toppmodell. ENISA:s nuvarande testning är betydelsefull just eftersom den tycks ha säkrats genom kontakt med företagen, parallellt med EU:s bredare regulatoriska position. 49

Reglering kan alltså stärka EU:s möjlighet att kräva underlag, riskhantering och efterlevnad. Den kan däremot inte ersätta behovet av säkerhetsanpassat samarbete när modeller ska testas för känsliga cyber-, bio- eller agentförmågor.

Storbritanniens större sårbarhet

Den rapporterade uteslutningen från Mythos 5.1 sätter begränsningarna i Storbritanniens frivilliga modell i skarpt ljus. Efter händelsen har det rests krav på en starkare lagstadgad grund och utökade befogenheter för AISI. 23

Frivilligt samarbete kan fungera väl när AI-laboratorier ser en nytta i det. Det kan vara snabbare och mer tekniskt flexibelt än detaljerad lagstiftning. Svagheten är förutsägbarheten: utvecklaren kan begränsa åtkomsten, ändra vilka partner som är behöriga eller flytta en modell till en stramare kanal kopplad till nationell säkerhet.

Det skapar en strategisk risk för Storbritannien. Om brittiska utvärderare får tillgång till toppmodeller först efter lansering – eller först sedan andra regeringar och godkända partner har testat dem – riskerar landet att gå från att bidra till säkerhetsunderlaget till att främst förlita sig på bedömningar som tagits fram på annat håll.

En mer hållbar brittisk modell

Målet behöver inte vara att staten alltid ska få tillgång till modellvikter. För mycket kapabla modeller kan det i sig skapa risker för säkerhet och immateriella rättigheter. En starkare modell kan i stället bygga på kontrollerad och spårbar åtkomst.

Möjliga åtgärder är:

1. Förhandsanmälan för utpekade toppmodeller. Utvecklare kan åläggas att anmäla modeller som passerar definierade trösklar för kapacitet eller risk före utrullning.
2. Lagstadgad rätt att begära underlag. AISI kan få tydlig befogenhet att begära säkerhetsunderlag, utvärderingsresultat, incidentinformation och relevant teknisk dokumentation.
3. Säkra testmiljöer. Tidsbegränsad tillgång via övervakade API:er, sandlådor eller andra kontrollerade miljöer kan krävas utan att modellvikter lämnas ut.
4. En granskningsväg för nationell säkerhet. Modeller med väsentliga konsekvenser inom cybersäkerhet, biovetenskap eller autonoma agenter kan utlösa en samordnad granskning med cyber-, bio-, underrättelse- och AI-utvärderingsexpertis.
5. Formaliserat samarbete med EU. Gemensamma testprotokoll, ömsesidiga kanaler för säker testning och kompatibla rutiner för rapportering av allvarliga incidenter skulle minska dubbelarbete och göra det svårare för Storbritannien att hamna utanför europeiska testnätverk.

Kärnfrågan är att tillgång måste byggas in i styrningen, snarare än att helt vila på relationer med enskilda AI-laboratorier.

Nästa steg: en nivåindelad testning av topp-AI

Utvecklingen pekar mot ett skiktat system för AI-utvärdering. Modeller för bred marknadsanvändning kommer att omfattas av leverantörstester, regulatorisk dokumentation och krav på incidenthantering. Känsligare förmågor inom cybersäkerhet, biologi och autonoma agenter kommer allt oftare att granskas i restriktiva miljöer. De mest riskfyllda systemen kan bli tillgängliga enbart för en liten krets av säkerhetsprövade myndigheter, laboratorier och säkerhetspartner.

ENISA:s tillgång och Storbritanniens rapporterade frånvaro från tester av Mythos 5.1 visar varför denna skillnad spelar roll. Konkurrensen gäller inte längre bara vem som kan bygga den starkaste modellen. Den gäller också vem som kan inspektera, testa och styra de mest betydelsefulla versionerna innan de får bredare användning. 91220

För Storbritannien är teknisk utvärderingsförmåga fortsatt värdefull, men den räcker inte ensam. För att behålla inflytande krävs både pålitliga rättsliga befogenheter på hemmaplan och långsiktiga, säkerhetsanpassade avtal om tillgång med internationella partner.