Anthropic gav inte brittiska AISI förhandsåtkomst – men skälet är fortfarande oklart

Det korta svaret är att Anthropic inte offentligt har förklarat beslutet. Därför går det inte att slå fast varför UK AI Security Institute (AISI) inte fick förhandsåtkomst till Claude Mythos 5.1. Det som framgår av underlaget är mer begränsat: institutet fick inte tillgång före lanseringen, medan modellen gjordes tillgänglig för en utvald grupp deltagare i Project Glasswing. En möjlig tolkning om strategisk eller nationell restriktivitet är just en tolkning – inte en bekräftad förklaring från Anthropic. 34

Vad är skillnaden mellan Mythos 5.1 och Fable 5.1?

Anthropic beskriver Claude Mythos 5.1 som en modell för deltagare i Project Glasswing. Claude Fable 5.1 är däremot den modell som finns tillgänglig via Claude API och flera stora molnplattformar. Båda modellerna har ett kontextfönster på en miljon token, högst 128 000 token i utdata och så kallat adaptivt resonemang som alltid är aktiverat. 16

Det är just denna uppdelning som gör frågan viktig. När en mer begränsad modell eller en modellkonfiguration inte kan granskas av en extern myndighetsnära testorganisation, blir det svårare att veta hur väl skyddsåtgärder fungerar i praktiken.

Varför spelar AISI:s uteblivna åtkomst roll?

AISI är Storbritanniens statliga forskningsorganisation för avancerade AI-risker. Uppdraget är att ge regeringar ett vetenskapligt underlag om risker och möjliga skyddsåtgärder. Institutet testar ledande AI-system, forskar om deras förmågor och hjälper beslutsfattare att förstå risker för bland annat nationell säkerhet och allmänheten. 67

Organisationen uppger att den har över 100 tekniska medarbetare och att den har testat fler än 30 av världens mest avancerade modeller. 24 Men AISI har ingen generell rätt att kräva att AI-bolag lämnar ut modeller för testning. Förhandsgranskning bygger i stället på samarbete från utvecklarna.

Det betyder att ett nej från ett bolag inte bara är en administrativ fråga. Det kan skapa ett granskningsglapp: just den modell eller version som externa experter behöver bedöma kan hamna utanför den oberoende utvärderingen.

Vad går inte att säga om beslutet?

Det finns inte tillräckligt underlag för att säga att USA:s regering beordrade beslutet eller att amerikansk lag tvingade Anthropic att neka AISI tillgång. Andra tänkbara förklaringar kan vara försiktighet kring nationell säkerhet, exportkontroller, kommersiell sekretess eller en mer generell policy om begränsad tillgång.

Utan en offentlig motivering från Anthropic går det inte att avgöra vilken av dessa förklaringar som väger tyngst.

En fråga om mer än procedur

AISI:s arbete är relevant eftersom modeller kan uppvisa riskfyllda egenskaper först under systematiska och motsträviga tester. Institutet har byggt sin verksamhet kring utvärderingar av avancerade AI-system, bland annat inom cybersäkerhet, biologi och kemi, autonoma beteenden och skyddsräcken. 814

Att AISI saknade möjlighet att testa Mythos 5.1 före användning är därför inte i sig bevis för att modellen är farlig. Det visar däremot en tydlig begränsning i dagens modell: oberoende offentlig granskning av de mest känsliga AI-systemen är beroende av att företagen själva väljer att dela dem.

Slutsats: Anthropic kan ha haft flera skäl att begränsa åtkomsten, men något bekräftat skäl har inte offentliggjorts. Det centrala är därför inte att Mythos 5.1 därmed kan beskrivas som osäker, utan att en etablerad brittisk utvärderare inte kunde pröva modellen före lansering.