Hvorfor fik Storbritanniens AI Security Institute ikke adgang til Anthropic-modellen Mythos 5.1?

Det korte svar er, at Anthropic ikke offentligt har forklaret, hvorfor Storbritanniens AI Security Institute (AISI) ikke fik adgang til Mythos 5.1 før lanceringen. En endelig begrundelse kan derfor ikke fastslås.

Det, der kan siges med sikkerhed, er mere begrænset: Anthropic lancerede Claude Mythos 5.1 som en model for deltagere i det begrænsede Project Glasswing-program, mens Claude Fable 5.1 blev gjort generelt tilgængelig via Claude API samt platforme fra Amazon, Google og Microsoft. Begge modeller har et kontekstvindue på 1 million tokens og kan levere op til 128.000 output-tokens. 16

Hvorfor fraværet af adgang vækker opsigt

AISI er den britiske regerings forskningsenhed for AI-sikkerhed. Instituttet skal give myndighederne et videnskabeligt grundlag for at forstå risici ved avanceret AI, herunder ved at teste modeller før offentlig frigivelse og vurdere mulige sikkerhedsforanstaltninger. 67

Instituttet har over 100 tekniske medarbejdere og oplyser, at det har testet mere end 30 af verdens mest avancerede modeller. 45 Netop derfor er manglende adgang til en begrænset model med potentielt følsomme anvendelser inden for blandt andet cyber- og biologiområdet væsentlig: En uafhængig offentlig evaluator kan ikke efterprøve, om de relevante værn virker, hvis modellen ikke stilles til rådighed.

Hvad man ikke kan udlede

At AISI ikke fik forhåndsadgang, er ikke dokumentation for, at Mythos 5.1 er farlig eller usikker. Det dokumenterer heller ikke, at USA krævede afslaget, eller at Anthropic handlede efter en koordineret protektionistisk strategi.

Mulige forklaringer kunne blandt andet være forsigtighed omkring eksportkontrol, national sikkerhed, følsomme cyber- eller biologikapaciteter, kommerciel fortrolighed eller en adgangspolitik, der i denne fase kun omfatter en lille kreds af godkendte organisationer. Men uden en offentlig begrundelse fra Anthropic kan disse muligheder ikke adskilles fra hinanden.

Den bredere sikkerhedsdiskussion

AISI's opgave er netop at måle avancerede modellers kapaciteter og afprøve risikobegrænsninger, også i områder som cyber, kemi og biologi, autonom adfærd og sikkerhedsværn. 814 Instituttets egne beskrivelser understreger, at samarbejde med udviklere er centralt for arbejdet. 69

Det betyder samtidig, at adgang til modeller i praksis beror på frivilligt samarbejde fra selskaberne. Når en model med begrænset adgang ikke stilles til rådighed for en statslig evaluator, opstår der et reelt hul i den uafhængige kontrol før udrulning.

Konklusionen er derfor ikke, at Mythos 5.1 nødvendigvis udgør en ekstraordinær risiko. Den mere præcise konklusion er, at en vigtig uafhængig britisk evaluator ikke kunne undersøge den begrænsede model før frigivelsen – og at offentligheden fortsat mangler Anthropics forklaring på hvorfor.