EU-toegang tot AI-tests legt kwetsbaarheid Britse veiligheidsaanpak bloot

De gemelde uitsluiting van het Britse AI Security Institute bij de pre-release-test van Anthropics Claude Mythos 5.1 is minder een oordeel over Britse technische kennis dan een waarschuwing over toegang. Een nationale beoordelaar kan een grensverleggend model niet zelfstandig op tijd onderzoeken wanneer deelname uiteindelijk afhangt van toestemming van de ontwikkelaar.

Dat ENISA toegang heeft gekregen tot Anthropics Mythos 5 en OpenAI's GPT-6 Astra is belangrijk. Maar het betekent niet dat de EU automatisch elk opvolgend model mag testen — of dat ENISA ook toegang had tot Mythos 5.1. 920

Toegang geldt per model, niet per organisatie

Volgens een woordvoerder van de Europese Commissie heeft ENISA, het EU-agentschap voor cyberbeveiliging, toegang gekregen tot Mythos 5 en GPT-6 Astra voor tests. 9 Tegelijkertijd meldde de pers dat Anthropic het Britse AI Security Institute (AISI) Mythos 5.1 niet vóór de release ter beschikking stelde. Volgens die berichtgeving was dit de eerste keer dat Anthropic een belangrijk model buiten het pre-releaseproces van die Britse instantie hield. 2023

Dat is niet simpelweg een verhaal van Europese winst en Brits verlies. De toegang van ENISA betreft twee specifiek genoemde modellen en concrete afspraken. Mythos 5.1 is een andere release met een restrictiever toegangsregime. De praktische les: veiligheidsbeoordelingen raken steeds sterker versnipperd naar modelversie, capaciteit, beoogd gebruik, rechtsgebied en de eigen selectiecriteria van de ontwikkelaar.

Waarom Mythos 5.1 bestuurlijk lastiger ligt

Anthropic stelt dat Claude Fable 5.1 en Claude Mythos 5.1 hetzelfde onderliggende model zijn, maar verschillende veiligheidswaarborgen hebben. Fable 5.1 is algemeen beschikbaar; Mythos 5.1 is uitsluitend toegankelijk via programma's voor vertrouwde toegang, bedoeld voor werk in cyberbeveiliging en de biowetenschappen. 12

Daarmee gaat het niet alleen om een gewone producttest. Een systeem voor gevoelig cyber- of wetenschappelijk werk roept vragen op over gecontroleerde omgevingen, monitoring van misbruik, screening van personeel en omgang met nationale-veiligheidsinformatie. Volgens berichtgeving was toegang tot Mythos 5.1 aanvankelijk beperkt tot doorgelichte Amerikaanse organisaties. 1824

De beschikbare informatie bewijst niet dat Anthropic het VK uitsloot uit wantrouwen jegens het land of het instituut. Het ontwerp van het beperkte programma, operationele veiligheidszorgen en commerciële controle over toegang zijn allemaal plausibele verklaringen. De uitkomst blijft echter relevant: bestaande samenwerking en een goede reputatie van een beoordelaar boden geen garantie op tijdige toegang tot een model met grote potentiële gevolgen.

Wat de ENISA-toegang zegt over de positie van de EU

De EU heeft een steviger juridisch uitgangspunt dan een volledig vrijwillig systeem. Artikel 55 van de EU AI Act verplicht aanbieders van algemene AI-modellen met systeemrisico onder meer om modelevaluaties uit te voeren met gestandaardiseerde protocollen en instrumenten, systeemrisico's te beoordelen en te beperken, ernstige incidenten te registreren en te melden, en voldoende cyberbeveiliging te waarborgen. 4337

De verordening voorziet ook in evaluatie vóór een model voor het eerst op de markt wordt gebracht, inclusief gedocumenteerde adversarial testing: doelbewuste tests die proberen zwakke plekken en risicovol gedrag bloot te leggen. Die tests kunnen, waar passend, intern of door een onafhankelijke externe partij worden uitgevoerd. 3534

Deze verplichtingen voor aanbieders zijn echter iets anders dan een algemeen recht van ENISA op modelgewichten, onbeperkte systeemtoegang of toegang vóór de release van iedere nieuwe generatie AI. Juist daarom is de testafspraak met ENISA betekenisvol: zij lijkt voort te komen uit overleg met de bedrijven én uit de bredere regulerende positie van de EU. 49

Regulering kan de mogelijkheid van de EU versterken om bewijs, risicobeheer en naleving te eisen. Zij neemt de noodzaak van beveiligde samenwerking niet weg wanneer modellen gevoelige cyber-, biologische of autonome capaciteiten hebben.

Waarom het VK kwetsbaarder is

De gemelde uitsluiting bij Mythos 5.1 maakt de grenzen van vrijwillige toegang in het VK zichtbaar. Na het besluit van Anthropic klonken er volgens berichtgeving oproepen voor een sterkere wettelijke basis en meer bevoegdheden voor het AI Security Institute. 23

Een vrijwillige aanpak kan goed werken wanneer AI-labs baat zien bij samenwerking. Zij kan sneller en technisch flexibeler zijn dan strikte regelgeving. Het zwakke punt is voorspelbaarheid: een ontwikkelaar kan toegang beperken, de groep toegelaten partners wijzigen of een model onderbrengen in een strikter kanaal voor nationale veiligheid.

Dat levert een strategisch risico op. Als Britse beoordelaars grensverleggende systemen pas na publicatie ontvangen — of pas nadat andere overheden en goedgekeurde partners ze hebben getest — dreigt het VK van medebepaler van veiligheidsbewijs te veranderen in afnemer van elders geproduceerd bewijs.

Een duurzamere Britse aanpak

Het onmiddellijke beleidsdoel hoeft niet een verplichte overdracht van modelgewichten te zijn. Bij zeer capabele modellen kan dat zelf risico's voor veiligheid en intellectueel eigendom creëren. Een sterker stelsel kan daarom draaien om gecontroleerde en controleerbare toegang.

Mogelijke maatregelen zijn:

1. Meldplicht vóór inzet van aangewezen frontiermodellen. Ontwikkelaars zouden een bevoegde instantie moeten informeren voordat zij modellen inzetten die vastgelegde drempels voor capaciteit of risico overschrijden.
2. Wettelijke bevoegdheid om informatie op te vragen. Het AI Security Institute kan een duidelijke grondslag krijgen voor het opvragen van veiligheidsdossiers, evaluatieresultaten, incidentinformatie en relevante technische documentatie.
3. Beveiligde testomgevingen. Regels kunnen tijdelijke toegang via gemonitorde API's, afgeschermde systemen of andere gecontroleerde omgevingen voorschrijven, zonder dat modelgewichten hoeven te worden verstrekt.
4. Een beoordelingsroute voor nationale veiligheid. Modellen met wezenlijke gevolgen voor cyberbeveiliging, biowetenschappen of autonome agenten kunnen een gecoördineerde beoordeling vereisen met expertise uit cyberbeveiliging, biosecurity, inlichtingendiensten en AI-evaluatie.
5. Formele samenwerking met de EU. Gedeelde testprotocollen, wederkerige beveiligde testkanalen en compatibele procedures voor ernstige incidenten kunnen dubbel werk verminderen en voorkomen dat het VK buiten Europese testnetwerken valt.

De kern van deze voorstellen is dat toegang onderdeel moet worden van het bestuurlijke ontwerp, in plaats van volledig te berusten op relaties met afzonderlijke AI-labs.

Frontier-AI-tests worden waarschijnlijk gelaagd

De meest waarschijnlijke ontwikkeling is een gelaagd systeem voor evaluatie. Breed beschikbare modellen zullen vallen onder tests door de aanbieder, verplichte documentatie en incidentverplichtingen. Gevoeligere cyber-, biologische en autonome capaciteiten zullen steeds vaker in besloten omgevingen worden beoordeeld. De systemen met het hoogste risico kunnen uiteindelijk alleen toegankelijk zijn voor een kleine groep doorgelichte overheids-, laboratorium- en veiligheidspartners.

De toegang van ENISA en de uitsluiting van het VK bij Mythos 5.1 laten zien waarom dat onderscheid ertoe doet. De concurrentie gaat niet langer alleen over wie het krachtigste model bouwt, maar ook over wie de meest ingrijpende varianten kan inspecteren, testen en besturen voordat zij breder worden ingezet. 91220

Voor het VK blijft technische evaluatiecapaciteit waardevol, maar die is op zichzelf niet genoeg. Om invloed te behouden zijn betrouwbare wettelijke bevoegdheden in eigen land en duurzame, veiligheidsbewuste toegangsafspraken met partners nodig.