L’accès de l’UE aux tests d’IA révèle la faille britannique sur les modèles de pointe

L’absence signalée d’accès du Royaume-Uni aux tests préalables à la sortie de Claude Mythos 5.1 ne remet pas nécessairement en cause l’expertise technique britannique. Elle révèle surtout une question d’accès : un évaluateur national ne peut pas examiner indépendamment un modèle de pointe au bon moment si sa participation dépend, en dernier ressort, de l’accord du développeur.

L’accès accordé à l’Agence de l’Union européenne pour la cybersécurité, ENISA, aux modèles Mythos 5 d’Anthropic et GPT-6 Astra d’OpenAI est important. Il ne signifie toutefois ni que l’UE possède un droit permanent de tester tous les modèles suivants, ni qu’ENISA a eu accès à Mythos 5.1. 920

L’accès reste attaché à un modèle précis

Selon un porte-parole de la Commission européenne, ENISA a obtenu l’accès à Mythos 5 et à GPT-6 Astra afin de les tester. 9 Parallèlement, des informations de presse indiquent qu’Anthropic n’a pas fourni Mythos 5.1 à l’AI Security Institute (AISI) britannique avant sa commercialisation — le premier cas rapporté dans lequel Anthropic aurait écarté cet organisme du processus de test préalable d’un modèle majeur. 2023

Il serait donc réducteur d’y voir simplement une victoire de l’UE et un revers du Royaume-Uni. L’accès d’ENISA concerne deux modèles nommément désignés, selon des modalités particulières. Mythos 5.1 est une version distincte, soumise à un régime d’accès plus restreint. En pratique, l’évaluation de la sûreté se fragmente désormais selon la version du modèle, ses capacités, son usage prévu, la juridiction concernée et les critères de sélection des partenaires retenus par le développeur.

Pourquoi Mythos 5.1 pose un défi de gouvernance particulier

Anthropic affirme que Claude Fable 5.1 et Claude Mythos 5.1 reposent sur le même modèle sous-jacent, mais avec des garde-fous différents. Fable 5.1 est largement disponible, tandis que Mythos 5.1 n’est accessible que via des programmes d’accès de confiance, conçus pour des travaux en cybersécurité et dans les sciences de la vie. 12

Il ne s’agit donc pas d’un simple test de produit. Un système destiné à des usages sensibles en cybersécurité ou en recherche scientifique soulève des questions d’environnement contrôlé, de surveillance des abus, de vérification des personnes autorisées et de traitement au titre de la sécurité nationale. Les informations publiées indiquent que l’accès à Mythos 5.1 a d’abord été réservé à des organisations américaines préalablement contrôlées. 1824

Les éléments disponibles n’établissent pas qu’Anthropic ait exclu le Royaume-Uni parce qu’elle ne lui ferait pas confiance, ni qu’elle douterait de l’AISI. La conception du programme restreint, les impératifs de sécurité opérationnelle et le contrôle commercial de l’accès sont autant d’explications plausibles. Le résultat demeure néanmoins significatif : une coopération établie et la réputation d’un évaluateur ne garantissent pas un accès rapide à un modèle aux conséquences potentiellement élevées.

Ce que l’accès d’ENISA dit du poids réglementaire européen

L’UE dispose d’un socle juridique plus solide qu’un dispositif entièrement volontaire. L’article 55 du règlement européen sur l’intelligence artificielle impose aux fournisseurs de modèles d’IA à usage général présentant un risque systémique de procéder à des évaluations selon des protocoles et outils standardisés, d’évaluer et d’atténuer les risques systémiques, de suivre et signaler les incidents graves, ainsi que d’assurer un niveau approprié de cybersécurité. 4337

Le règlement prévoit également des évaluations avant la première mise sur le marché d’un modèle, y compris des tests adversariaux documentés, menés en interne ou, lorsque cela est approprié, par des évaluateurs externes indépendants. 3534

Ces obligations pesant sur les fournisseurs ne constituent toutefois pas un droit général pour ENISA de recevoir les poids d’un modèle, un accès illimité au système ou un accès avant chaque sortie d’un modèle de pointe. L’accord de test obtenu par ENISA est important précisément parce qu’il semble découler à la fois d’échanges avec les entreprises et de la position réglementaire plus large de l’UE. 49

Autrement dit, la réglementation peut renforcer la capacité européenne à exiger des éléments probants, une gestion des risques et le respect d’obligations. Elle ne dispense pas de coopérations opérationnelles sécurisées lorsqu’il s’agit de tester des modèles aux capacités sensibles en cyber, en biologie ou en agents autonomes.

Pourquoi le Royaume-Uni est davantage exposé

L’exclusion signalée de Mythos 5.1 met en évidence les limites d’un accès fondé sur le volontariat. Les analyses de cet épisode font état d’appels à doter l’AI Security Institute d’une base légale et de pouvoirs renforcés, après qu’Anthropic ne lui a pas accordé l’accès à son dernier modèle. 23

Une approche volontaire peut bien fonctionner lorsque les laboratoires y voient un intérêt. Elle peut être plus rapide et techniquement plus adaptable que des règles rigides. Sa faiblesse est la prévisibilité : un développeur peut restreindre l’accès, modifier le cercle de partenaires éligibles ou estimer qu’un modèle doit relever d’un canal de sécurité nationale plus fermé.

Le risque stratégique est clair pour le Royaume-Uni. Si ses évaluateurs n’accèdent aux systèmes de pointe qu’après leur sortie — ou seulement après les tests d’autres gouvernements et partenaires agréés — Londres pourrait passer d’un rôle de production des preuves de sûreté à celui de simple utilisateur d’analyses produites ailleurs.

Vers une réponse britannique plus durable

L’objectif immédiat ne doit pas nécessairement être d’imposer la remise des poids des modèles. Pour les systèmes les plus capables, une telle obligation pourrait elle-même soulever des risques de sécurité et de propriété intellectuelle. Un cadre plus robuste pourrait plutôt reposer sur un accès contrôlé et auditable.

Plusieurs pistes sont envisageables :

1. Notification avant le déploiement de modèles de pointe désignés. Les développeurs pourraient être tenus de prévenir une autorité compétente avant de déployer des modèles atteignant certains seuils de capacité ou de risque.
2. Pouvoir légal de demander des informations. L’AI Security Institute pourrait disposer d’une compétence explicite pour obtenir des dossiers de sûreté, résultats d’évaluation, informations sur les incidents et documents techniques pertinents.
3. Environnements d’évaluation sécurisés. Des règles pourraient imposer un accès limité dans le temps via des API surveillées, des environnements cloisonnés ou d’autres dispositifs contrôlés, plutôt qu’un accès aux poids des modèles.
4. Procédure d’examen au titre de la sécurité nationale. Les modèles ayant des implications substantielles pour la cyberdéfense, les sciences de la vie ou les agents autonomes pourraient déclencher un examen coordonné associant experts de la cybersécurité, de la biosécurité, du renseignement et de l’évaluation de l’IA.
5. Coopération formalisée avec l’UE. Des protocoles d’évaluation partagés, des canaux réciproques de test sécurisé et des procédures compatibles de signalement des incidents graves réduiraient les doublons et limiteraient le risque d’exclusion du Royaume-Uni des réseaux européens de test.

Ces mesures répondraient à la faiblesse centrale mise en lumière par l’affaire : l’accès doit être intégré à l’architecture de gouvernance, plutôt que de dépendre entièrement des relations avec chaque laboratoire.

Une évaluation de l’IA de pointe appelée à devenir plus hiérarchisée

La tendance probable est celle d’un système à plusieurs niveaux. Les modèles largement destinés au marché seront soumis à des tests par les fournisseurs, à des obligations documentaires et à des règles de signalement des incidents. Les capacités plus sensibles — cyber, biologiques ou liées aux agents autonomes — seront de plus en plus évaluées dans des cadres restreints. Les systèmes les plus risqués pourraient n’être accessibles qu’à un petit nombre de partenaires gouvernementaux, scientifiques et de sécurité dûment habilités.

L’accord entre ENISA et les entreprises, d’une part, et l’absence d’accès britannique à Mythos 5.1, d’autre part, montrent pourquoi cette distinction est déterminante. La compétition ne porte plus uniquement sur la capacité à construire les modèles les plus performants. Elle porte aussi sur la capacité à inspecter, tester et encadrer leurs versions les plus sensibles avant leur déploiement plus large. 91220

Pour le Royaume-Uni, la compétence technique en évaluation reste un atout majeur, mais elle ne suffit pas à elle seule. Préserver son influence exigera des pouvoirs juridiques fiables sur son territoire et des accords d’accès durables, compatibles avec les impératifs de sécurité, avec ses partenaires à l’étranger.