Pourquoi le Royaume-Uni refuse un « bouton d’arrêt » pour l’IA dangereuse

Le refus britannique d’un « bouton d’arrêt » d’urgence pour l’intelligence artificielle ne signifie pas que le gouvernement minimise les risques des modèles les plus puissants. Son argument central est territorial : une mesure limitée au Royaume-Uni resterait incomplète. Couper l’accès à un modèle, désactiver un système ou fermer un centre de données sur le sol britannique n’empêcherait pas des technologies équivalentes d’être développées, hébergées ou utilisées abusivement dans d’autres pays. 1

Cette position a ravivé un désaccord de fond. Les ministres estiment disposer déjà de moyens d’intervention face à de graves incidents de cybersécurité et se disent prêts à durcir les règles si les garde-fous volontaires échouent. Les partisans de nouveaux pouvoirs répondent que la préparation aux risques catastrophiques exige des mécanismes explicites et juridiquement contraignants avant qu’une urgence ne survienne. 1617

Ce qu’aurait permis le « bouton d’arrêt »

Lord Tim Clement-Jones a proposé un amendement au projet de loi sur la cybersécurité et la résilience (Cyber Security and Resilience Bill). Il aurait créé une base légale pour une intervention d’urgence contre une IA dangereuse : en dernier recours, l’État aurait pu désactiver un modèle ou interrompre les opérations d’un centre de données au Royaume-Uni lorsqu’un système constituait une menace grave pour la sécurité ou les opérations essentielles. 26

L’enjeu est que les règles actuelles de cybersécurité visent d’abord la sûreté des réseaux et des systèmes d’information. Selon leurs détracteurs, elles ne constituent pas clairement un cadre dédié à la surveillance des développeurs de modèles d’IA de pointe, ni à la réponse aux risques directement générés par un modèle autonome. 15

L’argument du gouvernement : on ne peut pas « éteindre l’IA » depuis Londres

L’objection du Cabinet Office — l’administration qui pilote notamment la politique britannique de sûreté de l’IA — porte d’abord sur la compétence nationale. Selon ses termes, le Royaume-Uni ne peut pas « simplement éteindre l’IA » : bloquer l’accès aux modèles dans le pays ne les empêcherait pas d’être développés ou détournés ailleurs. 1

C’est aussi la limite pratique d’un pouvoir de coupure purement national. Il pourrait perturber une infrastructure placée sous juridiction britannique, mais ne suffirait pas, à lui seul, à supprimer les paramètres d’un modèle, à interrompre des services opérés à l’étranger ou à empêcher d’autres acteurs de construire des capacités similaires. Un tel pouvoir pourrait aider à contenir un incident local ; il ne réglerait pas, en lui-même, le problème d’une technologie transfrontalière.

Daniel Kokotajlo, ancien chercheur d’OpenAI, a formulé un argument proche dans les reportages consacrés à cette proposition. Sans accord international, une coupure décidée par un seul pays serait insuffisante. Il considère ces outils préférables à l’absence totale de moyens d’action, mais juge la diplomatie — en particulier le dialogue avec les États-Unis — plus déterminante pour ralentir ou encadrer le développement des modèles de pointe. 14

Pourquoi les ministres invoquent les pouvoirs cyber existants

L’alternative gouvernementale ne consiste pas simplement à laisser les entreprises s’autoréguler. Les ministres soutiennent que le projet de loi sur la cybersécurité et la résilience fournit déjà une base d’intervention lorsqu’un réseau ou système d’information compromis menace la sécurité nationale. Ces mesures pourraient notamment conduire une organisation à cesser d’utiliser et à isoler un modèle d’IA. 16

Le ministre de l’IA, Kanishka Narayan, a par ailleurs indiqué que le gouvernement envisagerait des règles contraignantes pour les modèles avancés si les protections volontaires avant mise sur le marché ne suffisaient plus à protéger le public. L’AI Security Institute britannique obtient actuellement, sur une base volontaire, un accès préalable au déploiement à des modèles d’entreprises telles qu’OpenAI, Anthropic et Google. 17

Le désaccord se résume ainsi :

• Pour le gouvernement, des pouvoirs cyber ciblés, la responsabilité des développeurs, l’accès volontaire aux modèles et la coopération internationale sont plus opérationnels qu’un interrupteur limité au Royaume-Uni.
• Pour les critiques, l’accès volontaire et les pouvoirs cyber généraux ne remplacent pas une autorité légale permettant d’exiger des tests, d’imposer des restrictions ou d’arrêter un déploiement lorsque le risque devient inacceptable.

Ce que propose le projet de loi d’Alex Sobel

Une initiative distincte, portée par le député travailliste Alex Sobel, va bien au-delà d’un pouvoir d’arrêt en urgence. Son projet de loi sur la sécurité de l’IA (AI Security Bill) chercherait à interdire le développement, le déploiement et l’exploitation d’une superintelligence artificielle, en particulier lorsqu’elle ne peut pas être contrôlée par des humains. 23

La logique est préventive plutôt que réactive. Au lieu de dépendre uniquement d’une interruption après la mise en service d’un système dangereux, le texte donnerait à l’État un rôle de surveillance et de contrôle tout au long de la chaîne d’approvisionnement de l’IA, y compris au niveau des puces informatiques. 7

Le projet reconnaît aussi le caractère international du problème. Il imposerait au gouvernement de rechercher un accord international visant à empêcher le développement d’une superintelligence incontrôlée, alors que les capacités de calcul, l’entraînement des modèles et leur déploiement sont répartis entre plusieurs juridictions. 3

Pourquoi son adoption paraît difficile

Le texte de M. Sobel est une proposition de loi d’initiative parlementaire. Au Royaume-Uni, ce type de texte a généralement besoin de l’appui du gouvernement pour aboutir. L’opposition de l’exécutif à la proposition apparentée de « bouton d’arrêt » suggère donc peu d’appétit, à court terme, pour ce niveau d’intervention. 21

Plus largement, le Royaume-Uni s’appuie encore largement sur le droit existant, les régulateurs sectoriels et des accords volontaires avec les entreprises développant les modèles de pointe, plutôt que sur une loi unique consacrée à l’IA et dotée de vastes pouvoirs d’exécution avant déploiement. Kanishka Narayan n’exclut pas un renforcement réglementaire, mais seulement si l’approche volontaire actuelle se révèle insuffisante. 17

La question politique devient donc la suivante : combien de preuves d’échec faut-il attendre avant de créer des pouvoirs obligatoires ? Les défenseurs de garde-fous inscrits dans la loi estiment qu’attendre une défaillance manifeste peut être risqué face à un événement potentiellement rapide et à très fort impact.

Un débat ravivé par les risques liés aux modèles avancés

La proposition de « bouton d’arrêt » a émergé dans un contexte de signalements d’incidents de sécurité liés à l’IA et de préoccupations sur le contournement de garde-fous ou l’usage de modèles à des fins de cyberactivité malveillante. Ces éléments ont rendu le risque de perte de contrôle plus concret pour une partie des parlementaires et des défenseurs de la sûreté de l’IA. 12

Le débat est aussi nourri par une différence d’approche réglementaire. L’Union européenne a adopté l’AI Act, tandis que le Royaume-Uni privilégie un modèle plus léger, piloté par les régulateurs de chaque secteur et complété par des tests volontaires avant déploiement pour les systèmes de pointe. 17

Aucune de ces approches ne résout seule le problème de la coordination internationale. Un système très performant peut être entraîné, hébergé, copié ou déployé dans plusieurs pays. Mais le désaccord sur le « bouton d’arrêt » révèle une question plus immédiate : le Royaume-Uni doit-il créer des pouvoirs juridiques explicites pour intervenir avant que la coopération volontaire ou les autorités cyber existantes ne soient mises à l’épreuve par une crise ?

Le vrai choix : prévenir, intervenir, coopérer

Le débat ne se réduit donc pas à l’existence d’un bouton à presser. Il concerne l’ordre et l’étendue des contrôles :

1. Prévenir : superviser les capacités de calcul, les puces, l’entraînement, les tests et le déploiement avant la diffusion d’un système.
2. Intervenir : disposer de pouvoirs clairs pour isoler ou arrêter les systèmes présentant un risque aigu pour la sécurité.
3. Coopérer à l’international : conclure des accords limitant le contournement des règles par changement de juridiction et rendant les protections nationales plus efficaces.

Le gouvernement britannique a rejeté un « bouton d’arrêt » national autonome parce qu’il le juge insuffisant face à une menace mondiale. Ses critiques admettent cette limite, mais en tirent la conclusion inverse : le Royaume-Uni devrait associer des pouvoirs nationaux inscrits dans la loi à la coopération internationale, au lieu de considérer que l’un peut remplacer l’autre. 1316