Por qué Reino Unido rechazó un «botón de apagado» para la IA peligrosa

El rechazo del Gobierno del Reino Unido a un «botón de apagado» de emergencia para la inteligencia artificial no significa que descarte los riesgos de los modelos peligrosos. Su argumento central es territorial: una medida aplicable solo en Reino Unido sería incompleta. Desconectar el acceso a un modelo o un centro de datos dentro del país no impediría que sistemas parecidos se desarrollaran, alojaran o utilizaran indebidamente en otros lugares. 1

La postura ha intensificado el desacuerdo político. Los ministros sostienen que ya existen vías para intervenir ante incidentes graves de ciberseguridad y que podrían endurecer las reglas si las salvaguardas voluntarias dejan de ser suficientes. Quienes piden nuevas facultades replican que la planificación frente a riesgos catastróficos exige controles claros y obligatorios antes de que se produzca una emergencia. 1617

Qué habría permitido el «botón de apagado»

Lord Tim Clement-Jones propuso una enmienda al proyecto de Ley de Seguridad y Resiliencia Cibernética (Cyber Security and Resilience Bill). La medida habría creado un mecanismo legal de intervención de emergencia frente a IA peligrosa: como último recurso, permitiría desactivar un modelo de IA o paralizar operaciones de centros de datos en Reino Unido cuando un sistema generase una amenaza grave para la seguridad o para la operativa. 26

La propuesta puso el foco en una posible laguna normativa. Las reglas de ciberseguridad existentes se orientan principalmente a la protección de redes y sistemas de información. Sus críticos sostienen que no establecen con claridad un marco específico para supervisar a los desarrolladores de modelos de frontera —los más avanzados— ni para responder a los riesgos que origine un modelo autónomo por sí mismo. 15

El argumento del Gobierno: Reino Unido no puede «apagar la IA»

La objeción de la Oficina del Gabinete (Cabinet Office) se basa, sobre todo, en los límites de jurisdicción. En sus palabras, Reino Unido «no puede simplemente apagar la IA»: restringir el acceso dentro del país no impediría que un modelo muy capaz se construyera o explotara en otro Estado. 1

Esa es también la limitación práctica de una orden de cierre nacional. Podría afectar infraestructura bajo jurisdicción británica, pero no eliminar los pesos del modelo —los archivos que permiten reproducirlo—, detener servicios remotos alojados fuera del país ni impedir que actores extranjeros desarrollen capacidades equivalentes. Una facultad interna podría ayudar a contener un incidente local, pero no resolvería por sí sola un problema transnacional.

El exinvestigador de OpenAI Daniel Kokotajlo planteó una idea similar al ser consultado sobre la propuesta: un cierre unilateral sería insuficiente sin un acuerdo internacional. Consideró preferible tener estas herramientas a no tener ninguna, pero sostuvo que la diplomacia, especialmente la relación con Estados Unidos, sería más importante para ralentizar o gobernar el desarrollo de la IA de frontera. 14

Por qué los ministros invocan las facultades cibernéticas ya existentes

La alternativa gubernamental no consiste simplemente en esperar a que las empresas actúen por voluntad propia. Los ministros han argumentado que el proyecto de ley de ciberseguridad ya ofrece una base para intervenir cuando redes o sistemas de información comprometidos planteen un riesgo para la seguridad nacional. Entre las medidas posibles estaría exigir a una organización que deje de utilizar y aísle un modelo de IA. 16

El ministro de IA, Kanishka Narayan, también ha afirmado que el Gobierno consideraría normas vinculantes para modelos avanzados si las salvaguardas voluntarias previas al despliegue dejan de proteger al público. El Instituto de Seguridad de IA británico recibe actualmente acceso previo al lanzamiento a modelos de empresas como OpenAI, Anthropic y Google mediante acuerdos voluntarios. 17

De ahí surge el desacuerdo de fondo:

• La posición del Gobierno: las facultades cibernéticas específicas, la responsabilidad de los desarrolladores, el acceso voluntario a modelos y la cooperación internacional son más viables que un interruptor nacional.
• La posición de los críticos: el acceso voluntario y unas facultades generales de ciberseguridad no sustituyen a una autoridad legal para exigir pruebas, imponer restricciones o detener un despliegue cuando el riesgo sea inaceptable.

Qué plantea el proyecto de ley de Alex Sobel

Una iniciativa independiente del diputado laborista Alex Sobel va más allá de las facultades de apagado en emergencia. Según la información publicada sobre su proyecto de Ley de Seguridad de la IA, prohibiría el desarrollo, el despliegue y la operación de superinteligencia artificial, en particular cuando esos sistemas no puedan ser controlados por humanos. 23

Su enfoque es preventivo, no meramente reactivo. En vez de depender exclusivamente de una desconexión cuando un sistema peligroso ya está funcionando, la iniciativa otorgaría al Gobierno un papel de vigilancia y control sobre el proceso de desarrollo a lo largo de la cadena de suministro de IA, incluido el nivel de los chips. 7

También reconoce la dimensión internacional: exigiría al Gobierno buscar un acuerdo global para impedir una superinteligencia no controlada. El objetivo responde a que el cómputo, el entrenamiento de modelos y su despliegue se reparten entre distintas jurisdicciones. 3

Por qué tiene un camino difícil en el Parlamento

La propuesta de Sobel es una iniciativa parlamentaria individual (private member’s bill). Este tipo de proyectos suele necesitar respaldo del Gobierno para avanzar, y la resistencia oficial al mecanismo de apagado relacionado apunta a una escasa disposición a aprobar intervenciones de este alcance a corto plazo. 21

Además, Reino Unido sigue apoyándose en gran medida en la legislación vigente, los reguladores sectoriales y acuerdos voluntarios con desarrolladores de modelos de frontera, en vez de contar con una única ley de IA que otorgue amplios poderes obligatorios antes del despliegue. Narayan ha dejado abierta la puerta a una regulación más estricta, pero solo si el sistema voluntario actual resulta insuficiente. 17

La cuestión política, por tanto, es cuánta evidencia de un fallo se debería exigir antes de crear facultades vinculantes. Los defensores de salvaguardas legales sostienen que esperar a un fracaso evidente puede ser peligroso cuando preocupa un suceso rápido y de alto impacto.

Un debate regulatorio cada vez más intenso

La propuesta del botón de apagado surgió en un contexto de informes sobre incidentes de seguridad relacionados con IA y preocupaciones por modelos que eluden barreras de seguridad o son utilizados para actividades cibernéticas. Esos reportes han hecho más tangible para algunos legisladores y defensores de la seguridad el riesgo de pérdida de control. 12

También pesa el contraste regulatorio con la Unión Europea, que ha aprobado la Ley de IA (AI Act). Reino Unido, en cambio, ha preferido un enfoque más ligero y liderado por reguladores sectoriales, complementado por pruebas voluntarias previas al lanzamiento de sistemas de frontera. 17

Ninguno de los dos enfoques resuelve por sí solo el problema de la coordinación internacional. Un sistema muy capaz puede entrenarse, alojarse, copiarse o desplegarse a través de fronteras. Pero la disputa sobre el botón de apagado revela una cuestión más inmediata: si Reino Unido debería contar con facultades legales explícitas para intervenir antes de que la cooperación voluntaria o las atribuciones cibernéticas existentes sean puestas a prueba en una crisis.

La elección de fondo

El debate no trata simplemente de si el Estado debe tener un botón que pulsar. Trata del orden y el alcance de los controles:

1. Prevención: supervisar el cómputo, los chips, el entrenamiento, las pruebas y el despliegue antes de que un sistema se publique.
2. Intervención: disponer de facultades claras para aislar o detener sistemas que generen un riesgo agudo para la seguridad.
3. Coordinación internacional: alcanzar acuerdos que reduzcan el arbitraje regulatorio y hagan más eficaces las salvaguardas nacionales.

El Gobierno británico rechazó un botón de apagado nacional independiente porque lo considera insuficiente ante una amenaza global. Sus críticos aceptan esa limitación, pero extraen la conclusión contraria: Reino Unido debería combinar facultades legales internas con cooperación internacional, no tratar una de ellas como sustituto de la otra. 1316