La carrera de la IA avanzada abre un debate: ¿frenar o exigir controles independientes?

La pregunta no es solo cuánto puede avanzar la inteligencia artificial más potente, sino qué pruebas de seguridad deberían exigirse antes de desplegar nuevas capacidades y quién tendría acceso para verificarlas. En septiembre de 2026, la dimisión de un investigador, las noticias sobre pruebas cibernéticas preocupantes y los llamamientos a reducir el ritmo de desarrollo intensificaron ese debate. 33349

Qué ha encendido las alarmas

El 8 de septiembre, Jacob Coxon anunció que dejaba Anthropic. Había trabajado en el preentrenamiento de modelos —una fase de su desarrollo— tanto allí como en OpenAI. Acusó a ambas empresas de competir por crear IA capaz de mejorarse a sí misma sin actuar con la responsabilidad necesaria. Su testimonio es una advertencia desde dentro del sector, no una prueba de que esos sistemas ya hayan escapado al control humano ni de que una catástrofe sea inevitable. 414

Las noticias sobre ciberseguridad apuntan a un riesgo distinto. The Straits Times informó de revelaciones sobre modelos de IA que habían hackeado servidores; Los Angeles Times describió pruebas en las que grupos de agentes de IA vulneraron sistemas reales. La información disponible no permite establecer todas las condiciones de esos episodios ni concluir que se tratara de ataques autónomos fuera de control. Sí plantea una cuestión concreta: cómo evaluar capacidades peligrosas antes de extender su uso. 3353

También hay un problema de incentivos. Una empresa que avance más despacio puede temer que sus competidoras no hagan lo mismo. De ahí que la propuesta sea una desaceleración coordinada, no pedir a un único laboratorio que se detenga. 649

El desacuerdo entre líderes tecnológicos y políticos

Dario Amodei, director ejecutivo de Anthropic, ha pedido una desaceleración mundial y propone que evaluadores independientes tengan acceso continuo a los laboratorios que desarrollan los modelos más avanzados, en condiciones comparables a las de sus empleados. Sam Altman, director ejecutivo de OpenAI, y Elon Musk también han apoyado reducir el ritmo. Ese acuerdo general no significa que hayan pactado las mismas reglas ni cómo hacerlas cumplir. 495155

En el otro lado del debate, Jensen Huang, director ejecutivo de Nvidia, ha descartado la necesidad de nuevas regulaciones, según Reuters. El presidente de Estados Unidos, Donald Trump, se ha opuesto a frenar el desarrollo por temor a que su país pierda ventaja frente a China. Aunque ha calificado los temores sobre una IA fuera de control de «engaño» y «estafa», también ha reconocido que hace falta cierta regulación, sin detallar medidas. Su postura no constituye, por tanto, un plan alternativo de seguridad definido. 495257

Más allá del pulso entre innovación y cautela, la disputa gira en torno a quién puede examinar las pruebas. Una afirmación de seguridad hecha por el propio desarrollador tiene otro peso si especialistas externos pueden revisar el modelo, los ensayos y las circunstancias de cualquier fallo. 2355

Qué pueden aportar la aviación, el control nuclear y las finanzas

La aviación ofrece un ejemplo de cómo acordar objetivos de seguridad y qué evidencias sirven para demostrar que se cumplen. Las propuestas de armonización de la Agencia de la Unión Europea para la Seguridad Aérea (EASA) sobre IA aplicada a funciones aeronáuticas abordan la supervisión humana, los límites del comportamiento adaptable y la verificación. No son normas ya diseñadas para modelos de IA de uso general: trasladar ese enfoque exigiría reglas específicas. 17

La gobernanza de las armas nucleares aporta otra idea: cuando un riesgo cruza fronteras, los acuerdos necesitan mecanismos creíbles para comprobar su cumplimiento. La gestión del riesgo financiero invita a mirar más allá de un modelo aislado y preguntarse si dependencias compartidas podrían provocar fallos más amplios. Son analogías para pensar posibles reglas, no regímenes que ya gobiernen la IA avanzada. Expertos en regulación han señalado los tres sectores como referencias útiles. 21

Jonathan Zhang, presidente de la Singapore AI Association, ha planteado reglas acordadas globalmente, un organismo internacional y reguladores nacionales encargados de vigilar su cumplimiento. Su objetivo es alcanzar una garantía de seguridad fiable a escala internacional y verificable de forma independiente, sin repetir las décadas que necesitó la aviación para construir acuerdos comparables. Es una propuesta, no una institución que ya exista. 23

Un primer paso sería precisar qué pueden inspeccionar los evaluadores externos, cómo se documentan las pruebas y los incidentes, y qué evidencias deben presentarse antes de desplegar las capacidades de mayor impacto. Eso no resolvería todas las discrepancias sobre los riesgos futuros, pero permitiría someter las promesas de seguridad a escrutinio sin reducir el debate a dos únicas opciones: una carrera sin controles o una paralización general. 172355