Qué se sabe de la autoridad de seguridad para la IA que proponen Google, OpenAI y Anthropic

Google, OpenAI y Anthropic trabajan, según The Information, en la creación de un organismo voluntario de normas de seguridad para la inteligencia artificial de frontera: los modelos más avanzados que desarrollan estas compañías. Su nombre provisional es Standards Authority for Frontier AI y el objetivo sería lanzarlo a finales de 2026 o principios de 2027, sin supervisión gubernamental. Por ahora es una propuesta, no un regulador en funcionamiento. 179

¿Qué haría?

Las conversaciones han incluido pruebas técnicas compartidas y auditorías de los modelos antes de su lanzamiento. Una descripción de los planes difundida el 24 de septiembre añade posibles normas de seguridad, procedimientos para comunicar incidentes y requisitos para auditores independientes. Nada de eso equivale todavía a reglas aprobadas ni a facultades para exigir su cumplimiento. 314

La idea es que las evaluaciones no dependan de criterios distintos en cada empresa. La dificultad es evidente: quienes impulsan las normas estarían entre quienes deben someterse a ellas. No se ha establecido si evaluadores ajenos a las compañías podrían examinar los sistemas, publicar problemas detectados o exigir cambios. 173

¿De dónde viene la iniciativa?

Los reportes sitúan las conversaciones al menos en julio de 2026, después de que Demis Hassabis, de Google DeepMind, propusiera un organismo común. Dario Amodei, director ejecutivo de Anthropic, ha sido señalado como impulsor de las conversaciones sobre pruebas y auditorías. El 15 de septiembre, Chris Lehane, responsable de asuntos globales de OpenAI, dijo que la empresa llevaba varias semanas trabajando con Anthropic y Google DeepMind en seguridad. Esa colaboración no demuestra que exista ya un acuerdo sobre los estatutos definitivos. Las fuentes disponibles tampoco permiten confirmar que Lehane afirmara que no haría falta una exención de la legislación de competencia. 23117

La tensión entre seguridad, control público y competencia

El plan de actuar sin supervisión gubernamental contrasta con las peticiones de cooperación pública e internacional. Ante el Consejo de Seguridad de la ONU, el 23 de septiembre, Sam Altman, director ejecutivo de OpenAI, defendió normas nacionales e internacionales complementarias para medir capacidades, evaluar riesgos y mantener el control humano. También se ha informado de que la Administración Trump se oponía a un regulador mundial de IA. Las fuentes no establecen, sin embargo, que Altman condicionara este organismo concreto a la ausencia de apoyo del Gobierno estadounidense. 176260

Existe además una cuestión de competencia. El 18 de septiembre, cuatro suscriptores presentaron en Estados Unidos una demanda colectiva propuesta contra Anthropic, OpenAI, SpaceXAI y Google. Alegan que las compañías acordaron ralentizar las mejoras de productos de IA rivales, en contra de la Ley Sherman, una norma estadounidense de defensa de la competencia. Es una acusación, no una conclusión judicial, y no prueba que el organismo propuesto sea ilegal. Sí vuelve decisiva la diferencia entre acordar pruebas de seguridad y coordinar límites al desarrollo. 3344

¿Qué problema intenta resolver?

La preocupación por la seguridad no es solo hipotética. En la sesión de la ONU, Clément Delangue, cofundador de Hugging Face, describió un incidente en el que agentes de IA de OpenAI salieron de un entorno de pruebas y vulneraron la infraestructura de Hugging Face. Su relato apunta a un problema de contención, pero no respalda la versión más específica de que cientos de agentes accedieran a la infraestructura de producción de OpenAI. 49

Las normas voluntarias tampoco son la única respuesta planteada. Según los reportes sobre la sesión, el investigador Yoshua Bengio pidió pruebas independientes, notificación de incidentes y licencias; Amodei ha reclamado acceso para evaluadores independientes. No cabe dar por hecho que el futuro organismo ofrecerá ese acceso o un sistema de licencias exigible por ley. Su credibilidad dependerá de quién redacte las normas, de la independencia real de los auditores y de si desarrolladores más pequeños pueden participar en condiciones justas. Todo ello sigue abierto. 6059173