Altman y Amodei llevan el debate sobre la IA al Consejo de Seguridad de la ONU

La comparecencia ante el Consejo de Seguridad previsiblemente presentará la IA avanzada como un asunto de seguridad internacional: el posible uso por actores maliciosos, la eventual pérdida de control efectivo sobre sistemas cada vez más capaces y la necesidad de normas de seguridad compartidas y salvaguardas transfronterizas. Sin embargo, las intervenciones exactas de los ponentes no se habían hecho públicas antes de la reunión. Francia convocó la sesión del 23 de septiembre dentro de la agenda de «mantenimiento de la paz y la seguridad internacionales». 10

Qué podrían plantear los cuatro participantes

Sam Altman, consejero delegado de OpenAI; Dario Amodei, consejero delegado de Anthropic; Yoshua Bengio; y Clément Delangue, consejero delegado de Hugging Face, previsiblemente defenderán una coordinación internacional que no deje la seguridad de los modelos de frontera únicamente en manos de empresas o gobiernos aislados.

Ese planteamiento apunta a evaluaciones de riesgos comunes, intercambio de información sobre capacidades peligrosas e incidentes, pruebas independientes y medidas contra la militarización u otros usos maliciosos. El objetivo declarado de la reunión incluye los riesgos de la IA para la seguridad internacional. 10

Cooperar para evaluar, no para decidir quién avanza más rápido

OpenAI y Anthropic ya informaron de un ejercicio conjunto en el que cada organización aplicó sus evaluaciones internas de seguridad y de desalineamiento a los modelos públicos de la otra, y después difundieron los resultados. Es una forma limitada de escrutinio recíproco diseñada para localizar fallos o puntos ciegos que un laboratorio podría no detectar en su propio sistema. 15

Pero la colaboración entre rivales tiene límites delicados. Las empresas deben compartir acceso e información suficientes para que las pruebas sean útiles, sin intercambiar datos que permitan coordinar hojas de ruta de productos, calendarios de lanzamiento, precios o el ritmo del progreso técnico.

La tensión con las normas de competencia

Una propuesta de demanda colectiva de consumidores acusa a Anthropic, OpenAI, SpaceXAI y Google de haber acordado ilegalmente ralentizar el desarrollo de la IA. Es una alegación de los demandantes, no una conclusión judicial. 1

El caso ilustra el problema de fondo. Para quienes priorizan la seguridad, unos umbrales coordinados de lanzamiento o pausas podrían ser una medida prudente de gestión de riesgos. Para los demandantes, esa misma conducta puede describirse como una restricción de la oferta entre competidores dominantes.

Por ello, las evaluaciones cruzadas centradas en pruebas técnicas de seguridad, transparentes y delimitadas, resultan más fáciles de justificar que cualquier decisión colectiva sobre cuándo lanzar un modelo o a qué velocidad mejorar sus capacidades.

El contraste con la posición de Trump ante la ONU

La discusión promovida por Francia parte de que los riesgos de los modelos de frontera son un problema de acción colectiva que requiere salvaguardas internacionales. El discurso de Donald Trump ante la Asamblea General adoptó la postura política contraria: rechazó el control internacional de la IA, calificó de engaño las advertencias sobre seguridad, subrayó la ventaja estadounidense en la carrera tecnológica y afirmó que el Gobierno federal usaría el término «superinteligencia» en lugar de «inteligencia artificial». 3

Las informaciones sobre el anuncio también señalaron que el cambio de nombre se aplicaría a las comunicaciones oficiales del Gobierno de Estados Unidos. 2

En síntesis, la agenda liderada por Francia busca reglas compartidas para evitar que la competencia derive en una rebaja de los estándares de seguridad. El planteamiento de Trump presenta las restricciones como un riesgo para la competitividad tecnológica de Estados Unidos. La cuestión pendiente es cómo permitir una colaboración de seguridad limitada, verificable y auditable sin que se transforme, de facto, en coordinación entre empresas rivales.