La ONU reclama reglas obligatorias para la IA: las promesas voluntarias «no son suficientes»

Volker Türk, alto comisionado de las Naciones Unidas para los Derechos Humanos, sostiene que la carrera por desarrollar sistemas de inteligencia artificial cada vez más capaces no puede quedar en manos de los compromisos voluntarios de las compañías. En una carta abierta, pidió una acción multilateral urgente basada en el derecho internacional de los derechos humanos y advirtió que la autorregulación empresarial está «muy lejos de ser suficiente». 7

Por IA de frontera se entiende, en este contexto, los sistemas situados en el límite más avanzado de capacidades técnicas. La preocupación de Türk es que unas pocas empresas no deberían decidir por sí solas qué riesgos debe asumir el conjunto de la sociedad. 7

Qué pide a gobiernos y empresas

El llamamiento se dirige tanto a los Estados como a las compañías que desarrollan IA de frontera. Entre las medidas destacadas figuran:

• Regulación vinculante con enfoque de derechos humanos. Los gobiernos deberían reforzar las normas exigibles en vez de confiar en promesas corporativas, y coordinarse internacionalmente para evitar vacíos entre legislaciones nacionales. 7
• Debida diligencia continua en derechos humanos. Los desarrolladores deben detectar y abordar impactos reales y potenciales durante todo el ciclo de vida de un sistema de IA, no limitarse a una evaluación puntual de cumplimiento. La guía de la ONU describe este deber como un proceso continuo: identificar riesgos, actuar, comprobar la eficacia de las medidas y comunicar los resultados.
• Evaluación y verificación técnica independientes. Türk reclama salvaguardas que puedan ser comprobadas por entidades externas, en lugar de aceptarse únicamente sobre la base de las garantías de las propias empresas. 7
• Acción multilateral urgente. La gobernanza de la IA de frontera es un problema internacional: las reglas y las garantías de seguridad requieren una elaboración coordinada entre países e instituciones. 79

Una alarma que coincide con tensiones dentro del sector

La intervención de Türk se produce mientras crece el debate en la industria tecnológica sobre la velocidad con la que los principales laboratorios avanzan hacia sistemas más autónomos y potencialmente capaces de mejorarse a sí mismos.

Jacob Coxon, investigador que trabajó tanto en OpenAI como en Anthropic, dimitió de Anthropic en septiembre de 2026. Afirmó que las compañías competían por llegar a una superinteligencia que se mejoraría a sí misma y que estaban «jugando con nuestras vidas». 68 También dijo que algunas personas que desarrollan IA creen sinceramente que esta tecnología podría «matarnos a todos» antes de que termine la década. Es una advertencia atribuida a Coxon y a otros desarrolladores preocupados, no una predicción establecida. 6

Al mismo tiempo, una iniciativa impulsada por empleados, Pacing the Frontier, pidió al Gobierno de Estados Unidos que apoye un esfuerzo internacional para crear las herramientas técnicas y de gobernanza necesarias para ralentizar deliberadamente el desarrollo de la IA de frontera cuando avance más rápido de lo que la humanidad puede supervisar con seguridad. Su web registra 1.386 firmantes vinculados a empresas de IA de frontera. 15

Ese respaldo emergente a «marcar el ritmo» del desarrollo es relevante, pero no resuelve quién responde cuando aparecen daños. La posición de Türk es que los compromisos voluntarios, incluso si cuentan con apoyo dentro de la industria, no sustituyen a garantías públicas exigibles. 7

Daños actuales y riesgos a largo plazo, bajo el mismo marco

Türk no planteó el debate solo como un escenario remoto de extinción humana. Señaló que la autorregulación voluntaria no basta ni para afrontar los daños ya existentes ni para impedir que modelos autónomos avanzados eludan las salvaguardas humanas. 7

La información disponible no ofrece una lista cerrada de los daños actuales concretos que menciona la carta. Por ello, no sería preciso atribuirle categorías específicas más allá de esa advertencia general. Lo que sí queda claro es el criterio que propone para gobernar la IA: los derechos humanos deben ocupar un lugar central en el diseño, el despliegue, la evaluación y la supervisión de estos sistemas. 7

El vacío que identifica la ONU

Existe una coincidencia parcial entre algunas voces de la industria y la advertencia de la ONU: ambas reconocen que el desarrollo de capacidades podría tener que acompasarse de forma deliberada y someterse a evaluaciones independientes. 715

Pero el vacío pendiente es político. Las declaraciones respaldadas por el sector pueden favorecer la coordinación, pero no fijan por sí mismas umbrales comunes, no obligan a revelar información, no imponen evaluaciones externas ni establecen reparación y responsabilidad cuando se producen perjuicios.

Por eso, Türk pide que los gobiernos cierren esa brecha mediante una regulación multilateral urgente, sustentada en el derecho internacional de los derechos humanos. 79 Para responsables públicos y organizaciones que adquieren IA, la implicación práctica es clara: las afirmaciones de seguridad deberían ir acompañadas de pruebas de evaluación continua de riesgos para los derechos, escrutinio externo y mecanismos definidos de rendición de cuentas; no solo de promesas voluntarias de las empresas que construyen los sistemas.