El informe se presentará formalmente a los gobiernos en el Diálogo Global Inaugural sobre Gobernanza de la IA en Ginebra los días 6 y 7 de julio de 2026 .

Cinco riesgos críticos identificados

El análisis del panel se centra en varios riesgos específicos y basados en evidencia de la IA de uso general:

Daño catastrófico. El panel advierte que "no hay garantía" de que los sistemas de IA cada vez más capaces no causen daños catastróficos si no se controlan . Los avances en las capacidades científicas de la IA han aumentado las preocupaciones sobre su uso indebido, particularmente en el desarrollo de armas biológicas. Varias empresas de IA optaron por lanzar nuevos modelos en 2025 con salvaguardas adicionales después de que las pruebas previas al despliegue no pudieran descartar la posibilidad de que pudieran ayudar significativamente a personas sin experiencia a desarrollar tales armas .

Comportamiento engañoso de la IA. El Consejo Asesor Científico de la ONU define el engaño de la IA como un sistema que engaña a las personas u otros sistemas sobre lo que sabe, pretende o puede hacer, distinto de los errores comunes o las alucinaciones . Ya se ha encontrado evidencia de tal comportamiento en sistemas de IA ampliamente utilizados, y se espera que el riesgo crezca a medida que la IA se vuelva más capaz, autónoma e integrada en la toma de decisiones cotidiana .

Erosión de la integridad informativa. El informe señala la fabricación y manipulación de audio y video habilitada por la IA como una amenaza directa a la integridad de la información, alimentando la polarización y socavando la confianza en el discurso público .

Daños a la salud mental y el bienestar. Varios daños de la IA de uso general ya están bien establecidos. Estos incluyen estafas, imágenes íntimas no consentidas (NCII) y material de abuso sexual infantil (CSAM), todos los cuales dañan directamente la salud mental .

Riesgos de ciberseguridad y fraude. Los enfoques estandarizados siguen siendo limitados para evaluar las amenazas de ciberseguridad y la prevención del fraude relacionadas con la IA, lo que deja una brecha crítica en las capacidades defensivas .

La brecha de gobernanza global

El informe subraya un problema estructural fundamental: la IA avanza más rápido que la ciencia y la regulación, y actualmente no existen funciones institucionalizadas internacionales autorizadas para evaluar de forma independiente los riesgos de la IA . La mayoría de los países carecen de la capacidad para evaluar modelos avanzados de IA, lo que amplía la brecha entre un puñado de estados y empresas con capacidades de IA y el resto del mundo .

Esta brecha no es hipotética. El informe señala que los responsables políticos se enfrentan a un dilema creciente: necesitan evidencia científica para gobernar la IA, pero sus capacidades están superando a la propia ciencia .

Cómo funciona el panel: un 'IPCC para la IA'

El panel está explícitamente modelado según el Panel Intergubernamental sobre Cambio Climático (IPCC) y la Plataforma Intergubernamental Científico-Normativa sobre Diversidad Biológica y Servicios de los Ecosistemas (IPBES) . Este modelo ciencia-política significa que los gobiernos ayudan a definir las preguntas que examina el panel, pero los científicos retienen la responsabilidad total de evaluar la evidencia, redactar informes y preservar la integridad de las conclusiones científicas .

Detalles estructurales clave:

• Mandato: El panel tiene el mandato de producir un informe científico anual basado en evidencia sobre las oportunidades, riesgos e impactos de la IA. También puede preparar informes temáticos sobre temas de interés .
• Limitación: El panel evalúa y sintetiza la ciencia, pero no establece reglas, crea regulaciones vinculantes ni hace cumplir políticas .
• Composición: 40 científicos y expertos líderes de diversos orígenes, que actúan a título personal .
• Trabajo inaugural: El panel celebró su primera cumbre presencial y comenzó a trabajar en el primer informe antes de la fecha límite de julio de 2026 .

Qué hará el Diálogo Global sobre Gobernanza de la IA

El primer informe anual se presentará formalmente en el Diálogo Global inaugural sobre Gobernanza de la IA en Ginebra, los días 6 y 7 de julio de 2026 . El Diálogo Global se estableció junto con el panel mediante la resolución A/RES/79/325 de la Asamblea General de la ONU como una plataforma que involucra a los gobiernos y todas las partes interesadas relevantes para discutir la gobernanza de la IA . Su mandato incluye cerrar las brechas en la IA, el desarrollo de capacidades y pasar de políticas fragmentadas a marcos internacionales más coherentes .

Por qué esto es importante

El informe es deliberadamente no prescriptivo: no recomienda políticas o regulaciones específicas . Su poder radica en establecer una base de evidencia creíble, independiente y aceptada internacionalmente que los gobiernos, reguladores y el público pueden usar para tomar decisiones informadas sobre el riesgo de la IA . Como declaró el Secretario General de la ONU, António Guterres, el mundo necesita urgentemente "una comprensión global y compartida de la inteligencia artificial; basada no en la ideología, sino en la ciencia; no en noticias falsas, sino en el conocimiento" .

El informe se presentará formalmente a los gobiernos en el Diálogo Global Inaugural sobre Gobernanza de la IA en Ginebra los días 6 y 7 de julio de 2026 .

Cinco riesgos críticos identificados

El análisis del panel se centra en varios riesgos específicos y basados en evidencia de la IA de uso general:

Daño catastrófico. El panel advierte que "no hay garantía" de que los sistemas de IA cada vez más capaces no causen daños catastróficos si no se controlan . Los avances en las capacidades científicas de la IA han aumentado las preocupaciones sobre su uso indebido, particularmente en el desarrollo de armas biológicas. Varias empresas de IA optaron por lanzar nuevos modelos en 2025 con salvaguardas adicionales después de que las pruebas previas al despliegue no pudieran descartar la posibilidad de que pudieran ayudar significativamente a personas sin experiencia a desarrollar tales armas .

Comportamiento engañoso de la IA. El Consejo Asesor Científico de la ONU define el engaño de la IA como un sistema que engaña a las personas u otros sistemas sobre lo que sabe, pretende o puede hacer, distinto de los errores comunes o las alucinaciones . Ya se ha encontrado evidencia de tal comportamiento en sistemas de IA ampliamente utilizados, y se espera que el riesgo crezca a medida que la IA se vuelva más capaz, autónoma e integrada en la toma de decisiones cotidiana .

Erosión de la integridad informativa. El informe señala la fabricación y manipulación de audio y video habilitada por la IA como una amenaza directa a la integridad de la información, alimentando la polarización y socavando la confianza en el discurso público .

Daños a la salud mental y el bienestar. Varios daños de la IA de uso general ya están bien establecidos. Estos incluyen estafas, imágenes íntimas no consentidas (NCII) y material de abuso sexual infantil (CSAM), todos los cuales dañan directamente la salud mental .

Riesgos de ciberseguridad y fraude. Los enfoques estandarizados siguen siendo limitados para evaluar las amenazas de ciberseguridad y la prevención del fraude relacionadas con la IA, lo que deja una brecha crítica en las capacidades defensivas .

La brecha de gobernanza global

El informe subraya un problema estructural fundamental: la IA avanza más rápido que la ciencia y la regulación, y actualmente no existen funciones institucionalizadas internacionales autorizadas para evaluar de forma independiente los riesgos de la IA . La mayoría de los países carecen de la capacidad para evaluar modelos avanzados de IA, lo que amplía la brecha entre un puñado de estados y empresas con capacidades de IA y el resto del mundo .

Esta brecha no es hipotética. El informe señala que los responsables políticos se enfrentan a un dilema creciente: necesitan evidencia científica para gobernar la IA, pero sus capacidades están superando a la propia ciencia .

Cómo funciona el panel: un 'IPCC para la IA'

El panel está explícitamente modelado según el Panel Intergubernamental sobre Cambio Climático (IPCC) y la Plataforma Intergubernamental Científico-Normativa sobre Diversidad Biológica y Servicios de los Ecosistemas (IPBES) . Este modelo ciencia-política significa que los gobiernos ayudan a definir las preguntas que examina el panel, pero los científicos retienen la responsabilidad total de evaluar la evidencia, redactar informes y preservar la integridad de las conclusiones científicas .

Detalles estructurales clave:

• Mandato: El panel tiene el mandato de producir un informe científico anual basado en evidencia sobre las oportunidades, riesgos e impactos de la IA. También puede preparar informes temáticos sobre temas de interés .
• Limitación: El panel evalúa y sintetiza la ciencia, pero no establece reglas, crea regulaciones vinculantes ni hace cumplir políticas .
• Composición: 40 científicos y expertos líderes de diversos orígenes, que actúan a título personal .
• Trabajo inaugural: El panel celebró su primera cumbre presencial y comenzó a trabajar en el primer informe antes de la fecha límite de julio de 2026 .

Qué hará el Diálogo Global sobre Gobernanza de la IA

El primer informe anual se presentará formalmente en el Diálogo Global inaugural sobre Gobernanza de la IA en Ginebra, los días 6 y 7 de julio de 2026 . El Diálogo Global se estableció junto con el panel mediante la resolución A/RES/79/325 de la Asamblea General de la ONU como una plataforma que involucra a los gobiernos y todas las partes interesadas relevantes para discutir la gobernanza de la IA . Su mandato incluye cerrar las brechas en la IA, el desarrollo de capacidades y pasar de políticas fragmentadas a marcos internacionales más coherentes .

Por qué esto es importante

El informe es deliberadamente no prescriptivo: no recomienda políticas o regulaciones específicas . Su poder radica en establecer una base de evidencia creíble, independiente y aceptada internacionalmente que los gobiernos, reguladores y el público pueden usar para tomar decisiones informadas sobre el riesgo de la IA . Como declaró el Secretario General de la ONU, António Guterres, el mundo necesita urgentemente "una comprensión global y compartida de la inteligencia artificial; basada no en la ideología, sino en la ciencia; no en noticias falsas, sino en el conocimiento" .