La advertencia de Chen Yixin sobre los riesgos de la inteligencia artificial para China

Chen Yixin, ministro de Seguridad del Estado de China, advirtió que el rápido avance y el uso abusivo de la inteligencia artificial podrían amenazar directamente la seguridad política, institucional e ideológica de China, además de sus infraestructuras críticas y su autonomía tecnológica. 57

En un artículo publicado en la revista oficial China Cyberspace, Chen describió seis riesgos asociados a la IA. Según su planteamiento, actores hostiles podrían utilizar audios y videos deepfake, textos e imágenes generados por IA y redes de cuentas automatizadas para fabricar rumores políticos a gran escala, difundir contenido dañino, exacerbar tensiones sociales y librar operaciones de influencia o «guerra de opinión pública». 57

También alertó de que la IA reduce el coste y la barrera técnica para realizar intrusiones informáticas y desarrollar malware. A su juicio, esto puede facilitar la recopilación de inteligencia y la filtración masiva de secretos de Estado, datos comerciales sensibles e información personal, así como poner en peligro la infraestructura crítica de información y la gobernanza social. 31113

Seguridad de la IA y soberanía tecnológica

Para Chen, la cuestión no se limita al mal uso de herramientas concretas. Presentó la competencia internacional por la IA como una disputa estratégica en la que los países líderes pueden invocar motivos de seguridad nacional para imponer controles tecnológicos, influir o monopolizar estándares y consolidar ecosistemas cerrados. Desde esa óptica, la seguridad de la IA está ligada a la dependencia tecnológica, el control de las cadenas de suministro, la contención tecnológica y la posible injerencia extranjera. 57

Reuters informó además de que Chen citó los riesgos que, según él, pueden plantear modelos estadounidenses avanzados para la infraestructura crítica de información de China y pidió reforzar de forma integral la seguridad de la IA. 3

Un enfoque distinto al de Silicon Valley

La advertencia de Chen coincidió con el llamamiento de Dario Amodei, consejero delegado de Anthropic, a moderar el ritmo de mejora de las capacidades de los modelos de frontera. Amodei no propuso detener el desarrollo, sino dar tiempo a que los sistemas de alineamiento, las protecciones de seguridad y las evaluaciones externas alcancen el nivel de las capacidades de la IA. Su plan contempla evaluadores independientes con acceso similar al de empleados dentro de los laboratorios, compromisos comunes de seguridad y cooperación internacional. 122

Sam Altman, director ejecutivo de OpenAI, afirmó que su empresa adoptaría la idea de evaluadores independientes con acceso de nivel empleado, mientras que Elon Musk expresó públicamente su acuerdo con la necesidad de acompasar el avance de la IA. 101

La diferencia principal está en el foco. Pekín pone el acento en la estabilidad política, la autoridad del Partido Comunista, el control ideológico, la soberanía de los datos y la protección frente a la coerción tecnológica extranjera. El enfoque de seguridad de los laboratorios de IA de Silicon Valley se concentra más en el riesgo de sistemas demasiado capaces o insuficientemente controlados, capaces de habilitar ciberataques graves, usos científicos peligrosos o acciones autónomas dañinas. 5712

Ambas visiones coinciden en que la IA puede facilitar la desinformación, el espionaje, los ciberataques y los usos militares. Sin embargo, discrepan sobre quién debe fijar los estándares, si las reglas de seguridad pueden convertirse en restricciones tecnológicas estratégicas y cuánta supervisión externa es compatible con la soberanía y la seguridad nacional.

Relevancia para el diálogo entre Estados Unidos y China

Está previsto que Estados Unidos y China mantengan a mediados de septiembre su primer diálogo bilateral del segundo mandato de Donald Trump dedicado específicamente a la seguridad de la IA. 4 La intervención de Chen sugiere que Pekín buscará abordar la injerencia extranjera, la seguridad de los datos y las infraestructuras, la participación en la definición de estándares y la oposición a la contención tecnológica, además de los riesgos de los modelos de frontera.

Por ello, los acuerdos sobre daños específicos —como fraudes con contenido sintético, ciberataques habilitados por IA, comunicación de incidentes o riesgos militares— podrían resultar más viables que un consenso amplio sobre límites de capacidad o evaluaciones universales de modelos.