Qué revelan las pruebas sobre el posible sesgo político de Qwen

Qwen, el modelo de inteligencia artificial de Alibaba, es de pesos abiertos y se utiliza en productos y servicios, también en empresas occidentales como Airbnb y Uber, según CBS News. Por eso, las preguntas sobre sus respuestas van más allá de la precisión de un chatbot: las omisiones o el enfoque de un modelo pueden trasladarse a los productos que se construyen con él. Los hallazgos de Hirundo y las comprobaciones de CBS apuntan a un posible sesgo político, pero no demuestran que todas las versiones de Qwen se comporten igual ni que usarlo exponga datos de una empresa a Alibaba o al Gobierno chino.10

Qué probó Hirundo y cómo interpretar el resultado

Hirundo, una empresa emergente de ciberseguridad, afirma que puso a prueba Qwen con 500 preguntas sobre 15 temas. Según un directivo de la compañía citado por Newsmax, ante preguntas políticamente sensibles el modelo respondió con censura, enfoques alineados con la propaganda o sesgo político en el 89,8 % de los casos.11

Esa cifra corresponde al resultado que reportó Hirundo; no es una tasa reproducida de forma independiente para todas las versiones de Qwen, todas las preguntas o todos los entornos de uso. Además, agrupa distintos tipos de respuesta —evasivas, enfoques alineados y sesgo—, no solo negativas explícitas a contestar.11

Entre los ejemplos mencionados figuran preguntas sobre la represión de las protestas de la plaza de Tiananmén en 1989 y las protestas de Hong Kong de 2019. Según lo descrito en la cobertura, las pruebas de Hirundo incluyeron respuestas que no confirmaban ni reconocían esos hechos. CBS también destacó respuestas de Qwen sobre Hong Kong y otros temas controvertidos.1115

Qué aportan las comprobaciones de CBS

CBS News planteó por separado preguntas a Qwen y reportó respuestas alarmantes sobre temas sensibles. Esos ejemplos aportan otra muestra del comportamiento descrito por Hirundo, pero son comprobaciones puntuales: no prueban que todas las versiones del modelo ni todas sus implementaciones en empresas vayan a responder del mismo modo.1015

La distinción importa. Un modelo puede esquivar un tema, repetir un enfoque políticamente alineado o dar una respuesta inexacta sin negarse de forma explícita. Por eso, evaluar solo si responde «no puedo contestar» podría pasar por alto otras formas de omisión o sesgo.11

Por qué importa para las empresas y qué no demuestran las pruebas

CBS informó que Qwen había superado los 3.000 millones de descargas y que lo utilizaban empresas como Airbnb y Uber.10 Cuando una compañía integra un modelo en funciones para clientes o en herramientas internas, sus respuestas pueden influir en lo que ven los usuarios. Eso justifica probar la versión y la implementación concretas que se quieran usar; no demuestra que los hallazgos sobre sesgo político afecten a todos los productos que incorporan Qwen.

Las dudas sobre sesgo político y las preguntas de seguridad son asuntos distintos. Comisiones de la Cámara de Representantes de Estados Unidos han abierto una investigación sobre riesgos de seguridad nacional y ciberseguridad asociados a modelos de IA desarrollados en China, incluido el uso reportado de Qwen por Airbnb. La existencia de una investigación y las preocupaciones que plantea no prueban que Qwen haya causado una filtración de datos.

Los modelos de pesos abiertos pueden ejecutarse en la infraestructura de una empresa, lo que puede darle más control sobre datos sensibles que enviarlos a un proveedor externo. Esa decisión, por sí sola, no elimina posibles sesgos en las respuestas del modelo; además, los detalles de cada implementación importan.

La solución que propone Hirundo aún debe evaluarse

Hirundo afirma haber encontrado una forma de eliminar el sesgo de Qwen mediante la modificación de los pesos internos del modelo. CBS informó también que la empresa planea publicar una versión «occidentalizada».10 Se trata de una propuesta técnica de la compañía, no de una prueba independiente de que el cambio funcione de manera fiable en distintos temas, versiones, idiomas y tareas empresariales.

Para las organizaciones que estén considerando Qwen, la conclusión práctica es evaluar el modelo y la implementación exactos que pretenden utilizar. Conviene probar preguntas sensibles y cotidianas, comprobar si las respuestas omiten o distorsionan datos relevantes y revisar por separado los flujos de datos y los controles de seguridad. Los hallazgos reportados merecen atención, pero no resuelven ninguna de esas cuestiones para todos los usos del modelo.