Testes apontam possíveis vieses políticos no Qwen, mas não valem para toda versão

O Qwen, da Alibaba, é um modelo de IA com pesos abertos — que podem ser baixados e executados por organizações em sua própria infraestrutura. Segundo a CBS News, ele foi baixado mais de 3 bilhões de vezes e é usado por empresas como Airbnb e Uber.10 Isso torna relevante investigar não só a precisão das respostas, mas também o que o modelo omite ou como apresenta temas delicados. Ainda assim, os testes divulgados não mostram que todas as versões do Qwen se comportem igual nem que seu uso exponha automaticamente dados de uma empresa à Alibaba ou ao governo chinês.10

O que a Hirundo testou

A Hirundo, uma startup de cibersegurança, afirma ter avaliado o Qwen com 500 prompts distribuídos por 15 temas. Em perguntas politicamente sensíveis, a empresa diz ter encontrado censura, enquadramento alinhado à propaganda ou viés político em 89,8% dos casos, segundo o relato de um executivo da Hirundo publicado pela Newsmax.11

Esse número é um resultado divulgado pela própria empresa: não é uma taxa reproduzida de forma independente para todas as versões do Qwen, tipos de pergunta ou formas de uso. Além disso, a métrica reúne comportamentos diferentes — como evitar o assunto, adotar um enquadramento alinhado a uma narrativa política ou demonstrar viés — e não mede apenas recusas explícitas.11

Entre os exemplos citados estão perguntas sobre a repressão aos protestos na Praça da Paz Celestial, em 1989, e as manifestações de Hong Kong, em 2019. De acordo com os relatos sobre os testes, algumas respostas não confirmaram ou não reconheceram os acontecimentos. A cobertura da CBS News também destacou respostas do Qwen sobre Hong Kong e outros temas controversos.1115

O que as checagens da CBS acrescentam

A CBS News fez suas próprias perguntas ao Qwen e relatou respostas preocupantes sobre assuntos sensíveis. Essas checagens oferecem exemplos adicionais do comportamento descrito pela Hirundo, mas são verificações pontuais: não demonstram que toda versão do modelo, ou toda implantação em uma empresa, responderá da mesma maneira.1015

A diferença entre uma recusa e outras formas de viés importa. Um modelo pode desviar do assunto, reproduzir um enquadramento político ou responder de forma imprecisa sem dizer explicitamente “não posso responder”. Por isso, avaliar apenas se ele se recusa a responder pode deixar de fora omissões e distorções.11

Por que isso importa para as empresas — e o que os testes não provam

A CBS informou que o Qwen havia ultrapassado 3 bilhões de downloads e era usado por empresas como Airbnb e Uber.10 Quando um modelo é integrado a ferramentas internas ou a serviços voltados ao público, as respostas podem influenciar o que funcionários e usuários veem. Isso torna importante testar a versão específica e a implantação planejada para cada finalidade — mas não prova que os resultados divulgados afetem todo produto que use Qwen.

As dúvidas sobre viés político também são distintas das preocupações de segurança. Comissões da Câmara dos Representantes dos EUA abriram uma investigação sobre riscos de segurança nacional e cibersegurança ligados a modelos de IA desenvolvidos na China, incluindo o uso relatado do Qwen pela Airbnb. A existência da investigação e das preocupações levantadas não é prova de que o modelo tenha causado um vazamento de dados.

Modelos com pesos abertos podem ser executados na infraestrutura da própria empresa, o que pode dar a ela mais controle sobre informações sensíveis do que o envio de dados a um fornecedor externo. Essa escolha, por si só, não elimina possíveis vieses nas respostas; os detalhes de cada implantação também fazem diferença.

A solução proposta pela Hirundo ainda precisa ser avaliada

A Hirundo afirma ter encontrado uma forma de remover vieses do Qwen alterando os pesos internos do modelo. A CBS News relatou que a empresa planeja lançar uma versão que chama de “ocidentalizada”.10 Por enquanto, essa é uma alegação sobre uma solução técnica, não uma comprovação independente de que a mudança funcione de modo consistente em diferentes temas, versões, idiomas e tarefas empresariais.

Para organizações que consideram usar o Qwen, a conclusão prática é avaliar exatamente o modelo e a configuração que pretendem adotar. Vale testar perguntas rotineiras e sensíveis, verificar se as respostas omitem ou distorcem informações relevantes e, em separado, revisar o fluxo de dados e os controles de segurança. Os resultados divulgados merecem atenção, mas não resolvem essas questões para todo uso do modelo.