Chen Yixin vê na IA um risco à segurança política, ideológica e tecnológica da China

Chen Yixin, ministro da Segurança do Estado da China, alertou que o avanço acelerado da inteligência artificial — e, sobretudo, seu uso abusivo por atores hostis — pode ameaçar diretamente a segurança política, institucional e ideológica do país, além de expor infraestrutura crítica, dados sensíveis e a autonomia tecnológica chinesa. 57

Em artigo publicado na revista oficial China Cyberspace, Chen listou seis categorias de riscos associados à IA. Na visão dele, adversários podem recorrer a áudios e vídeos falsificados por IA (deepfakes), textos e imagens gerados artificialmente e redes de contas automatizadas para fabricar boatos políticos em grande escala, disseminar conteúdo nocivo, acirrar antagonismos sociais e conduzir operações de guerra cognitiva e de opinião pública. 57

O ministro também afirmou que a IA reduz o custo e a barreira técnica para invasões digitais e desenvolvimento de malware. Segundo o alerta, a tecnologia pode facilitar a coleta de inteligência e o vazamento em massa de segredos de Estado, dados comerciais confidenciais e informações pessoais, colocando em risco a infraestrutura de informação crítica e a governança social. 31113

Segurança da IA também é soberania tecnológica

Para Chen, a disputa internacional pela IA não se limita à segurança dos sistemas. Ele retrata o setor como uma competição estratégica em que grandes potências usam argumentos de segurança nacional para impor controles tecnológicos, influenciar ou monopolizar padrões e construir ecossistemas fechados. Nessa leitura, segurança em IA está ligada à dependência externa, ao controle de cadeias de suprimento, à contenção tecnológica e à interferência estrangeira. 57

Essa abordagem é diferente da defendida por Dario Amodei, CEO da Anthropic, em seu ensaio “We Must Pace the Frontier”. Amodei não propôs interromper o desenvolvimento da IA, mas reduzir o ritmo de avanço das capacidades para dar tempo de aprimorar alinhamento, proteção técnica e testes externos. Entre suas propostas estão avaliadores independentes com acesso contínuo semelhante ao de funcionários em laboratórios de ponta, compromissos comuns de segurança entre democracias e, no futuro, coordenação global que também inclua governos autoritários. 122

Sam Altman, da OpenAI, disse que a empresa adotaria a ideia de avaliadores independentes com acesso equivalente ao de funcionários. Elon Musk também manifestou concordância com o pedido de Amodei para desacelerar o avanço da fronteira tecnológica. 101

Duas leituras sobre o principal risco

A visão de Pequim é centrada no Estado: estabilidade política, autoridade do Partido Comunista, controle ideológico, soberania de dados, proteção de infraestrutura e redução da coerção tecnológica estrangeira. Por isso, campanhas de influência geradas por IA e o acesso externo a dados chineses são tratados como ameaças diretas à segurança nacional. 57

Já a abordagem predominante no debate sobre segurança de modelos de fronteira no Vale do Silício se concentra nas capacidades: evitar que sistemas mal alinhados ou mal protegidos viabilizem ciberataques catastróficos, ações autônomas prejudiciais, uso científico perigoso ou perda de controle humano significativo. As respostas propostas tendem a envolver avaliações, salvaguardas técnicas e regras internacionais. 122

As duas perspectivas têm pontos em comum, como os riscos de espionagem, desinformação, ataques cibernéticos e aplicações militares. Mas divergem sobre quem deve definir os padrões, se regras de segurança podem funcionar na prática como restrições estratégicas à tecnologia e quanta transparência ou avaliação externa é compatível com soberania e segurança nacional.

O que isso sinaliza para o diálogo entre EUA e China

Estados Unidos e China planejavam realizar em meados de setembro seu primeiro diálogo bilateral do segundo mandato de Donald Trump dedicado especificamente à segurança da IA. 4

O texto de Chen indica que Pequim provavelmente buscará incluir na agenda temas como interferência estrangeira, segurança de dados e infraestrutura, participação em condições iguais na definição de padrões e oposição à contenção tecnológica — e não apenas alinhamento de modelos de fronteira e riscos catastróficos, que recebem maior ênfase no debate americano. 37

Isso torna a conversa relevante, mas difícil. Acordos limitados sobre danos concretos — como fraudes com mídia sintética, ciberataques viabilizados por IA, notificação de incidentes e comunicação sobre riscos militares — podem ser mais viáveis do que um consenso sobre avaliações universais ou limites de capacidade. O que Washington pode apresentar como redução de riscos, Pequim pode interpretar como um mecanismo para preservar a vantagem tecnológica dos Estados Unidos.