Por que a “destilação” de IA virou motivo de atrito entre Trump e Xi

Uma técnica comum no desenvolvimento de inteligência artificial (IA) ganhou peso diplomático antes do encontro previsto entre Donald Trump e Xi Jinping na Casa Branca, em 24 de setembro. Para os Estados Unidos, a disputa envolve a suposta extração de capacidades de modelos americanos por empresas chinesas. Pequim rejeita a acusação e argumenta que a destilação não é, por si só, uma prática indevida.1713923

O que é destilação de modelos?

Destilar um modelo significa usar as respostas de um sistema de IA mais capaz para treinar outro, geralmente menor e mais barato, que consiga executar parte das mesmas tarefas. É uma técnica consolidada de pesquisa — não um sinônimo de roubo.48

A questão neste caso é como essas respostas teriam sido obtidas e usadas. Treinar um modelo com resultados próprios ou mediante permissão é diferente de coletar respostas de um concorrente por meio de acessos enganosos, contrariando suas restrições. O fato de a técnica ser amplamente utilizada, inclusive por empresas americanas, não resolve as acusações sobre a conduta de companhias específicas.235 As fontes disponíveis não permitem afirmar de forma independente como a Anthropic emprega destilação no desenvolvimento de seus próprios modelos.

O que dizem as agências americanas?

Em um comunicado de 8 de setembro, o FBI, a Agência de Segurança Nacional dos EUA (NSA) e a agência americana de segurança cibernética CISA alertaram para o que classificaram como campanhas maliciosas de destilação em escala industrial.1 As agências citaram DeepSeek, Moonshot AI, Alibaba, MiniMax, StepFun e Z.AI. Segundo a acusação, elas extraíram bilhões de tokens — unidades de texto processadas pelos modelos — em milhões de solicitações feitas, desde pelo menos o fim de 2024, a sistemas que incluem versões de Claude, da Anthropic; GPT, da OpenAI; Gemini, do Google; e Grok, da xAI.1614

Reportagens sobre o comunicado descrevem o suposto uso de contas fraudulentas e redes de servidores intermediários para obter essas respostas.5 As agências avaliaram que a atividade ocorreu provavelmente com conhecimento do governo chinês — o que não equivale a dizer que comprovaram uma ordem do governo.16 Trata-se de alegações americanas, não de uma conclusão independente de que todas as empresas citadas cometeram roubo. Separadamente, a Anthropic acusou a DeepSeek e a Moonshot de encaminhar parte das solicitações de usuários ao Claude.49

O atrito já existia antes do alerta: em julho, o assessor de ciência e tecnologia da Casa Branca Michael Kratsios acusou a Moonshot de tentar obter, em larga escala, capacidades de modelos americanos por destilação.47 As fontes disponíveis não demonstram que o desempenho ou a eficiência da DeepSeek, isoladamente, tenham motivado acusações da OpenAI. Tampouco essas características provariam extração não autorizada.

Como a China reagiu?

Autoridades chinesas rejeitaram as acusações de extração maliciosa.49 O Diário do Povo, jornal ligado ao Partido Comunista Chinês, argumentou que a IA não deve ser um “monopólio das grandes potências” e defendeu cooperação para administrar riscos em um ambiente de desenvolvimento sem discriminação.33 A resposta também apresenta a controvérsia como uma disputa sobre até que ponto a proteção da tecnologia americana restringe o desenvolvimento chinês.39

São perguntas diferentes: se destilar modelos é legítimo em geral e se, neste caso, os meios usados para obter respostas proprietárias foram autorizados. As fontes disponíveis não estabelecem com segurança a resposta individual de cada uma das seis empresas; a ausência desse detalhe não deve ser interpretada como silêncio de qualquer uma delas.

Há espaço para cooperação?

Mesmo com a rivalidade tecnológica, autoridades dos dois países discutiam riscos compartilhados da IA antes do encontro.1734 Após conversar com o vice-premiê chinês He Lifeng em Nova York, o secretário do Tesouro americano Scott Bessent disse que os EUA haviam proposto um mecanismo de notificação para incidentes de IA graves o suficiente para afetar a segurança nacional. Trump e Xi deveriam considerar a ideia: as fontes descrevem uma proposta, não um sistema já em funcionamento.1819

Um canal de alerta poderia facilitar a comunicação durante uma crise. Sozinho, porém, não resolveria as acusações sobre destilação nem alteraria as restrições americanas à exportação de chips avançados de IA para a China, outro foco de tensão.1940 O desafio é separar o treinamento legítimo da extração não autorizada sem fechar a porta para conversas sobre riscos que ultrapassam as fronteiras dos dois países.174818