Por que Ro Khanna quer saber se tentaram roubar os modelos de IA das gigantes de tecnologia

O deputado democrata Ro Khanna quer saber se algumas das maiores empresas de inteligência artificial dos Estados Unidos — OpenAI, Anthropic, Google, Meta e xAI — já identificaram tentativas de acesso ilegal aos pesos de seus modelos e que medidas de segurança cibernética usam para protegê-los. A pergunta vai além de saber se concorrentes conseguem reproduzir resultados parecidos: trata de quem pode obter e controlar os componentes centrais de um modelo avançado.3

Roubo de pesos e destilação são coisas diferentes

Os pesos são os parâmetros aprendidos durante o treinamento, que ajudam a determinar como o modelo processa informações e produz respostas. Se alguém rouba esses dados, pode obter acesso direto ao modelo subjacente, em vez de apenas usar um serviço oferecido pela empresa. Pesos disponíveis fora do controle do desenvolvedor também podem ser mais difíceis de monitorar ou proteger contra usos indevidos.16

Já a destilação consiste em usar as respostas de um modelo para treinar outro. Isso pode ajudar uma empresa a criar um sistema próprio, mas não significa, por si só, que ela tenha obtido os pesos originais. OpenAI e Anthropic relataram casos de empresas chinesas que destilaram seus modelos; as reportagens apontam poucos casos conhecidos de roubo de pesos. Portanto, relatos de destilação não são prova de que os pesos dessas empresas tenham sido roubados.3

Essa diferença ajuda a entender o foco do pedido de Khanna: ele busca informações sobre uma possível invasão e sobre as defesas adotadas pelas empresas, não apenas sobre o uso das respostas dos modelos por terceiros. As informações disponíveis não confirmam que a China tenha roubado os pesos das empresas citadas, nem detalham eventuais tentativas não divulgadas ou os controles internos de cada companhia.3

A disputa sobre quem deve definir as regras

O pedido também se encaixa em uma discussão maior sobre como reduzir os riscos da IA. O governo Trump tem apostado em compromissos voluntários das empresas, incluindo medidas de segurança e auditorias externas. Em uma discussão sobre testes voluntários, a administração também indicou que não submeteria modelos de pesos abertos a testes de segurança do governo.9

Khanna defende uma atuação mais firme: auditorias obrigatórias antes do lançamento de modelos, maior supervisão federal e um acordo verificável entre Estados Unidos e China sobre segurança de IA. Ele também pede mecanismos de inspeção e padrões comuns para lidar com riscos transfronteiriços.2

Na prática, a pergunta sobre os pesos não demonstra que houve roubo. Ela pressiona as empresas a explicar se conseguem proteger ativos que, caso sejam obtidos por um agente hostil, podem escapar do controle de quem os desenvolveu. O ponto central é se compromissos voluntários bastam — ou se a segurança de modelos avançados exige regras e fiscalização obrigatórias.