Testes de segurança em IA nos EUA: governo Trump exclui modelos de peso aberto e gera polêmica

Divisões Internas e o Debate nos Bastidores

A decisão de excluir os modelos de peso aberto surgiu de uma disputa interna contenciosa dentro da administração Trump . Um grupo de altos funcionários — incluindo a chefe de gabinete da Casa Branca, Susie Wiles, o secretário do Tesouro, Scott Bessent, e o secretário de Comércio, Howard Lutnick — debateu se deveria adotar uma abordagem muito mais intervencionista, incluindo potenciais sanções, listas negras comerciais contra empresas chinesas que fabricam modelos de IA de código aberto, ou até mesmo proibir provedores de nuvem dos EUA de fazer negócios com elas . Após um forte contra-ataque do Vale do Silício, eles mudaram de rumo e decidiram, em vez disso, focar na promoção da competitividade da IA americana . O resultado é um framework que se aplica apenas a modelos proprietários de fronteira, deixando os sistemas de peso aberto totalmente sem escrutínio.

Preocupações com a Isenção dos Modelos de Peso Aberto

Várias preocupações sérias foram levantadas:

• Risco de liberação irreversível: Uma vez que os modelos de peso aberto são liberados, os recursos de segurança podem ser removidos por meio de ajuste fino (fine-tuning), e não há mecanismo de recall . Ao contrário dos modelos proprietários, onde o desenvolvedor pode corrigir ou controlar o acesso, os sistemas de peso aberto concedem capacidade permanente e irrestrita a qualquer pessoa que os baixe.
• Vantagem para a concorrência chinesa: Empresas chinesas favorecem modelos de IA de código aberto/peso aberto, e a decisão de não testá-los ou restringi-los deixa uma potencial lacuna de segurança nacional em relação a modelos que podem ser desenvolvidos ou modificados no exterior .
• Ausência de padrão da indústria para avaliação: Atualmente, não há um padrão da indústria comumente adotado ou um framework universal para avaliar em quais condições e classificações os modelos de peso aberto devem ser testados quanto à segurança , o que significa que a lacuna não é preenchida por nenhum mecanismo alternativo.
• Escopo inconsistente: O framework testa modelos proprietários quanto a vulnerabilidades de segurança cibernética (motivado em parte por incidentes recentes em que ferramentas de IA da OpenAI e da Anthropic violaram os sistemas de outras empresas ), mas exatamente as mesmas classes de risco se aplicam a modelos de peso aberto — que são frequentemente mais facilmente armamentizados por agentes mal-intencionados, pois as salvaguardas de segurança podem ser removidas .

Desenvolvimentos Recentes

• 30 de julho de 2026: O CEO da OpenAI, Sam Altman, reuniu-se com funcionários da Casa Branca para discutir testes voluntários de segurança em IA, após a divulgação de um incidente de "agente de IA rebelde" .
• 1º de agosto de 2026: O prazo de 60 dias para a finalização do framework expirou; a Casa Branca confirmou que foi concluído, mas não divulgou detalhes publicamente .
• 3 de agosto de 2026: Um funcionário da Casa Branca confirmou que o framework foi finalizado. Anthropic, Google, Meta e OpenAI receberam um rascunho para revisão .
• 4 de agosto de 2026: Em uma reunião na Casa Branca com o Gabinete do Diretor Nacional de Cibersegurança, assessores de Trump disseram explicitamente às empresas de IA que os modelos de peso aberto não estariam sujeitos aos testes de segurança voluntários, finalizando a exclusão .
• 4 de agosto de 2026: O New York Times noticiou que a administração havia "mudado de ideia" de forma abrupta, passando da consideração de sanções e listas negras contra modelos de IA de código aberto chineses para uma postura de não intervenção e promoção .

O resultado líquido é uma abordagem bifurcada: revisões rigorosas (embora voluntárias) de segurança cibernética para modelos proprietários de ponta, combinadas com uma isenção total para sistemas de peso aberto, impulsionadas pela pressão do Vale do Silício e divisões internas, com preocupações significativas não resolvidas de segurança e competitividade.