Amazon quer testar IA antes de lançar — sem desacelerar o desenvolvimento

A Amazon entrou no debate sobre segurança em inteligência artificial com uma posição intermediária: modelos poderosos devem ser liberados apenas depois de testes rigorosos e da implementação de salvaguardas fortes, e o setor deve trabalhar com governos para criar proteções. Mas a empresa não apoia uma desaceleração geral e coordenada do desenvolvimento de IA. 6

A mensagem central é que segurança e progresso não são escolhas excludentes. Na prática, a Amazon defende um modelo de testar antes de colocar no mercado, e não uma regra que condicione a velocidade dos avanços técnicos ao ritmo do desenvolvimento de mecanismos de segurança.

O que a Amazon está propondo

Em declaração à Reuters, a Amazon afirmou que os modelos devem ser lançados quando estiverem “prontos e seguros para uso”, o que, segundo a empresa, exige testes rigorosos e salvaguardas robustas. A companhia também destacou a necessidade de ação conjunta entre a indústria e o poder público. 6

A diferença é relevante. A Amazon não pede uma pausa no treinamento de modelos nem limites amplos à evolução de suas capacidades. O critério declarado está na prontidão para o lançamento: avaliar o sistema, aplicar proteções e só então disponibilizá-lo se for seguro o suficiente para uso.

Ainda ficam questões em aberto: quem definirá o padrão de testes, que evidências comprovam que um modelo é seguro e se avaliações conduzidas pelas próprias desenvolvedoras bastam.

Como a posição difere da proposta da Anthropic

Dario Amodei, CEO da Anthropic, pediu que as empresas que desenvolvem IA de fronteira reduzam o ritmo com que ampliam as capacidades dos modelos, para que as medidas de segurança tenham tempo de acompanhar a evolução. Sua proposta prevê avaliadores independentes com amplo acesso, padrões para todo o setor e coordenação internacional. 12

A posição de Amodei, portanto, é mais exigente que a da Amazon. Em vez de tratar a segurança sobretudo como uma barreira antes do lançamento, ele argumenta que o próprio ritmo de desenvolvimento pode precisar cair quando as proteções ficarem atrás dos avanços de capacidade. Seus alertas descrevem cenários futuros de uso indevido e perda de controle; são argumentos de precaução, não prova de que uma tomada de controle autônoma por IA já tenha ocorrido. 111

Em resumo:

• Amazon: continuar avançando, mas não lançar modelos antes de testes rigorosos e de garantias de segurança. 6
• Anthropic: a segurança também deve influenciar a velocidade com que capacidades de IA de fronteira são desenvolvidas, com supervisão independente e padrões coordenados. 12

Onde se posicionam as demais empresas

Líderes da OpenAI, do Google DeepMind e da xAI manifestaram apoio à direção da proposta de Amodei. Sam Altman, da OpenAI, disse que igualaria o compromisso da Anthropic de permitir que avaliadores externos, com acesso equivalente ao de funcionários, examinem as práticas de segurança. 4

Mas apoiar o objetivo geral de segurança não resolve os detalhes práticos. Uma desaceleração coordenada exigiria uma definição compartilhada de capacidades perigosas, formas confiáveis de verificação e acordo entre concorrentes submetidos a pressões comerciais e geopolíticas. A Reuters informou que líderes do setor seguem divididos tanto sobre a urgência dos riscos quanto sobre a resposta adequada.

Mark Zuckerberg, CEO da Meta, por sua vez, tem defendido salvaguardas guiadas pelo mercado, e não uma desaceleração coordenada.

A disputa central: testes voluntários ou fiscalização obrigatória?

A posição da Amazon se encaixa em instrumentos como avaliações antes do lançamento, red teaming — testes que tentam explorar vulnerabilidades do sistema —, controles de segurança e relatórios de risco. Essas práticas já são reconhecidas na gestão de riscos de IA: o International AI Safety Report 2026 cita modelagem de ameaças, avaliações de capacidade, divulgações de transparência e comunicação de incidentes entre as medidas relevantes.

A questão ainda sem resposta é se essas medidas devem continuar voluntárias. Negociadores do Senado dos Estados Unidos discutem uma legislação que exigiria das empresas de IA a demonstração de “precauções razoáveis” contra danos. A proposta poderia permitir que o secretário de Comércio solicitasse evidências e usasse auditores governamentais para testar produtos das companhias. 20

Um regime desse tipo, baseado em dever de cuidado, levaria o debate além de promessas corporativas. Não exigiria necessariamente uma pausa ampla, mas criaria uma autoridade externa capaz de contestar a alegação de uma empresa de que seu modelo está pronto para ser lançado.

Cooperação também traz dilemas concorrenciais e de governança

Um pacto comum de segurança pode tornar testes e relatórios mais consistentes, mas também levanta a pergunta sobre quem escreverá as regras. Andrew Ferguson, presidente da Comissão Federal de Comércio dos EUA (FTC, na sigla em inglês), disse que as pessoas deveriam ser “profundamente desconfiadas” quando empresas de IA buscam isenções antitruste enquanto fazem lobby por novas regulações. Especialistas ouvidos pela Reuters, porém, afirmaram que a legislação concorrencial atual pode permitir coordenação para evitar riscos catastróficos. 17

Aidan Gomez, CEO da Cohere, também alertou que um arranjo de segurança controlado por um pequeno grupo dos maiores laboratórios poderia consolidar o poder das empresas já dominantes. Ele defende salvaguardas verificáveis de forma independente, transparência e participação mais ampla, em vez de deixar que as líderes do setor definam sozinhas os padrões.

Essas críticas não eliminam o argumento em favor de ações coordenadas para segurança. Elas apontam outra exigência de desenho institucional: a supervisão precisa ser confiável e resistente à captura regulatória — quando grupos regulados passam a influenciar as regras em benefício próprio.

Um cenário político difícil nos EUA

O ambiente político americano pode dificultar a fórmula de cooperação entre indústria e governo defendida pela Amazon. O governo Trump pressionou por uma abordagem internacional de pouca intervenção na regulação de IA, enquanto o presidente Donald Trump afirmou que as salvaguardas existentes já são suficientes. A administração também disse a desenvolvedores que não submeteria modelos de pesos abertos — isto é, sistemas cujos componentes centrais são publicamente acessíveis — a testes voluntários de segurança.

Enquanto isso, Bill Gates afirmou que governos não estão preparados para as mudanças provocadas pela IA e deveriam cooperar internacionalmente diante de riscos como impactos no emprego, dependência e ataques cibernéticos. 18

O que fica do debate

A contribuição da Amazon não é um pedido para desacelerar a IA. É uma defesa de um padrão mais rígido para lançamento: nenhum modelo deve ser disponibilizado antes de passar por testes rigorosos e contar com salvaguardas fortes. 6

Essa postura é menos restritiva que a proposta da Anthropic de moderar os ganhos de capacidade em IA de fronteira quando a segurança não conseguir acompanhar. Ainda assim, ela leva o debate a uma pergunta prática e de grande impacto: as empresas conseguem supervisionar de forma confiável suas próprias decisões de lançamento ou avaliadores independentes e autoridades públicas precisam ter poder para verificar, contestar ou bloquear essas decisões? 120