Boletim da segurança em IA: verão de 2026

A Anthropic manteve a primeira posição pelo segundo índice consecutivo, mas novamente não conseguiu sair do território medíocre .

Os seis domínios avaliados

Um painel independente de sete especialistas em IA e governança avaliou cada empresa com base em 37 indicadores agrupados em seis domínios :

• Avaliação de Riscos — 6 indicadores que avaliam como as empresas lidam com capacidades perigosas, como riscos biológicos e potenciais ataques cibernéticos.
• Danos Atuais — 9 indicadores que medem danos documentados causados por sistemas já em uso, incluindo viés, desinformação e violações de privacidade.
• Estruturas de Segurança — 4 indicadores que verificam se as empresas têm políticas concretas para testes pré-implantação, "red-teaming" e lançamento responsável.
• Segurança Existencial — 4 indicadores focados em planos para controlar sistemas avançados de IA, incluindo AGI e superinteligência.
• Governança e Responsabilidade — 4 indicadores que avaliam a supervisão do conselho, políticas de denúncia e auditorias independentes.
• Compartilhamento de Informações — 10 indicadores que avaliam relatórios de transparência, acesso de pesquisadores externos e divulgação pública de práticas de segurança.

De acordo com o relatório, nenhuma empresa obteve nota acima de D no domínio de segurança existencial pelo segundo índice consecutivo . O painel de especialistas concluiu que nenhuma das nove empresas tinha um plano crível para controlar uma AGI ou superinteligência .

Por que a xAI recebeu um F — a maior queda

A xAI caiu do 4º lugar para o 7º lugar entre as edições de Inverno de 2025 e Verão de 2026, a maior queda entre todas as empresas avaliadas . Sua pontuação despencou de 1,17 (nível D) para 0,65 (nível F) . Vários fatores explicam o colapso:

• Fracasso em múltiplos domínios: a xAI tirou F tanto em "Danos Atuais" quanto em "Segurança Existencial", e notas quase tão baixas em Avaliação de Riscos e Estruturas de Segurança .
• Sem resposta à pesquisa: a xAI foi uma das empresas que não participou da pesquisa do instituto, limitando a capacidade dos revisores de avaliar suas práticas internas .
• Concorrentes melhoraram enquanto a xAI piorou: a Meta subiu do 6º para o 4º lugar no mesmo período .
• Posição comparativa fraca: apenas xAI, DeepSeek e Mistral receberam notas F gerais, colocando a xAI entre as empresas com pior classificação no índice .

Seis preocupações gerais levantadas pelo relatório

O relatório do FLI, com cobertura da Time, Axios e outros veículos, identificou seis problemas sistêmicos :

1. Recuo da indústria em relação a promessas de segurança. Anthropic, OpenAI, Google DeepMind e Meta enfraqueceram ou eliminaram compromissos anteriores de pausar o desenvolvimento se seus sistemas se aproximassem de limites de perigo especificados. O relatório classificou esse movimento como "mudar as metas de lugar" .

2. Segurança existencial continua sendo a categoria mais fraca em todas as empresas. Nenhuma empresa obteve nota acima de D em segurança existencial pelo segundo índice consecutivo .

3. A segurança voluntária está se deteriorando antes que a regulamentação chegue. Max Tegmark, presidente do FLI, alertou que as empresas de IA estão "correndo em direção a um precipício" enquanto disputam para ver quem chega primeiro à superinteligência artificial, apesar de reconhecerem os grandes riscos .

4. Crescente uso militar de IA comercial. Empresas que antes proibiam amplamente o trabalho militar — incluindo Anthropic, OpenAI e Google — têm se movido em direção a parcerias militares .

5. Um padrão global de notas baixas. As três notas F vieram de empresas associadas a diferentes regiões: xAI (EUA), DeepSeek (China) e Mistral (Europa) .

6. Capacidades superando as salvaguardas. A divulgação do relatório coincidiu com uma conferência da ONU sobre IA em Genebra, onde o secretário-geral António Guterres alertou: "Podemos ser a última geração capaz de definir os termos sob os quais a humanidade e as máquinas coexistirão" .

O que esperar a seguir

O Índice de Segurança em IA do FLI é publicado duas vezes por ano, servindo como uma verificação regular de se a indústria está lidando com suas lacunas de segurança mais básicas. A edição de Inverno de 2026 mostrará se empresas como xAI e DeepSeek conseguem reverter suas trajetórias de queda — e se alguma empresa finalmente conseguirá quebrar o teto do C+.