Hinton vê risco de 10% de extinção por IA em uma década como “não descabido”

Geoffrey Hinton, cientista da computação vencedor do Nobel e frequentemente apontado como um dos pioneiros da IA moderna, disse que uma chance de 10% de a inteligência artificial matar todos os humanos na próxima década “não parece uma estimativa descabida”. A resposta veio acompanhada de uma ressalva central: “ninguém realmente sabe” como chegar a uma estimativa sensata de probabilidade. 91012

Portanto, não se trata de uma previsão de que a extinção acontecerá — nem de uma afirmação de que os chatbots e modelos disponíveis hoje já representem esse risco. O alerta de Hinton é uma defesa da precaução diante da hipótese de sistemas de IA se tornarem muito mais capazes do que os humanos e continuarem difíceis de controlar.

O que Hinton quis dizer com os 10%

Em entrevista ao Newsnight, da BBC, Hinton concordou que 10% não seria uma estimativa descabida para um evento de extinção humana provocado por IA em até uma década. O raciocínio dele parte justamente da incerteza: a humanidade nunca teve de conviver com entidades que possam se tornar mais inteligentes do que ela. 910

Hinton já havia apresentado avaliações graves em horizontes mais longos. No fim de 2024, ele disse ver entre 10% e 20% de chance de a IA levar à extinção humana em três décadas. Em 2025, descreveu essa faixa como uma impressão intuitiva, e não como uma previsão calculada. 1415

A distinção é importante: estimativa de risco não é previsão de inevitabilidade. Para Hinton, a dimensão do possível dano exige cautela justamente porque há incerteza, e não apesar dela.

Por que sistemas super-humanos o preocupam

O cenário discutido não é uma revolta de máquinas de filme. A preocupação de Hinton é que uma IA com capacidade estratégica e técnica muito superior à humana possa gerar caos ou perseguir objetivos incompatíveis com os interesses das pessoas.

Entre as vias de dano mencionadas estão manipular pessoas, criar vírus biológicos ou de computador, realizar ciberataques ou contribuir para ataques à infraestrutura crítica. São mecanismos hipotéticos de dano por sistemas futuros altamente capazes — não capacidades demonstradas pelas ferramentas de IA atuais. 1011

Essa diferença é decisiva. Evan Hubinger, líder de ciência de alinhamento da Anthropic, afirmou explicitamente considerar baixo o risco oferecido pelos modelos de hoje. A preocupação dele, assim como a de Hinton, é que sistemas futuros se tornem muito mais capazes ou passem a se aprimorar mais rapidamente do que pesquisadores conseguem administrar com segurança. 11624

A saída de Jacob Coxon e o alerta dentro da Anthropic

A discussão ganhou força depois que Jacob Coxon deixou a Anthropic e o setor de IA. Coxon argumentou que Anthropic e OpenAI estariam correndo em direção a uma superinteligência capaz de se aprimorar sem agir de modo suficientemente responsável, descrevendo essa corrida como uma aposta com vidas humanas. 317

Coxon não fez uma previsão precisa de que a humanidade acabaria até 2030. Sua alegação, mais restrita, foi que pessoas que desenvolvem IA de fronteira realmente acreditam que a tecnologia poderia matar todos os humanos até o fim da década. 57

Hubinger endossou publicamente a gravidade da preocupação. Ele escreveu que, pessoalmente, atribui uma probabilidade superior a 10% de a IA matar todos os humanos na próxima década, ao mesmo tempo em que disse que a Anthropic está fazendo o melhor que pode. O ponto mais relevante: segundo ele, a empresa ainda não tem um plano para resolver o alinhamento de uma superinteligência e não está claramente no caminho de desenvolver um. 16

O que significa “alinhamento” da IA

Alinhamento é o problema de garantir que sistemas avançados de IA ajam de forma confiável conforme os objetivos humanos pretendidos e permaneçam controláveis, inclusive em situações que seus criadores não previram.

Para pesquisadores focados em segurança, o desafio vai além de fazer um sistema recusar um pedido inadequado. A questão é saber se uma IA com ampla autonomia, acesso a ferramentas e capacidades que ultrapassem a compreensão de seus operadores poderia ser direcionada com segurança sob pressão no mundo real.

Os comentários de Hubinger não provam que o alinhamento seja impossível. Eles indicam que, na avaliação dele, ainda não existe uma solução demonstrada para alinhar sistemas superinteligentes antes que eles possam surgir. 16

Onde especialistas concordam — e divergem

Não há consenso em torno do número exato de 10% citado por Hinton.

Gary Marcus endossou o ponto central de precaução de Hinton: seria imprudente desenvolver superinteligência antes de haver consenso científico de que ela pode ser construída de maneira segura e controlável. Mas reportagens também observam que Marcus não vê uma rota realista de curto prazo para a extinção humana. Isso ilustra uma divisão importante: concordar com a necessidade de salvaguardas não exige concordar com a probabilidade ou o prazo de uma catástrofe. 1141

O debate público mistura preocupação com riscos de longo prazo e divergências sobre se as trajetórias técnicas atuais podem levar, em breve, a uma superinteligência autônoma e incontrolável. Por isso, estimativas numéricas devem ser lidas como juízos de especialistas, e não como medições precisas.

A questão prática para a sociedade

O principal ponto de convergência não é que a extinção causada por IA seja certa. É que uma possibilidade não trivial de perder o controle sobre sistemas mais capazes que seus operadores merece escrutínio público antes que o desenvolvimento avance mais rápido do que o trabalho de segurança.

A estimativa de Hinton, a saída de Coxon e o alerta de Hubinger sobre alinhamento apontam para a mesma questão ainda sem resposta: que evidências a sociedade deveria exigir antes de implantar ou continuar ampliando sistemas que possam se tornar estrategicamente super-humanos?

Para o público, vale separar três afirmações que frequentemente se confundem:

• Modelos de IA atuais representam uma ameaça de extinção.
• Sistemas futuros podem adquirir capacidades que criem esse tipo de ameaça.
• A probabilidade desse resultado pode ser estimada com precisão.

As fontes sustentam a segunda afirmação como uma preocupação séria levantada por pesquisadores de destaque. Já Hubinger descreve o risco dos modelos atuais como baixo, e Hinton afirma que a própria probabilidade não pode ser calculada de modo confiável. 11016