RespostasPublicado22 fontes
Andrew Ng rejeita alarmismo sobre extinção por IA e pede segurança de engenharia
Andrew Ng classificou o risco de extinção humana por IA como “muito mais ficção científica do que ciência”. Para ele, a imprevisibilidade dos sistemas é um problema de engenharia a ser administrado com testes, proteções e avaliações contínuas.
Publicado porImagens geradas com GPT Image 2
Resposta de pesquisa
Principais conclusões
- Andrew Ng classificou o risco de extinção humana por IA como “muito mais ficção científica do que ciência”.
- Para ele, a imprevisibilidade dos sistemas é um problema de engenharia a ser administrado com testes, proteções e avaliações contínuas.
- Ng afirmou que discursos apocalípticos podem desviar a atenção dos benefícios da IA e também gerar publicidade ou influenciar a formulação de regras.
- A posição dele contrasta com a de Dario Amodei, Geoffrey Hinton e Jacob Coxon, que defendem reduzir o ritmo do avanço dos modelos de fronteira.
Prompt de IA
openai.comCreate a landscape editorial hero image for this Studio Global article: What did AI pioneer Andrew Ng say in his September 17 Bloomberg TV interview about warnings that artificial intelligence could cause human e. Article summary: Andrew Ng rejected the claim that AI is likely to cause human extinction as “much more science fiction than science.” He argued that uncertainty in AI behavior is an engineering problem to manage—not evidence that societ. Topic tags: general web, ai safety, openai, ai, security. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, charts
Andrew Ng, um dos nomes pioneiros da inteligência artificial e cofundador do Google Brain e da Coursera, rejeitou a ideia de que a IA provavelmente levará à extinção humana. Em entrevista à Bloomberg TV em 17 de setembro, ele classificou esse temor como “muito mais ficção científica do que ciência”. 10
Para Ng, o fato de sistemas de IA não serem perfeitamente previsíveis não é, por si só, razão para interromper amplamente seu desenvolvimento. Ele vê essa incerteza como um desafio de engenharia: algo que deve ser reduzido e administrado com testes, salvaguardas, avaliações e aperfeiçoamento contínuo. 10
Por que ele criticou a retórica apocalíptica
Ng disse que alertas sobre riscos existenciais podem prejudicar a discussão sobre como garantir que a sociedade obtenha os benefícios máximos da IA. Ele também afirmou que, em fases anteriores do boom da inteligência artificial, o setor alimentou receios de danos catastróficos aparentemente para ganhar publicidade e influenciar a regulação. 8
A preocupação implícita é que uma agenda regulatória concentrada apenas nos maiores sistemas de IA — os chamados modelos de fronteira — possa acabar moldando o mercado em favor dos laboratórios já muito capitalizados, que têm mais condições de arcar com exigências de conformidade. A crítica de Ng, porém, não é contra segurança: é contra usar hipóteses extremas e ainda incertas como argumento central para uma desaceleração ampla do setor. 8
10
Ele alertou ainda que frear de forma generalizada o desenvolvimento de IA também pode atrasar avanços em segurança. 10
O que Ng colocaria como prioridade
A proposta de Ng é direcionar esforços para falhas observáveis e riscos previsíveis, em vez de tratar a extinção humana como o cenário dominante. Isso inclui, por exemplo, problemas de cibersegurança e outros danos concretos que podem ser medidos, testados e mitigados. 10
Em sua visão, a IA talvez nunca seja totalmente previsível, mas pode se tornar suficientemente confiável por meio de uma disciplina de engenharia: avaliações rigorosas, mecanismos de proteção e melhorias iterativas. 10
O contraste com quem pede desaceleração
A visão de Ng diverge da de pesquisadores e executivos que consideram o risco de perda de controle sério o bastante para justificar reduzir deliberadamente o ritmo de avanço dos modelos mais poderosos.
- Jacob Coxon, ex-pesquisador da OpenAI e da Anthropic, deixou a Anthropic e alertou que a corrida por sistemas capazes de se autoaperfeiçoar pode levar a uma catástrofe. Ele defende desacelerar o progresso.
2
14
- Dario Amodei, CEO da Anthropic, propôs diminuir o ritmo de evolução das capacidades dos modelos de fronteira para abrir mais tempo para gerenciar riscos. Seu plano inclui avaliações independentes e maior supervisão.
3
- Sam Altman, CEO da OpenAI, apoiou a ideia básica de desacelerar e fortalecer as salvaguardas diante do temor de que a indústria esteja se aproximando de sistemas que os humanos não conseguiriam controlar.
1
9
- Geoffrey Hinton também vê uma possibilidade significativa de a IA escapar ao controle humano. Ele apoia um ritmo mais lento e testes antes do lançamento de novos sistemas.
16
A diferença central, portanto, é de probabilidade atribuída ao risco e de prioridade regulatória. Coxon, Amodei, Altman e Hinton avaliam que o risco de perda de controle justifica conter o avanço das capacidades de fronteira. Ng considera as alegações de extinção especulativas e defende tratar riscos imediatos por meio de práticas técnicas de segurança. 3
10
16
Quem também rejeita uma pausa ampla — por outros motivos
Ng se aproxima de críticos de uma desaceleração geral ao rejeitar uma pausa em toda a indústria, mas suas razões são diferentes das de figuras mais focadas em competição e crescimento.
- Jensen Huang, CEO da Nvidia, se opôs a novas leis específicas para IA e rejeitou a necessidade de uma desaceleração ampla.
5
17
- Mark Zuckerberg, CEO da Meta, se posicionou contra uma pausa em todo o setor e argumentou que concorrência e incentivos de mercado levarão empresas a tornar seus modelos mais seguros.
- Donald Trump descartou os alertas sobre perigo da IA como uma “farsa” e disse que os Estados Unidos já possuem instrumentos para regular ou responsabilizar empresas; sua ênfase foi a competitividade americana, sobretudo diante da China.
- Autoridades chinesas também contestaram pedidos para desacelerar a IA de fronteira, em meio à resistência a uma pausa global imposta de fora.
Enquanto Huang, Zuckerberg, Trump e autoridades chinesas enfatizam inovação, concorrência ou oposição a novas restrições, Ng apresenta um argumento mais técnico: segurança deve ser construída em torno de falhas reais, mensuráveis e corrigíveis — sem transformar cenários de extinção em fundamento para interromper o desenvolvimento da IA. 5
7
10
11
Studio Global AI
Continue sua pesquisa
Esta página inclui uma resposta baseada na fonte que você pode continuar em Studio Global.
As pessoas também perguntam
Qual é a resposta curta para "Andrew Ng rejeita alarmismo sobre extinção por IA e pede segurança de engenharia"?
Andrew Ng classificou o risco de extinção humana por IA como “muito mais ficção científica do que ciência”.
Quais são os pontos-chave para validar primeiro?
Andrew Ng classificou o risco de extinção humana por IA como “muito mais ficção científica do que ciência”. Para ele, a imprevisibilidade dos sistemas é um problema de engenharia a ser administrado com testes, proteções e avaliações contínuas.
O que devo fazer a seguir na prática?
Ng afirmou que discursos apocalípticos podem desviar a atenção dos benefícios da IA e também gerar publicidade ou influenciar a formulação de regras.
Fontes