答案已发布25 来源
吴恩达称 AI 灭绝论“更像科幻”：安全治理应先解决现实风险
吴恩达在 9 月 17 日接受彭博电视采访时称，AI 导致人类灭绝的警告“更像科幻而非科学”，不应成为全面放缓 AI 研发的理由。[2] 他的重点并非否认 AI 有风险，而是优先处理网络安全等具体且可验证的风险，通过测试、护栏和迭代工程提升系统可靠性。[2][5] Amodei、Altman、Coxon 和 Hinton 支持为前沿模型能力发展“降速”；黄仁勋、扎克伯格、特朗普及中国外交部发言人则反对广泛放缓，但各自理由并不相同。[18][20][50][52][53][55]
发布者使用 GPT-5.6 Terra 编辑图片由 GPT Image 2 生成
研究答案
要点
- 吴恩达在 9 月 17 日接受彭博电视采访时称，AI 导致人类灭绝的警告“更像科幻而非科学”，不应成为全面放缓 AI 研发的理由。[2]
- 他的重点并非否认 AI 有风险，而是优先处理网络安全等具体且可验证的风险，通过测试、护栏和迭代工程提升系统可靠性。[2][5]
- Amodei、Altman、Coxon 和 Hinton 支持为前沿模型能力发展“降速”；黄仁勋、扎克伯格、特朗普及中国外交部发言人则反对广泛放缓，但各自理由并不相同。[18][20][50][52][53][55]
AI 提示
openai.comCreate a landscape editorial hero image for this Studio Global article: What did AI pioneer Andrew Ng say in his September 17 Bloomberg TV interview about warnings that artificial intelligence could cause human e. Article summary: Andrew Ng rejected the claim that AI is likely to cause human extinction as “much more science fiction than science.” He argued that uncertainty in AI behavior is an engineering problem to manage—not evidence that societ. Topic tags: general, news, general web. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, charts with fake numbers
吴恩达（Andrew Ng）的核心观点并不是“AI 无害”，而是：有关 AI 即将导致人类灭绝的说法过于推测性，不应据此主导 AI 政策。9 月 17 日，这位 Google Brain 联合创始人在彭博电视采访中称，这类担忧“更像科幻而非科学”；他认为，AI 安全应被视为一项工程工作——对系统进行测试、部署防护措施，并在发现问题后持续改进。2
吴恩达如何看待“灭绝风险”
吴恩达承认，AI 系统永远不会完全可预测。但在他看来，系统并非完美可预测，并不等于社会就应停止 AI 的发展。通过测试、安全防护与工程改进，系统可以随时间变得更安全；而全面放慢研发，也可能反过来拖慢安全技术本身的进展。2
这与“能力越强的 AI 可能很快失控”的观点形成分歧。吴恩达的立场是，安全议程应从能够观察、测试和修复的失效模式出发，而非以假设性的人类灭绝场景为中心。
他为何质疑末日叙事
吴恩达表示，对 AI 生存风险的警告可能不利于社会充分实现这项技术的益处。他还称，在本轮 AI 热潮早期，科技行业曾放大 AI 灾难性危害的担忧，似乎是为了获得关注，并影响监管方向。1
这也是对激励机制的质疑：戏剧化的风险表述更容易吸引公众注意，而监管规则将影响不同企业承担的合规成本。吴恩达并未主张停止安全工作；他反对的是把灭绝论当成既定科学事实，或据此要求全面按下暂停键。
他主张优先投入哪些安全工作
相关报道指出，吴恩达希望优先处理网络安全等具体防护问题。5
落实到实践层面，他的思路包括：
- 严格测试：在部署前及部署过程中持续评估系统表现。
- 安全护栏与防护机制：限制已知的失效模式和滥用路径。
- 迭代式工程改进：发现新问题后，持续提升可靠性。
- 聚焦可预见危害：例如网络安全风险，而不是将政策注意力主要投向灭绝情景。
2
5
这一框架并不承诺对 AI 实现“绝对控制”。它强调的是，与其他工程领域类似，技术可以依靠持续评估和改进，达到可接受的可靠程度。
与“放缓前沿 AI”阵营的分歧
多位 AI 领域的重要人物同样认为安全必须得到更多重视，但对最前沿模型能力提升的速度提出了更强硬的限制主张。
Jacob Coxon：认为风险概率远高于吴恩达的判断
曾任职于 Anthropic 和 OpenAI 的研究员 Jacob Coxon 从 Anthropic 离职后警告，快速迈向可自我改进系统的发展路径可能带来灾难性后果。他认为有必要放缓发展，后来也欢迎 Anthropic 提出的“为前沿能力发展降速”方案。33
43
Dario Amodei：为安全措施争取时间
Anthropic 首席执行官 Dario Amodei 呼吁企业放慢提升 AI 模型能力的速度。他的目标是为风险管理争取时间，方案包括引入独立评估人员等机制。18
Sam Altman：支持为前沿发展设定节奏
OpenAI 首席执行官 Sam Altman 认同 Amodei 提议的基本前提，并承诺采纳其中一项防护措施：让外部独立评估者获得有实质意义的访问权限，以审查安全实践。19
24
Geoffrey Hinton：担忧 AI 脱离人类控制
被称为“AI 教父”的 Geoffrey Hinton 表示，AI 脱离人类控制存在“显著风险”。他支持放缓发展，并主张在产品发布前进行测试等措施，认为各国政府行动过慢。20
因此，真正的分歧涉及风险概率和政策选择。Coxon、Amodei、Altman 与 Hinton 认为，失控风险已足够可信，因而应刻意放慢最先进系统的能力推进；吴恩达则认为，灭绝论证据不足，安全资源应集中于具体、可处理的失效问题。2
18
20
吴恩达与反对放缓者：结论相近，理由不同
吴恩达反对全面放缓 AI，并不代表他认同所有同样反对放缓的政治人物和企业高管。
- 黄仁勋（Jensen Huang）：英伟达 CEO 表示，该行业不需要新的法律或监管规定。
53
- 马克·扎克伯格（Mark Zuckerberg）：Meta CEO 认为不需要全行业放缓，因为竞争和市场激励会推动公司让模型更安全。
55
- 美国总统唐纳德·特朗普（Donald Trump）：特朗普称对失控 AI 的担忧是“骗局”，并表示美国已经拥有监管和追责 AI 企业的工具。
49
50
- 中国外交部发言人：针对放缓前沿 AI 发展的呼吁，中方发言人表示反对。
这些观点都反对广泛暂停或放缓 AI，但出发点不同。吴恩达的论点主要是技术与工程层面的：应瞄准可衡量的危害，建设更有效的控制机制。黄仁勋、扎克伯格、特朗普和中国外交部发言人的表态，则分别更强调反对新增约束、市场激励，或竞争与国家战略等因素。2
50
52
53
55
网络安全风险：少有的交集
这场争论并非简单地分为“重视安全”和“不重视安全”两派。例如，Cohere CEO Aidan Gomez 表示，AI 模型已经成为强大的网络武器，因为它们可以大规模发现并利用漏洞。62 这一担忧与吴恩达优先应对具体网络安全风险的主张较为接近。
但现有报道不足以完整界定 Gomez 对全行业放缓、国际 AI 治理等问题的立场；同样，也没有足够可靠的信息来全面描述投资人 Steve Eisman 在放缓政策、安全研究、监管与国际治理方面的观点。
关键看点
吴恩达重新界定了 AI 安全讨论的焦点：争议不在于 AI 是否应当更安全，而在于高度推测性的灭绝情景是否应当决定安全议程。他的答案是否定的——应优先投入测试、防护措施和工程改进，以应对当下已可识别的风险；同时避免实施他认为可能阻碍创新和安全进步的全面放缓。1
2
Studio Global AI
继续你的研究
此页面包含一个有来源支持的答案，您可以在 Studio Global 内继续。
人们还问
“吴恩达称 AI 灭绝论“更像科幻”：安全治理应先解决现实风险”的简短答案是什么？
吴恩达在 9 月 17 日接受彭博电视采访时称，AI 导致人类灭绝的警告“更像科幻而非科学”，不应成为全面放缓 AI 研发的理由。[2]
首先要验证的关键点是什么？
吴恩达在 9 月 17 日接受彭博电视采访时称，AI 导致人类灭绝的警告“更像科幻而非科学”，不应成为全面放缓 AI 研发的理由。[2] 他的重点并非否认 AI 有风险，而是优先处理网络安全等具体且可验证的风险，通过测试、护栏和迭代工程提升系统可靠性。[2][5]
接下来在实践中我应该做什么？
Amodei、Altman、Coxon 和 Hinton 支持为前沿模型能力发展“降速”；黄仁勋、扎克伯格、特朗普及中国外交部发言人则反对广泛放缓，但各自理由并不相同。[18][20][50][52][53][55]