答案已發布25 個來源
吳恩達：AI 滅絕論「更像科幻」，安全應回到工程與現實風險
吳恩達表示，AI 導致人類滅絕的警告「更像科幻而非科學」；他認為不完美的可預測性，應透過測試、保障措施與工程方法處理，而非成為全面放慢研發的理由。[2] 他批評業界早期曾放大災難性 AI 傷害的敘事，以爭取關注並影響監管討論，且過度聚焦末日情境可能妨礙社會取得 AI 的效益。[1] 爭論並非「重視安全」與「不重視安全」的二分：吳恩達主張處理資安等可觀察風險；Amodei、Altman、Coxon 與 Hinton 則支持為前沿 AI 的能力提升踩煞車，以爭取安全治理時間。
發布者使用 GPT-5.6 Terra 編輯圖片由 GPT Image 2 生成
研究答案
重點整理
- 吳恩達表示，AI 導致人類滅絕的警告「更像科幻而非科學」；他認為不完美的可預測性，應透過測試、保障措施與工程方法處理，而非成為全面放慢研發的理由。[2]
- 他批評業界早期曾放大災難性 AI 傷害的敘事，以爭取關注並影響監管討論，且過度聚焦末日情境可能妨礙社會取得 AI 的效益。[1]
- 爭論並非「重視安全」與「不重視安全」的二分：吳恩達主張處理資安等可觀察風險；Amodei、Altman、Coxon 與 Hinton 則支持為前沿 AI 的能力提升踩煞車，以爭取安全治理時間。
AI 提示詞
openai.comCreate a landscape editorial hero image for this Studio Global article: What did AI pioneer Andrew Ng say in his September 17 Bloomberg TV interview about warnings that artificial intelligence could cause human e. Article summary: Andrew Ng rejected the claim that AI is likely to cause human extinction as “much more science fiction than science.” He argued that uncertainty in AI behavior is an engineering problem to manage—not evidence that societ. Topic tags: general, news, general web. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, charts with fake numbers
吳恩達（Andrew Ng）的重點不是說 AI 沒有危害，而是認為「AI 即將導致人類滅絕」的說法過於推測，不應成為 AI 政策的核心依據。他在 9 月 17 日接受彭博電視訪問時表示，這類警告「更像科幻而非科學」；AI 安全應被視為工程問題：持續測試系統、加設安全機制，並隨著發現新問題不斷改善。2
吳恩達如何看待「滅絕風險」
吳恩達認為，AI 系統永遠不可能完全可預測；但在他看來，這並不代表社會就應停止或全面放慢 AI 開發。透過測試、安全保障與工程改良，系統可以逐步變得更安全。他也警告，若廣泛放慢 AI 研發，反而可能連安全技術本身的進展也一起拖慢。2
這使他與憂慮高能力 AI 可能失控的一派形成鮮明對比。吳恩達主張，安全議程應從可觀察、可處理的失效模式開始，而非以假設性的人類滅絕情境為中心。
他為何質疑末日敘事
吳恩達表示，將 AI 描繪為存在性威脅的警告，可能不利於社會充分取得這項技術的效益。他也指出，科技業在這波 AI 熱潮較早期曾放大 AI 可能造成災難性傷害的恐懼，表面上是為了爭取關注與影響監管。1
這不只是風險判斷，也牽涉誘因：戲劇化說法更容易獲得注意力，而監管設計會決定誰承擔合規成本。吳恩達並非主張停止安全工作；他反對的是把滅絕論視為既定科學結論，或據此要求全面暫緩開發。
他要優先投入的安全工作
吳恩達提出的是較務實的風險降低路線。相關報導點出，資安與其他具體安全機制應被列為優先事項。5
若轉為實務做法，重點包括：
- 嚴格測試：在部署前與部署後持續評估系統。
- 安全保障與護欄：限制已知的失效模式與濫用途徑。
- 迭代式工程改善：發現新問題後，持續提升可靠性。
- 聚焦可預見傷害：例如網路資安風險，而不是將政策焦點集中於滅絕情境。
2
5
這套框架不承諾完美控制；它的主張是，正如其他工程領域一樣，有用的技術可以靠持續評估與改進，提升到可接受的可靠程度。
與「放慢前沿 AI」陣營的差異
多位 AI 領域人士同樣認為安全必須受到更大重視，但他們對最先進模型應以多快速度發展，得出了更強硬的結論。
Jacob Coxon：對危險的估計更高
曾任職 Anthropic 與 OpenAI 的研究員 Jacob Coxon 已自 Anthropic 離職。他警告，朝向可自我改進系統的快速發展可能造成災難，因此認為有必要放慢速度；之後也歡迎 Anthropic 提出的節奏控制方案。33
43
Dario Amodei：放緩能力提升，換取安全時間
Anthropic 執行長 Dario Amodei 呼籲公司放慢提升 AI 能力的速度，目標是爭取時間管理風險，並提出讓獨立評估者參與的架構。18
Sam Altman：支持為前沿發展設定節奏
OpenAI 執行長 Sam Altman 認同 Amodei 提案的基本前提，並承諾採納其中一項安全措施：讓具有實質存取權的外部評估者檢視安全實務。19
24
Geoffrey Hinton：憂慮失去人類控制
Geoffrey Hinton 表示，AI 脫離人類控制存在「顯著風險」。他支持放慢發展，也支持在新聊天機器人推出前進行測試等措施，並認為政府行動過慢。20
因此，實際分歧同時在於風險機率與政策選擇。Coxon、Amodei、Altman 與 Hinton 認為，失控風險已足夠可信，應刻意放慢最先進系統的能力推進；吳恩達則認為滅絕論缺乏足夠根據，安全資源應集中在具體、可處理的問題上。2
18
20
吳恩達與反對放慢者：結論相近，理由不同
吳恩達反對全面放慢，並不表示他與同樣反對放慢的政治人物或企業高層共享每一項論點。
- 黃仁勳（Jensen Huang）：Nvidia 執行長表示，這個產業不需要新的法律或監管。
53
- 祖克柏（Mark Zuckerberg）：Meta 執行長認為，不必全產業放慢，因為競爭與市場誘因會促使公司讓模型更安全。
55
- 美國總統川普（Donald Trump）：川普把失控 AI 的憂慮稱為「騙局」，並表示美國已有工具可監管及起訴 AI 公司。
49
50
- 中國官員：中國外交部發言人反駁了放慢前沿 AI 發展的呼籲。
這些立場在「反對廣泛暫停」的結論上相似，但理由不同。吳恩達的論點主要是技術性的：應衡量具體傷害，並建立更好的控制措施。黃仁勳、祖克柏、川普與中國官員則在不同程度上著重反對新增限制、市場誘因，或競爭與國家戰略。2
50
52
53
55
在資安風險上，存在較窄的共識
這場辯論並非單純分成「在乎安全」與「不在乎安全」兩邊。以 Cohere 執行長 Aidan Gomez 為例，他表示，AI 模型已成為強大的網路武器，因為它們能大規模發現並利用漏洞。62 這項憂慮更接近吳恩達所說、應處理的具體資安風險；不過，現有報導不足以確定 Gomez 對產業全面放慢或國際 AI 治理的完整立場。
同樣地，現有來源也沒有足夠證據，可對投資人 Steve Eisman 在放慢政策、安全研究、監管與國際治理上的整體立場作出可靠描述。
重點整理
吳恩達的介入重新界定了 AI 安全之爭：問題不是 AI 要不要更安全，而是高度推測的滅絕情境，是否應主導整個議程。他的答案是否定的——優先以測試、安全保障與工程方法處理當前可識別的危害，並避免一刀切的放慢措施；他認為，這類措施可能同時阻礙創新與安全進展。1
2
Studio Global AI
繼續深入研究
這個頁面包含附來源佐證的答案，你可以在 Studio Global 內繼續追問。
大家也會問
「吳恩達：AI 滅絕論「更像科幻」，安全應回到工程與現實風險」的簡短答案是什麼？
吳恩達表示，AI 導致人類滅絕的警告「更像科幻而非科學」；他認為不完美的可預測性，應透過測試、保障措施與工程方法處理，而非成為全面放慢研發的理由。[2]
最值得優先驗證的重點是什麼？
吳恩達表示，AI 導致人類滅絕的警告「更像科幻而非科學」；他認為不完美的可預測性，應透過測試、保障措施與工程方法處理，而非成為全面放慢研發的理由。[2] 他批評業界早期曾放大災難性 AI 傷害的敘事，以爭取關注並影響監管討論，且過度聚焦末日情境可能妨礙社會取得 AI 的效益。[1]
接下來在實務上該怎麼做？
爭論並非「重視安全」與「不重視安全」的二分：吳恩達主張處理資安等可觀察風險；Amodei、Altman、Coxon 與 Hinton 則支持為前沿 AI 的能力提升踩煞車，以爭取安全治理時間。