答案已發布25 來源
Andrew Ng：AI 滅絕論「更似科幻」 安全工作應先處理網絡攻擊等實際風險
Andrew Ng 形容 AI 令人類滅絕嘅警告「更似科幻而非科學」，反對以此作為全面放慢 AI 發展嘅理由。[2] 佢認為 AI 安全應視為工程問題：持續測試、加設安全護欄，並隨住發現新問題而迭代改善；網絡安全等可預見風險應優先處理。[2][5] Coxon、Amodei、Altman 同 Hinton 支持為前沿模型能力升級「減速」或加強外部評估；黃仁勳、朱克伯格、特朗普及中國官員則反對全行業放慢，但理據各有不同。[18][19][20][50][52][53][55]
發布者使用 GPT-5.6 Terra 編輯圖片由 GPT Image 2 生成
研究答案
重點
- Andrew Ng 形容 AI 令人類滅絕嘅警告「更似科幻而非科學」，反對以此作為全面放慢 AI 發展嘅理由。[2]
- 佢認為 AI 安全應視為工程問題：持續測試、加設安全護欄，並隨住發現新問題而迭代改善；網絡安全等可預見風險應優先處理。[2][5]
- Coxon、Amodei、Altman 同 Hinton 支持為前沿模型能力升級「減速」或加強外部評估；黃仁勳、朱克伯格、特朗普及中國官員則反對全行業放慢，但理據各有不同。[18][19][20][50][52][53][55]
AI 提示
openai.comCreate a landscape editorial hero image for this Studio Global article: What did AI pioneer Andrew Ng say in his September 17 Bloomberg TV interview about warnings that artificial intelligence could cause human e. Article summary: Andrew Ng rejected the claim that AI is likely to cause human extinction as “much more science fiction than science.” He argued that uncertainty in AI behavior is an engineering problem to manage—not evidence that societ. Topic tags: general, news, general web. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, charts with fake numbers
Andrew Ng 嘅重點唔係話 AI 冇風險，而係指「AI 快將令全人類滅絕」呢類講法太多推測，唔應該成為 AI 政策嘅主軸。
佢喺 9 月 17 日接受 Bloomberg TV 訪問時，形容相關警告「更似科幻而非科學」。Ng 承認 AI 系統永遠唔會做到百分百可預測，但佢認為，呢個事實唔等於社會就要全面叫停 AI 研發；透過測試、安全措施同工程改良，可以逐步令系統更安全。2
Ng：唔好用「末日論」取代安全工程
Ng 指出，廣泛放慢 AI 發展，反而有可能令安全技術本身嘅進步都慢埋。他主張將 AI 安全視為一項持續嘅工程工作：先找出會發生、可觀察到嘅失誤，再部署防護，並按新問題不斷改善。2
換言之，佢唔承諾可以完全控制 AI；佢嘅立場係，正如其他工程範疇一樣，系統可靠性可以靠評估、修正同反覆改進提升到可接受水平。
點解佢質疑「AI 末日」敘事？
Ng 認為，將焦點放喺存在性風險警告，可能會妨礙社會充分取得 AI 帶來嘅好處。佢亦表示，科技業喺今輪 AI 熱潮早期曾經放大災難性傷害嘅憂慮，似乎係為咗增加曝光，同時影響監管討論。1
佢唔係反對安全研究，而係反對將人類滅絕講到好似已有定論，繼而以此支持一刀切暫停發展。對 Ng 而言，安全議程應由可驗證、可處理嘅故障模式出發，而唔係由高度假設性嘅滅絕情境帶領。
佢想優先處理邊啲風險？
報道指出，Ng 認為網絡安全同其他具體防護措施應優先處理。5 實際做法包括：
- 嚴謹測試：喺部署前及部署後持續驗證系統表現；
- 安全護欄與限制措施：針對已知失效模式設下邊界；
- 反覆工程改良：發現問題後修正，逐步提高可靠性；
- 聚焦可預見傷害：例如 AI 被用作協助發掘及利用保安漏洞嘅網絡風險，而非將政策重心放晒喺滅絕論。
2
5
同「放慢前沿 AI」陣營差喺邊？
雙方都講安全，但對風險機率同政策力度嘅判斷差好遠。
Jacob Coxon：憂慮快速走向自我改進系統
前 Anthropic 及 OpenAI 研究員 Jacob Coxon 辭去 Anthropic 職位後警告，快速推進至可自我改進嘅系統可能帶來災難性後果。他認為需要放慢步伐，亦歡迎 Anthropic 提出為發展節奏「減速」嘅方案。33
43
Dario Amodei：為安全措施爭取時間
Anthropic 行政總裁 Dario Amodei 呼籲公司放慢提升模型能力嘅速度，目標係爭取更多時間管理風險。他提出嘅框架包括讓獨立評估員參與評估。18
Sam Altman：支持為前沿發展設節奏
OpenAI 行政總裁 Sam Altman 認同 Amodei 方案嘅基本前提，並承諾採納其中一項安全措施：讓外部獨立評估員取得具實質意義嘅存取權，以評估安全實務。19
24
Geoffrey Hinton：擔心失去人類控制
被稱為「AI 教父」嘅 Geoffrey Hinton 表示，AI 脫離人類控制存在「重大風險」。佢支持減慢發展，亦主張新聊天機械人推出前要先做測試，並認為政府行動太慢。20
實質分歧在於：Coxon、Amodei、Altman 同 Hinton 覺得失控風險已經有足夠可能性，值得刻意放慢最先進模型嘅能力提升；Ng 則認為滅絕論證據不足，安全資源應優先投向具體而可處理嘅問題。2
18
20
同樣反對全面減速，Ng 同其他人都唔係同一套理由
Ng 反對廣泛放慢研發，唔代表佢同其他反對者嘅論點完全一致。
- 黃仁勳（Jensen Huang）：Nvidia 行政總裁表示，AI 行業唔需要新法例或新監管。
53
- 朱克伯格（Mark Zuckerberg）：Meta 行政總裁認為，冇需要全行業放慢；競爭同市場誘因會推動公司令模型更安全。
55
- 美國總統特朗普（Donald Trump）：特朗普將失控 AI 恐懼稱為「騙局」，並指美國已有工具監管及檢控 AI 公司。
49
50
- 中國官員：中國外交部發言人反駁要求放慢前沿 AI 發展嘅呼籲。
佢哋同 Ng 一樣，都唔支持全面暫停或減速，但出發點唔同。Ng 係技術及工程取向：量度實際傷害、建立更好控制；黃仁勳、朱克伯格、特朗普同中國官員則分別較着重反對新增限制、市場誘因，或者競爭與國家戰略。2
50
52
53
55
網絡風險係少有嘅交集
呢場爭論唔係簡單分成「重視安全」同「唔重視安全」兩派。Cohere 行政總裁 Aidan Gomez 指出，AI 模型可以大規模發掘並利用漏洞，已變成威力極強嘅網絡武器。62 呢個憂慮同 Ng 提出應優先處理具體網絡安全風險較接近。
不過，現有報道不足以確定 Gomez 對全行業減速或國際 AI 管治理場嘅完整看法；至於投資者 Steve Eisman，現有資料同樣不足以可靠判斷佢對減速政策、安全研究、監管及國際治理嘅立場。
重點：安全唔等於要由末日情境主導
Ng 今次介入，將問題重新聚焦：AI 當然要更安全，但應唔應該由推測性嘅人類滅絕情境主導整個議程？佢嘅答案係唔應該。與其全面減速，不如優先投入測試、安全護欄同工程改良，處理眼前可辨認嘅風險；而佢認為，全面放慢亦可能同時拖慢創新同安全進展。1
2
Studio Global AI
繼續你的研究
此頁麵包含一個有來源支援的答案，您可以在 Studio Global 內繼續。
人們還問
「Andrew Ng：AI 滅絕論「更似科幻」 安全工作應先處理網絡攻擊等實際風險」的簡短答案是什麼？
Andrew Ng 形容 AI 令人類滅絕嘅警告「更似科幻而非科學」，反對以此作為全面放慢 AI 發展嘅理由。[2]
首先要驗證的關鍵點是什麼？
Andrew Ng 形容 AI 令人類滅絕嘅警告「更似科幻而非科學」，反對以此作為全面放慢 AI 發展嘅理由。[2] 佢認為 AI 安全應視為工程問題：持續測試、加設安全護欄，並隨住發現新問題而迭代改善；網絡安全等可預見風險應優先處理。[2][5]
接下來在實務上我該做什麼？
Coxon、Amodei、Altman 同 Hinton 支持為前沿模型能力升級「減速」或加強外部評估；黃仁勳、朱克伯格、特朗普及中國官員則反對全行業放慢，但理據各有不同。[18][19][20][50][52][53][55]