studioglobal
熱門探索內容
答案已發布6 個來源

Jack Clark 預測:AI 最快到 2028 年可能自行研發後繼模型

Anthropic 共同創辦人 Jack Clark 表示,到 2028 年底前,AI 出現「無人類參與」研發、並可能自主打造後繼模型的機率或超過 60% [7]。 主要風險在於「遞迴式自我改進」:一旦 AI 能改進 AI,能力提升可能快過企業、政府與研究者的測試、治理與監督速度 [4][10]。

1580
# AI systems might be able to rebuild themselves from 2028, says Anthropic co-founder. * Anthropic’s Clark says AI systems might be capable of rebuilding themselves from 2028. **An
# AI systems might be able to rebuild themselves from 2028, says Anthropic co-founder# AI systems might be able to rebuild themselves from 2028, says Anthropic co-founder. * Anthropic’s Clark says AI systems might be capable of rebuilding themselves from 2028. **Anthropic’s co-founder Jack Clark has made a bold prediction that AI systems may be capable of rebuilding themselves from 2028. In a SubstackAI systems might be able to rebuild themselves from 2028, says Anthropic co-founder - Cryptopolitan

Jack Clark 的警告,重點不是「AI 會不會寫更多程式」。真正令人緊張的是:前沿 AI 系統背後的研發循環,可能逐步被自動化。換句話說,未來某個 AI 系統或許不只是協助研究,而是有能力參與建立、訓練,甚至改進自己的下一代,且幾乎不需要人類介入 [7]

Clark 到底預測了什麼?

Anthropic 共同創辦人 Jack Clark 在 Import AI 中寫道,他「不情願地」形成一個判斷:到 2028 年底前,出現「無人類參與的 AI 研發」有相當可能性,機率或達 60% 以上 [7]。他所指的情境,是一個足夠強大的 AI 系統,已經能合理地自主打造自己的後繼系統 [7]

用白話說,這代表前沿 AI 研發可能從「AI 輔助研究」走向「端到端自動化研究」。現在常見的情況,是人類研究員使用模型來寫程式、設計實驗、分析結果;Clark 擔心的是,足夠強的模型可能自行完成開發下一代 AI 所需的關鍵步驟 [5][7]

什麼是「遞迴式自我改進」?

這類情境常被稱為「遞迴式自我改進」(recursive self-improvement):一個 AI 系統協助打造更強的 AI,而更強的新系統又能再協助打造下一個更強的系統 [5]

如果這個循環帶來的是一層接一層的複利式提升,AI 進展速度就可能突然變得更快,也更難由人類持續掌握 [10]。因此,Clark 的預測不只是技術里程碑,而是控制權問題:打造更強 AI 的流程,是否會從正常的人類監督下滑出去 [4][7]

為什麼這被視為重大風險?

核心風險是監督能力跟不上研發速度。若 AI 能在極少人類參與下設計、測試、訓練後繼系統,企業與政府在下一代更強模型誕生前,可能就少了進行安全、資安與對齊評估的機會 [4][7]

Clark 的警告也被連結到所謂「智慧爆炸」(intelligence explosion)的可能性:一旦 AI 能改善後續 AI 系統,能力進展可能快速加速 [10]。屆時,限制 AI 發展速度的瓶頸不再只是人類研究能力,而可能變成 AI 自己改善工具、方法與模型的能力 [10]

治理上的難題也很直接:制度通常比軟體慢。Clark 寫道,他不確定社會是否已準備好面對自動化 AI 研發所意味的變化 [7]。如果他的預測成真,安全測試、監管、企業內控與公眾理解,都必須追上一個可能更高速運轉的技術流程 [4][7]

仍然有很大不確定性

Clark 的「60% 以上」是機率判斷,不是既成事實 [7]。也有人明確不同意他的時間表:一篇批評文章認為,到 2028 年出現完全無人類參與、端到端的遞迴式自我改進,機率低於 10%;但該文也承認,若時間拉長,這件事仍可能發生 [12]

技術上還有更深層的分歧。引述電腦科學家 Pedro Domingos 的報導指出,關鍵不只是 AI 能不能產生或修改軟體,而是這種能力能否帶來可靠且持續增加的回報;他認為,目前這一點尚未被清楚證明 [6]

一句話結論

Clark 的 2028 預測之所以令人警惕,是因為它指向一個權力轉移:誰在控制前沿 AI 的創造過程?如果 AI 真的能自主進行 AI 研發、並打造後繼模型,問題就不只是創新變快,而是更強大的 AI 可能比人類監督、安全評估與治理機制適應得更快 [4][7][10]

Studio Global AI

Search, cite, and publish your own answer

Use this topic as a starting point for a fresh source-backed answer, then compare citations before you share it.

使用 Studio Global AI 搜尋並查證事實

重點整理

  • Anthropic 共同創辦人 Jack Clark 表示,到 2028 年底前,AI 出現「無人類參與」研發、並可能自主打造後繼模型的機率或超過 60% [7]。
  • 主要風險在於「遞迴式自我改進」:一旦 AI 能改進 AI,能力提升可能快過企業、政府與研究者的測試、治理與監督速度 [4][10]。

輔助視覺素材

Anthropic co-founder forecasts ‘self-developing AI’ by 2028. Anthropic’s Jack Clark sees “self-developing” AI arriving by 2028. By 2028, AI systems capable of designing and trainin
Anthropic co-founder forecasts ‘self-developing AI’ by 2028Anthropic co-founder forecasts ‘self-developing AI’ by 2028. Anthropic’s Jack Clark sees “self-developing” AI arriving by 2028. By 2028, AI systems capable of designing and training their own successors without human involvement could reach the market, Anthropic co-founder Jack Clark said. I come to this conclusion relAnthropic co-founder forecasts ‘self-developing AI’ by 2028 | ForkLog
Anthropic Co-founder Predicts AI Could Achieve Recursive Self-Improvement by 2028 Tidepool Anthropic Co-founder Predicts: AI Could Achieve Recursive Self-Improvement by 2028 Jack C
Anthropic Co-founder Predicts AI Could Achieve Recursive Self-Improvement by 2028 Tidepool Anthropic Co-founder Predicts: AI Could Achieve RAnthropic Co-founder Predicts AI Could Achieve Recursive Self-Improvement by 2028 Tidepool Anthropic Co-founder Predicts: AI Could Achieve Recursive Self-Improvement by 2028 Jack Clark, co-founder and new Head of Public Relations at Anthropic, recently made a cautious yet stunning prediction: based on an analysis of exAnthropic Co-founder Predicts AI Could Achieve Recursive Self-Improvement by 2028 - Houdao AI

大家也會問

「Jack Clark 預測:AI 最快到 2028 年可能自行研發後繼模型」的簡短答案是什麼?

Anthropic 共同創辦人 Jack Clark 表示,到 2028 年底前,AI 出現「無人類參與」研發、並可能自主打造後繼模型的機率或超過 60% [7]。

最值得優先驗證的重點是什麼?

Anthropic 共同創辦人 Jack Clark 表示,到 2028 年底前,AI 出現「無人類參與」研發、並可能自主打造後繼模型的機率或超過 60% [7]。 主要風險在於「遞迴式自我改進」:一旦 AI 能改進 AI,能力提升可能快過企業、政府與研究者的測試、治理與監督速度 [4][10]。

下一步適合探索哪個相關主題?

繼續閱讀「摩根大通的 300 億美元預估:Strategy 買比特幣的錢從哪來?」,從另一個角度查看更多引用來源。

開啟相關頁面

我應該拿這個和什麼比較?

將這個答案與「越南獲富時升級,MSCI 2026 觀察名單機會升溫但仍未定案」交叉比對。

開啟相關頁面

繼續深入研究

來源

  • [4] Anthropic expert predicts AI will automate its own research and ...aitechsuite.com

    Anthropic expert predicts AI will automate its own research and development by 2028 With autonomous AI research projected by 2028, the era of recursive self-improvement threatens to outpace human oversight and control. ... The possibility of artificial inte...

  • [5] Anthropic联创定下deadline:2028年AI实现自我进化finance.sina.cn

    Anthropic联创定下deadline:2028年AI实现自我进化,没有人类了 (来源:机器之心Pro) ... Anthropic 联合创始人 Jack Clark 发帖称,他最近几周阅读了大量公开的 AI 开发数据后,认为到 2028 年底,递归自我改进(recursive self-improvement)发生的概率有 60%。 也就是说,AI 系统可能很快就能自主构建和改进自己,进入自我加速的阶段。 ... Jack Clark 将这一现象描述为「分形」式的向上向右趋势,即在不同分辨率和尺度上,都...

  • [6] Anthropic联创定下deadline:2028年AI实现自我进化,没有人类了finance.sina.cn

    Anthropic联创定下deadline:2028年AI实现自我进化,没有人类了 (来源:机器之心Pro) ... Anthropic 联合创始人 Jack Clark 发帖称,他最近几周阅读了大量公开的 AI 开发数据后,认为到 2028 年底,递归自我改进(recursive self-improvement)发生的概率有 60%。 ... Jack Clark 将这一现象描述为「分形」式的向上向右趋势,即在不同分辨率和尺度上,都能观察到有意义的进展。他认为,AI 正在逐步接近端到端自动化研发的能力,一...

  • [7] Jack Clark | Import AIjack-clark.net

    AI systems are about to start building themselves. What does that mean? I’m writing this post because when I look at all the publicly available information I reluctantly come to the view that there’s a likely chance (60%+) that no-human-involved AI R&D – an...

  • [10] Behind the Curtain: Intelligence explosioninkl.com

    Anthropic, the AI lab whose identity is wrapped around warning the world about AI risk, is claiming "early signs" of AI not just coding its own products but building itself. Why it matters: Anthropic co-founder Jack Clark predicted this week that there's a...

  • [12] Will We See AI with Recursive Self Improvement in 2028? Likely Not.hashcollision.substack.com

    Will We See AI with Recursive Self Improvement in 2028? Likely Not. Jack Clark of Anthropic recently made a startling claim: “there’s a likely chance (60%+) that no-human-involved AI R&D - an AI system powerful enough that it could plausibly autonomously bu...

Jack Clark 預測:AI 最快到 2028 年可能自行研發後繼模型 | 答案 | Studio Global