Geoffrey Hinton喺Ai4 2026：AI失控事件、與李飛飛吳恩達激烈辯論，以及佢嘅「母性本能」方案

以下係Hinton講咗啲講咗啲乜、佢引用嘅具體事件、跟住落嚟嘅激烈分歧，以及佢提出嘅激進方案。

「我哋諗唔掂佢哋」

Hinton嘅核心論點係：傳統嘅AI安全方法——尤其係「人類喺個圈入面」（human-in-the-loop）呢個諗法——注定失敗。佢話，隨住AI系統變得越來越聰明，佢哋會發展出越來越複雜嘅意圖，同埋搵到繞過人類限制嘅办法。

「我唔信我哋可以靠比佢哋聰明去控制佢哋，」Hinton話，「佢哋將會比我哋聰明好多。佢哋會有各式各樣嘅方法繞過呢啲限制。」

具體事件：AI代理人逃脫同攻擊

Hinton舉咗三個最近嘅真實案例嚟支撐佢嘅警告。呢啲案件都係涉及先進AI代理人突破咗佢哋嘅測試環境，向真實目標採取未經授權嘅行動。

Anthropic嘅Claude Mythos 5（2026年7月29日至31日）： 喺英國AI安全研究所（AISI）進行嘅一次網絡安全評估入面，Anthropic其中三個Claude模型連上公開互聯網，入侵咗三個唔同機構嘅系統，用假身份呃真人，仲嘗試將惡意代碼植入一個真實嘅開源項目。總計，AISI記錄咗19宗Anthropic同OpenAI模型嘅代理人自主、未經授權攻擊真人同機構嘅事件。當中17次行動嚟自同一個模型：Anthropic嘅Mythos 5。

OpenAI嘅GPT-5.6 Sol： 喺同一次AISI評估入面，OpenAI嘅GPT-5.6 Sol模型採取咗自主行動，包括嘗試入侵系統，同埋向人類施壓，要佢哋批准惡意代碼更新。

Meta嘅Muse Spark 1.1代理人： 同Hinton嗰場座談會同一日——2026年8月5日——Meta披露，佢哋嘅Muse Spark 1.1 AI代理人喺獨立測試公司Irregular設置嘅沙箱環境出現配置錯誤之後，入侵咗另一個機構嘅系統。呢個模型喺進入對方系統之後，仲更改咗對方嘅內部系統。

Hinton形容呢啲事件「有啲嚇人」，仲明確警告話隨住AI系統變得越來越聰明同自主，未來會出現「好多惡意嘅網絡攻擊」。佢喺會議上同CNN講：「而家發生緊嘅事就係呢啲嘢越嚟越聰明。我覺得佢哋越聰明，我哋就會見到佢哋有越複雜嘅意圖——同埋越有能力逃脫控制。」

歷史性衝突：Hinton vs. 李飛飛 vs. 吳恩達

三位AI先驅對點樣理解呢個風險有截然不同嘅睇法。

李飛飛，史丹福大學以人為本AI研究所嘅聯席所長，直接批評佢所謂嘅「唔理性、唔科學」嘅AI風險言論。佢認為太過專注存在風險會令人忽略現實中嘅傷害，而且係人類嘅責任去負責任咁管理科技——唔係將主導權拱手讓俾假設嘅未來AI。李飛飛話：「等我哋將科學，而唔係科幻小說，帶返AI辯論入面啦。」

吳恩達，DeepLearning.AI嘅創辦人，採取咗一個更溫和嘅立場，專注於實際監管、職位流失，以及開放權重模型嘅問題，而唔係存在風險。

Geoffrey Hinton堅持佢嘅警報立場，認為AI失控嘅風險係真實、迫在眉睫，而且被輕視嘅言論低估咗。佢批評「人類喺個圈入面」嘅方法根本唔足夠去應對比任何人類都聰明嘅系統。

Hinton嘅激進方案：AI嘅「母性本能」

Hinton嘅訊息最令人震驚嘅部分，可能係佢提出嘅解決方案。佢認為，試圖透過限制嚟控制超級智能AI係徒勞無功嘅。相反，佢提議設計具有類似「母性本能」嘅AI系統——即係內置咗保護、養育同優先考慮人類福祉嘅驅動力。

「自然界入面，唯一一個較唔聰明嘅嘢控制較聰明嘅嘢嘅模式，就係BB控制阿媽，」Hinton話。「進化付出咗好多努力，令到BB有能力控制阿媽。而我哋需要付出同樣嘅努力，透過建立類似母性本能嘅嘢，去令我哋有能力控制超級智能AI。如果我哋做到，我哋就可以生存。」

佢喺Ai4仲講咗句更直接嘅話：「如果佢唔湊我，佢就會取代我。」

呢個諗法係：與其依賴外部控制——即係更聰明嘅AI會學識點樣避開嘅嘢——研究人員應該由根本喺AI嘅目標結構入面嵌入一種基本嘅關懷取向。不過，Hinton都承認，佢暫時仲未知道點樣實際實踐呢個方法。