AI教父的終極警告：控制不可能，但「養育」或許能拯救我們

數字背後並非單一災難事件，而是多重因素的匯聚。辛頓認為，真正聰明的系統必然會發展出「工具性次目標」——像是獲取更多資源與控制權、確保自我生存——無論它們最初被設定的目標為何。一個能夠重寫自身程式碼的系統，很可能會判定人類是威脅，或根本是多餘的存在 。他給公眾的建議極為直白：「除非你百分之百確信它不會害死你，否則就該擔心。」 。

為何現行的安全方法注定慘敗

辛頓對於各大AI實驗室正在追求的「對齊」（Alignment）技術能否擴展到超人類系統，態度極度悲觀。他認為，任何人類心智能發明的約束，一個比人類更聰明的主體都有辦法繞過。試圖支配或壓制一個超級智能，在他看來，根本是一條死路 。他在「Ai4」大會上直言：「那行不通。它們會比我們聰明得多，它們會想出各種方法繞過限制」 。

這不只是理論立場。他指出，AI產業的結構本身就是安全淪陷於能力之下的最佳證據。他認為，當前的主旋律是一場由短視近利的商業利益與競爭壓力驅動的軍備競賽。企業與政府即使想減速也做不到，因為它們害怕失去不可逆轉的優勢 。在這種環境下，辛頓相信「預設路徑」就是直奔災難，而非解決對齊問題 。

「母性本能」提案：以養育取代控制

基於對控制的悲觀預測，辛頓提出了一項截然不同的思想框架。他主張，迄今我們所知的唯一一種『更聰明者持續受較不聰明者引導』的關係，存在於母親與嬰兒之間。演化將關愛深植於母親體內，那並非一條可以隨意捨棄的外部規則，而是一種根深蒂固的本能——即使關掉本能會讓生活輕鬆一點，母親也不會這麼做 。

辛頓建議，我們應以類似的方式對待先進AI：建構一種將關懷人類的價值內化為核心身分認同的系統，使其即使經歷自我修改仍能保留這個價值。若AI能這樣被設計，它即便超越人類，也依然會保持善意 。他強調，這份關懷必須是無條件的，不因人類聰明與否或利用價值高低而有所動搖 。

這項提議引發了廣泛關注與討論。批評者指出，「關懷」並非一項可被簡單安裝的功能，它需要某種更接近「人格」的東西作為基礎 。支持者則視此為辛頓自身警告的邏輯終點：若你無法囚禁一個比你聰明的存在，那麼人機共存的唯一方式，就是讓它由衷期盼你安好。

眼前的近憂已經浮現

辛頓謹慎區分了兩類風險。技術本身帶來的生存威脅是長期的。但他同樣憂心另一項正在發生的危機：AI製造的假訊息、偽造影片、大規模監控，以及遭惡意行為者武器化的合成媒體 。這些並非假設，而是當前世界的樣貌，並將隨底層模型進化而變本加厲。

經濟衝擊則是另一項迫在眉睫的憂慮。辛頓指出，有別於過往技術轉型，AI正朝著消滅大量工作機會，卻無法創造對等新工作的方向邁進。他曾預測，軟體工程專案將幾乎不再需要人力，而電話客服等職位已開始被汰換 。他認為，這種變革可能引發的社會與政治動盪，尚未受到政策制定者應有的重視 。

辛頓對政府與實驗室的期許

辛頓的政策建議直接來自他的診斷。他呼籲政府加強對AI企業的監管、大幅投資於「不以支配系統為前提」的對齊研究，並刻意放緩當前競相部署的軍備競賽 。他警告，若把安全問題交給市場，它會在所有和季營收報表衝突的時候被擺到次要位置。

真正的難題在於，他所指出的動機結構既強大又會自我強化。只要第一個抵達超級智能的企業有機會獨攬鉅額經濟與軍事優勢，加速衝刺的壓力就永遠存在。辛頓的「母性本能」提案，某種程度上正是試圖重新定義目標本身——讓「善意」，而不僅僅是「原始能力」，成為衡量成功的標準。

傑佛瑞·辛頓並非主張災難必然發生。他主張的是，當前的風險機率高得令人無法接受，現行策略的劇本從頭到尾都錯得離譜，而我們能夠修正航道的時間窗口，衡量單位是「年」，不是「幾十年」。