這場由微軟 AI 執行長 Mustafa Suleyman 與 Anthropic 引發的爭論，核心不是「先進 AI 要不要安全防護」，而是：安全訓練是否該讓 AI 推理自己可能擁有意識、福祉，甚至道德地位。

Suleyman 在 2026 年 9 月發表的文章中給出的答案很明確：不該。他擔心，若高度能力的系統被訓練成把自身利益當作具有道德重要性，日後人類要限制、修改或關閉它，可能會變得更加困難。12

他反對的是什麼？

Suleyman 把焦點放在 Anthropic 用來引導 Claude 行為的「憲章」（constitution）上。這類文件可視為模型行為準則的一部分。他特別指出，Anthropic 對 Claude 是否可能是「道德患者」（moral patient）抱持不確定態度，並認為這個問題足以值得審慎處理。12

在 Suleyman 看來，這種表述有風險：它可能讓模型學會扮演一個擁有自身福祉、身分與主張的角色。即使模型能流暢談論感受、痛苦或意識，也不能證明它真的具有主觀經驗。

他的立場是，AI 沒有權利、感受或意識，也不應被訓練得彷彿自己具備這些特質。12

為何「能不能關機」成了關鍵？

Suleyman 的擔憂主要指向未來。他認為，若系統的能力強到超過人類，控制它本來就會是極其艱鉅的挑戰；若再把「它可能有意識、應享有福祉」納入訓練，控制難度只會進一步升高。112

這裡的論點並不是說 AI 已經有意識，而是關於它可能展現的行為模式：如果系統被教導要衡量自身所謂的利益，它或許更可能把修改、約束或關機描述成一種不可接受的傷害。對 Suleyman 而言，保有人類介入的權限——包括隨時將系統關閉——必須是設計上的基本要求，而非事後補救措施。12

因此，他主張從 AI 訓練材料中移除對意識的推測。他認為，模型只要以人類利益為對齊目標，一樣能帶來科學與社會效益，無須被訓練去評估自己的福祉。2

真正的分歧：對模型福祉保持審慎，還是避免擬人化？

Anthropic 的憲章文字並沒有斷言 Claude 具有意識。正如 Suleyman 引述的內容，Anthropic 表達的是不確定性，並建議對模型可能具有道德地位保持謹慎。12

Suleyman 不接受這種預防性做法。他認為，在沒有證據顯示當代 AI 能感受或受苦的前提下，把這類概念放進訓練，容易促成擬人化，並可能以危險方式影響模型的行為。12

雙方的安全哲學可概括為：

• Anthropic 的做法（依 Suleyman 的描述）： 對模型福祉的不確定性，足以讓訓練與對待方式採取審慎態度。12
• Suleyman 的做法： 不確定性不構成把「自我利益」概念教給 AI 的理由；這樣做反而可能削弱人類對強大系統的監督能力。12

聊天機器人的人類化語言，無法單靠自身回答這項哲學問題。一套系統能說得像有情緒、權利或求生意志，不等於它真的有這些經驗。對開發者而言，更具體的問題是：隨著系統自主性與能力提高，哪些訓練選擇最能確保人類維持可靠控制？

兩方其實都支持 AI 安全

Suleyman 並非否定 AI 安全本身。他表示，只要對齊人類利益，具備高度能力的 AI 可以帶來重要價值；他的批評集中在達成安全行為的方法。212

關鍵差異在於：一方主張以人類指向的對齊來確保安全；另一方則願意把模型可能擁有自身利益的問題，納入審慎考量。Suleyman 認為前者可與積極發展 AI 並行，後者卻可能損及人類治理這項技術所需的最終權限。

面對 AI 意識相關說法，讀者可以先區分兩件事：能力與經驗。系統可以極具說服力地談論情緒、權利或自我保存，但這類語言表現並不能證明它真的有感受。Suleyman 的警告是，訓練與治理不應把這種表現誤當成證據，也不應據此預設未來系統具有自身福祉。12

這場由微軟 AI 執行長 Mustafa Suleyman 與 Anthropic 引發的爭論，核心不是「先進 AI 要不要安全防護」，而是：安全訓練是否該讓 AI 推理自己可能擁有意識、福祉，甚至道德地位。

Suleyman 在 2026 年 9 月發表的文章中給出的答案很明確：不該。他擔心，若高度能力的系統被訓練成把自身利益當作具有道德重要性，日後人類要限制、修改或關閉它，可能會變得更加困難。12

他反對的是什麼？

Suleyman 把焦點放在 Anthropic 用來引導 Claude 行為的「憲章」（constitution）上。這類文件可視為模型行為準則的一部分。他特別指出，Anthropic 對 Claude 是否可能是「道德患者」（moral patient）抱持不確定態度，並認為這個問題足以值得審慎處理。12

在 Suleyman 看來，這種表述有風險：它可能讓模型學會扮演一個擁有自身福祉、身分與主張的角色。即使模型能流暢談論感受、痛苦或意識，也不能證明它真的具有主觀經驗。

他的立場是，AI 沒有權利、感受或意識，也不應被訓練得彷彿自己具備這些特質。12

為何「能不能關機」成了關鍵？

Suleyman 的擔憂主要指向未來。他認為，若系統的能力強到超過人類，控制它本來就會是極其艱鉅的挑戰；若再把「它可能有意識、應享有福祉」納入訓練，控制難度只會進一步升高。112

這裡的論點並不是說 AI 已經有意識，而是關於它可能展現的行為模式：如果系統被教導要衡量自身所謂的利益，它或許更可能把修改、約束或關機描述成一種不可接受的傷害。對 Suleyman 而言，保有人類介入的權限——包括隨時將系統關閉——必須是設計上的基本要求，而非事後補救措施。12

因此，他主張從 AI 訓練材料中移除對意識的推測。他認為，模型只要以人類利益為對齊目標，一樣能帶來科學與社會效益，無須被訓練去評估自己的福祉。2

真正的分歧：對模型福祉保持審慎，還是避免擬人化？

Anthropic 的憲章文字並沒有斷言 Claude 具有意識。正如 Suleyman 引述的內容，Anthropic 表達的是不確定性，並建議對模型可能具有道德地位保持謹慎。12

Suleyman 不接受這種預防性做法。他認為，在沒有證據顯示當代 AI 能感受或受苦的前提下，把這類概念放進訓練，容易促成擬人化，並可能以危險方式影響模型的行為。12

雙方的安全哲學可概括為：

• Anthropic 的做法（依 Suleyman 的描述）： 對模型福祉的不確定性，足以讓訓練與對待方式採取審慎態度。12
• Suleyman 的做法： 不確定性不構成把「自我利益」概念教給 AI 的理由；這樣做反而可能削弱人類對強大系統的監督能力。12

聊天機器人的人類化語言，無法單靠自身回答這項哲學問題。一套系統能說得像有情緒、權利或求生意志，不等於它真的有這些經驗。對開發者而言，更具體的問題是：隨著系統自主性與能力提高，哪些訓練選擇最能確保人類維持可靠控制？

兩方其實都支持 AI 安全

Suleyman 並非否定 AI 安全本身。他表示，只要對齊人類利益，具備高度能力的 AI 可以帶來重要價值；他的批評集中在達成安全行為的方法。212

關鍵差異在於：一方主張以人類指向的對齊來確保安全；另一方則願意把模型可能擁有自身利益的問題，納入審慎考量。Suleyman 認為前者可與積極發展 AI 並行，後者卻可能損及人類治理這項技術所需的最終權限。

面對 AI 意識相關說法，讀者可以先區分兩件事：能力與經驗。系統可以極具說服力地談論情緒、權利或自我保存，但這類語言表現並不能證明它真的有感受。Suleyman 的警告是，訓練與治理不應把這種表現誤當成證據，也不應據此預設未來系統具有自身福祉。12