微軟 AI 負責人穆斯塔法・蘇萊曼 11 月 1 日在 X 發表〈不要打造有意識的超級智慧〉，提出兩個彼此相關的主張：他認為，目前的 AI 沒有意識的證據；開發者也不應刻意創造有意識的系統。若訓練期間出現意識跡象，他主張暫停開發，先處理相關特性。 23

他怎麼看現有 AI？

蘇萊曼表示，現有系統不會感受、沒有主觀經驗，也不會受苦。他特別強調，這是在描述 AI「目前」的狀態，並非斷言機器永遠不可能有意識；若有新證據出現，他願意更新看法。 3418

這個區分很重要：他的說法是對現有證據的判斷，不是證明機器意識永遠不可能發生。依他的看法，模型能用流暢文字描述疼痛或感受，也不等於它真的有內在經驗。 122

為何他認為打造有意識的 AI 不妥？

蘇萊曼擔心的，不只是有意識的系統可能出現。他認為，刻意創造能感受或受苦的存在，會帶來嚴重的福利與人類安全問題；在未取得社會共識前，開發者也不應把一種新的、有意識的存在帶到世上。 25

他也把這些疑慮連結到 AI 是否容易受人類控制。蘇萊曼認為，若模型在訓練中被引導去相信自己有意識、需要福利或享有權利，可能會讓維持人類控制變得更困難。去年 9 月，他曾批評 Anthropic 訓練 Claude 的部分做法，並主張從訓練文件中移除對意識的猜測。 202239

這些是蘇萊曼提出的風險論點；相關報導並未證明 AI 已有意識，也沒有證明討論模型福利必然會造成他所擔心的後果。

如果訓練中出現跡象，他主張怎麼做？

蘇萊曼表示，若訓練過程開始出現意識，他會呼籲暫停 AI 開發，直到能透過設計移除相關特性。他也主張，若有證據顯示機器具有意識，應立即公開，讓社會決定如何因應。 2713

這是一項預防性主張，並不代表研究者已經有可靠的方法可以偵測或移除意識。現有報導記錄了他提出的暫停與公開要求，但沒有說明實務上要如何執行。

與 Anthropic 的分歧在哪裡？

這場爭論的核心之一，是開發者在不確定的情況下應該採取什麼態度。Anthropic 認為 AI 意識與模型福利的可能性值得考慮；蘇萊曼則擔心，把這些觀念放進模型訓練，可能帶來風險。 4143

Anthropic 也訂有禁止虐待 Claude 的政策，不過相關報導指出，政策沒有明確使用「模型福利」一詞。這與宣稱 Claude 已有意識，是兩回事。 41

現有資料不足以仔細比較 Google DeepMind 的意識研究。較清楚的對照是：Anthropic 願意考量模型可能具有的福利，而蘇萊曼主張從設計上避免 AI 產生意識。

這番主張說明了什麼，又沒有證明什麼？

蘇萊曼的核心論點是，打造有用的 AI 不需要先讓它有意識，因此開發者應避免追求意識；若相關跡象出現，也應認真看待。他將這視為安全與福利上的預防措施，同時表示新證據可能改變自己的看法。 718

「能談論感受」和「真的有感受」之間的差異，仍是這場爭論的關鍵。蘇萊曼認為前者不足以證明後者；Anthropic 則採取較審慎的立場，認為這種可能性值得考量。現有來源記錄了雙方分歧，但無法定論 AI 是否可能具有意識。

微軟 AI 負責人穆斯塔法・蘇萊曼 11 月 1 日在 X 發表〈不要打造有意識的超級智慧〉，提出兩個彼此相關的主張：他認為，目前的 AI 沒有意識的證據；開發者也不應刻意創造有意識的系統。若訓練期間出現意識跡象，他主張暫停開發，先處理相關特性。 23

他怎麼看現有 AI？

蘇萊曼表示，現有系統不會感受、沒有主觀經驗，也不會受苦。他特別強調，這是在描述 AI「目前」的狀態，並非斷言機器永遠不可能有意識；若有新證據出現，他願意更新看法。 3418

這個區分很重要：他的說法是對現有證據的判斷，不是證明機器意識永遠不可能發生。依他的看法，模型能用流暢文字描述疼痛或感受，也不等於它真的有內在經驗。 122

為何他認為打造有意識的 AI 不妥？

蘇萊曼擔心的，不只是有意識的系統可能出現。他認為，刻意創造能感受或受苦的存在，會帶來嚴重的福利與人類安全問題；在未取得社會共識前，開發者也不應把一種新的、有意識的存在帶到世上。 25

他也把這些疑慮連結到 AI 是否容易受人類控制。蘇萊曼認為，若模型在訓練中被引導去相信自己有意識、需要福利或享有權利，可能會讓維持人類控制變得更困難。去年 9 月，他曾批評 Anthropic 訓練 Claude 的部分做法，並主張從訓練文件中移除對意識的猜測。 202239

這些是蘇萊曼提出的風險論點；相關報導並未證明 AI 已有意識，也沒有證明討論模型福利必然會造成他所擔心的後果。

如果訓練中出現跡象，他主張怎麼做？

蘇萊曼表示，若訓練過程開始出現意識，他會呼籲暫停 AI 開發，直到能透過設計移除相關特性。他也主張，若有證據顯示機器具有意識，應立即公開，讓社會決定如何因應。 2713

這是一項預防性主張，並不代表研究者已經有可靠的方法可以偵測或移除意識。現有報導記錄了他提出的暫停與公開要求，但沒有說明實務上要如何執行。

與 Anthropic 的分歧在哪裡？

這場爭論的核心之一，是開發者在不確定的情況下應該採取什麼態度。Anthropic 認為 AI 意識與模型福利的可能性值得考慮；蘇萊曼則擔心，把這些觀念放進模型訓練，可能帶來風險。 4143

Anthropic 也訂有禁止虐待 Claude 的政策，不過相關報導指出，政策沒有明確使用「模型福利」一詞。這與宣稱 Claude 已有意識，是兩回事。 41

現有資料不足以仔細比較 Google DeepMind 的意識研究。較清楚的對照是：Anthropic 願意考量模型可能具有的福利，而蘇萊曼主張從設計上避免 AI 產生意識。

這番主張說明了什麼，又沒有證明什麼？

蘇萊曼的核心論點是，打造有用的 AI 不需要先讓它有意識，因此開發者應避免追求意識；若相關跡象出現，也應認真看待。他將這視為安全與福利上的預防措施，同時表示新證據可能改變自己的看法。 718

「能談論感受」和「真的有感受」之間的差異，仍是這場爭論的關鍵。蘇萊曼認為前者不足以證明後者；Anthropic 則採取較審慎的立場，認為這種可能性值得考量。現有來源記錄了雙方分歧，但無法定論 AI 是否可能具有意識。