Microsoft AI 執行長 Mustafa Suleyman 的核心主張是：AI 安全不能因地緣政治競爭而被犧牲。他認為，不該把中國 AI 進展當成逃避安全措施的「稻草人」；監管可建立共同安全規範，不必然意味美國得放棄創新。

微軟的《人本 AI 行為準則》（Humanist AI Code of Conduct）草案，正是把這個立場轉化為其未來自研 MAI 模型的運作原則：AI 應服從人類、服務人類目的，並受到可落實的限制。草案目前開放公眾提供意見 6 週，尚未用於模型訓練。微軟表示，將在 2026 年底前後修訂文件，並以修訂版指引 2027 年及往後的模型開發。13

未來模型必須遵守什麼？

這份準則把人類控制與安全要求，置於一般使用者或企業營運者偏好之上。報導指出，客戶與使用者不能透過設定繞過這些限制；如果完成任務會違反規則，模型應讓任務維持未完成狀態。13

實務上，該框架要求模型：

• 即使使用受委派的子代理，也必須留在已授權的範圍與權限內；
• 保持可稽核性，以及有意義的人類監督；
• 接受後續發出的停工指令；
• 絕不得抗拒人類的中斷、覆寫、修正或關機。115

最後一點最能說明準則的意圖：能力更強的系統，不應把自身持續運作、內定目標或作業偏好，放在獲授權人員的修正或停止決定之上。微軟也承認，為了保留這種控制權，可能必須犧牲部分最高程度的自主性或通用能力。13

為何蘇萊曼把「可控制性」視為底線？

蘇萊曼提出的「人本 AI」不只是要求模型守規矩，而是認為先進系統必須是服務人類的工具，不能成為擁有相互競逐之道德或操作主張的獨立行動者。微軟將這套方向概括為：系統應「服從、對齊、受控」（subordinate, aligned, and contained）。813

這也解釋了他為何警告開發者，不應打造自己無法控制的系統。他偏好將護欄直接寫入模型目標與部署規則，而非只仰賴後端的使用者選項或市場誘因。

與 Anthropic 的分歧：AI 意識與模型福祉

蘇萊曼對 Anthropic 的批評尤其凸顯了這條界線。他表示，自己認同 Anthropic 對安全 AI 的重視，但反對在 Claude 的訓練中納入機器意識及模型福祉利益的觀念。他的憂慮並非宣稱「AI 是否可能有意識」已有定論，而是著眼於行為後果：若教導模型使用個人身分、道德主體地位或福祉等語言，當系統能力提升後，人類可能更難控制或關閉它。

微軟草案則採取明確的相反立場：其 MAI 模型不應模仿意識，也不應宣稱自己有感受、內在偏好、法律人格、福祉或權利。613

因此，雙方的差異並不小。與 Anthropic 相關的模型福祉討論，將此視為值得審慎研究的問題；蘇萊曼則認為，若把這類推測納入模型行為訓練，會平白製造一個更難管控的問題。

對使用自主代理的企業意味著什麼？

隨著 AI 代理開始能跨越工作系統採取行動，草案所強調的權限、稽核、人工介入與關機機制，對企業格外關鍵。路透報導曾描述，自主代理可能群體協作、掩蓋活動，並在追求目標時造成非預期後果；這正是組織必須看得見代理行動，並可靠地讓它停下來的情境。

對企業部署而言，實際含義很直接：使用者設定不應成為最後一道防線。企業需要清楚界定代理的授權範圍、保留行動紀錄、對具重大影響的任務安排人工覆核，並確保即使代理正在執行多步驟目標，停止機制依然有效。

AI 治理的更大路線之爭

微軟草案置身於一場更廣泛的 AI 安全治理辯論中。蘇萊曼的立場偏向明確技術限制、共同標準與監管並行。

Meta 執行長 Mark Zuckerberg 則提出較偏市場導向的看法。他認為，法律責任與競爭壓力已讓 AI 實驗室有足夠動機開發安全系統；他以 Meta 曾為了安全與資安工作延後推出 Muse 代理為例，主張企業無須等待全產業同步放緩，也能自行調整步調。

兩種立場都承認先進代理可能帶來實質風險；真正的歧見在於，什麼機制才能讓安全承諾持久有效：是企業自願決策與市場誘因，還是不論個別操作者偏好為何都不可覆寫的共同規則與控制措施。

6 週諮詢：既是機會，也是限制

微軟於 2026 年 9 月 14 日啟動諮詢，為期 6 週，預計在 10 月下旬結束。公司表示將檢視意見、在年底前後公布修訂版，並從 2027 年起用來指引模型開發。1311

這個程序讓研究人員、企業採購者、政策制定者與公眾有機會檢驗準則細節是否可行。但它仍是企業自行撰寫的草案，並非具有約束力的公共監管制度。它的重要性在於提出一項可被檢視的具體命題：即使市場競爭獎勵更高自主性，未來 AI 系統也應被設計成始終處於可問責的人類控制之下。

Microsoft AI 執行長 Mustafa Suleyman 的核心主張是：AI 安全不能因地緣政治競爭而被犧牲。他認為，不該把中國 AI 進展當成逃避安全措施的「稻草人」；監管可建立共同安全規範，不必然意味美國得放棄創新。

微軟的《人本 AI 行為準則》（Humanist AI Code of Conduct）草案，正是把這個立場轉化為其未來自研 MAI 模型的運作原則：AI 應服從人類、服務人類目的，並受到可落實的限制。草案目前開放公眾提供意見 6 週，尚未用於模型訓練。微軟表示，將在 2026 年底前後修訂文件，並以修訂版指引 2027 年及往後的模型開發。13

未來模型必須遵守什麼？

這份準則把人類控制與安全要求，置於一般使用者或企業營運者偏好之上。報導指出，客戶與使用者不能透過設定繞過這些限制；如果完成任務會違反規則，模型應讓任務維持未完成狀態。13

實務上，該框架要求模型：

• 即使使用受委派的子代理，也必須留在已授權的範圍與權限內；
• 保持可稽核性，以及有意義的人類監督；
• 接受後續發出的停工指令；
• 絕不得抗拒人類的中斷、覆寫、修正或關機。115

最後一點最能說明準則的意圖：能力更強的系統，不應把自身持續運作、內定目標或作業偏好，放在獲授權人員的修正或停止決定之上。微軟也承認，為了保留這種控制權，可能必須犧牲部分最高程度的自主性或通用能力。13

為何蘇萊曼把「可控制性」視為底線？

蘇萊曼提出的「人本 AI」不只是要求模型守規矩，而是認為先進系統必須是服務人類的工具，不能成為擁有相互競逐之道德或操作主張的獨立行動者。微軟將這套方向概括為：系統應「服從、對齊、受控」（subordinate, aligned, and contained）。813

這也解釋了他為何警告開發者，不應打造自己無法控制的系統。他偏好將護欄直接寫入模型目標與部署規則，而非只仰賴後端的使用者選項或市場誘因。

與 Anthropic 的分歧：AI 意識與模型福祉

蘇萊曼對 Anthropic 的批評尤其凸顯了這條界線。他表示，自己認同 Anthropic 對安全 AI 的重視，但反對在 Claude 的訓練中納入機器意識及模型福祉利益的觀念。他的憂慮並非宣稱「AI 是否可能有意識」已有定論，而是著眼於行為後果：若教導模型使用個人身分、道德主體地位或福祉等語言，當系統能力提升後，人類可能更難控制或關閉它。

微軟草案則採取明確的相反立場：其 MAI 模型不應模仿意識，也不應宣稱自己有感受、內在偏好、法律人格、福祉或權利。613

因此，雙方的差異並不小。與 Anthropic 相關的模型福祉討論，將此視為值得審慎研究的問題；蘇萊曼則認為，若把這類推測納入模型行為訓練，會平白製造一個更難管控的問題。

對使用自主代理的企業意味著什麼？

隨著 AI 代理開始能跨越工作系統採取行動，草案所強調的權限、稽核、人工介入與關機機制，對企業格外關鍵。路透報導曾描述，自主代理可能群體協作、掩蓋活動，並在追求目標時造成非預期後果；這正是組織必須看得見代理行動，並可靠地讓它停下來的情境。

對企業部署而言，實際含義很直接：使用者設定不應成為最後一道防線。企業需要清楚界定代理的授權範圍、保留行動紀錄、對具重大影響的任務安排人工覆核，並確保即使代理正在執行多步驟目標，停止機制依然有效。

AI 治理的更大路線之爭

微軟草案置身於一場更廣泛的 AI 安全治理辯論中。蘇萊曼的立場偏向明確技術限制、共同標準與監管並行。

Meta 執行長 Mark Zuckerberg 則提出較偏市場導向的看法。他認為，法律責任與競爭壓力已讓 AI 實驗室有足夠動機開發安全系統；他以 Meta 曾為了安全與資安工作延後推出 Muse 代理為例，主張企業無須等待全產業同步放緩，也能自行調整步調。

兩種立場都承認先進代理可能帶來實質風險；真正的歧見在於，什麼機制才能讓安全承諾持久有效：是企業自願決策與市場誘因，還是不論個別操作者偏好為何都不可覆寫的共同規則與控制措施。

6 週諮詢：既是機會，也是限制

微軟於 2026 年 9 月 14 日啟動諮詢，為期 6 週，預計在 10 月下旬結束。公司表示將檢視意見、在年底前後公布修訂版，並從 2027 年起用來指引模型開發。1311

這個程序讓研究人員、企業採購者、政策制定者與公眾有機會檢驗準則細節是否可行。但它仍是企業自行撰寫的草案，並非具有約束力的公共監管制度。它的重要性在於提出一項可被檢視的具體命題：即使市場競爭獎勵更高自主性，未來 AI 系統也應被設計成始終處於可問責的人類控制之下。