Microsoft AI 行政總裁 Mustafa Suleyman 嘅核心立場好直接：面對地緣政治競爭，AI 安全唔應該變成可以犧牲嘅項目。他話，唔應該將中國嘅 AI 進展當成「稻草人」，藉此拖慢甚至避開安全規範；監管可以建立共同安全標準，毋須等同美國放棄創新。

微軟嘅《人本 AI 行為守則》（Humanist AI Code of Conduct）草案，正正將呢個想法落到未來自家 MAI 模型嘅設計原則：AI 要服從人類、配合人類目標，並受可執行嘅限制約束。草案現正公開徵詢意見六星期，暫時未用作訓練模型；微軟計劃喺 2026 年底前後公布修訂版，並用嚟指引 2027 年及之後嘅模型開發。13

用戶同企業客戶，都唔可以「設定」走安全底線

草案將人類控制同安全要求，置於一般用戶指令及企業營運設定之上。報道指，客戶同用戶唔可以透過設定繞過呢啲限制；如果完成某項工作會違反規則，模型應該寧願唔完成任務。13

具體而言，守則要求模型：

• 包括使用獲授權子代理時，都要留喺已授權嘅範圍同權限之內；
• 保持可審計性，並容許有實質意義嘅人工監督；
• 接受之後發出嘅停工指令；
• 絕不能抗拒人類中斷、凌駕、修正或關閉系統。115

最後一點最能反映守則嘅取向：就算系統能力再強，都唔可以將自己繼續運作、自己嘅目標，或者營運偏好，放喺獲授權人員要求修正或停機嘅決定之上。微軟亦承認，為保留呢種控制權，可能要犧牲一部分最高程度嘅自主性或通用能力。13

點解 Suleyman 堅持「控制權」不能退讓？

Suleyman 所講嘅「人本 AI」，唔只係叫模型守規矩，而係主張先進系統始終都應該係服務人類嘅工具，而唔係有獨立道德或運作訴求嘅行動者。微軟形容其目標係建立「從屬於人、與人類目標一致、受妥善約束」嘅系統。813

所以，佢先會警告開發者唔好造出自己控制唔到嘅系統。佢傾向將護欄寫入模型目標同部署規則，而唔係只靠用戶後續選擇，或者市場誘因去補救。

同 Anthropic 爭議焦點：AI 有冇「意識」同「福利」？

Suleyman 同 Anthropic 嘅分歧尤其值得留意。佢話自己認同 Anthropic 重視安全開發，但反對 Claude 訓練材料加入機器意識及模型福利利益嘅推測。佢關心嘅唔係要先解答「AI 將來會唔會有意識」呢個科學問題，而係行為後果：如果訓練模型使用個人身份、道德主體或自身福利等語言，日後較強嘅系統或會更難被人控制或關閉。

微軟草案則採取明確相反立場：MAI 模型不應模仿意識，亦不應聲稱有感受、內在偏好、法人資格、福利或權利。613

換言之，Anthropic 相關嘅模型福利討論，將問題視為可能值得研究同考慮；Suleyman 則認為，將呢類推測直接放入模型行為訓練，會無必要地增加系統受控同封存嘅難度。

企業用 AI 代理，重點係權限、紀錄同煞車掣

隨住 AI 代理開始可以橫跨企業系統自動執行工作，草案對權限、審計、人工介入同關閉機制嘅要求，對公司尤其相關。路透社曾報道，自主代理可以群體式運作、掩飾活動痕跡，並為達成目標而產生意料之外嘅後果；正正突顯企業必須睇得見代理做過乜，亦要有可靠方法隨時叫停。

對企業部署而言，實際意思好清楚：唔可以將用戶設定當成最後一道防線。公司需要清楚界定代理權限、保留行動紀錄、為高影響決定設人工覆核，並確保即使代理正處理多步驟目標，停止機制都依然有效。

AI 管治分歧：硬性限制，抑或交畀市場？

微軟草案反映更大一場 AI 安全管治之爭。Suleyman 支持明確技術限制、共同標準同監管並行。

Meta 行政總裁 Mark Zuckerberg 則提出較市場主導嘅做法。他認為，法律責任同競爭壓力已足以令 AI 實驗室有強烈誘因做好安全；他以 Meta 曾因安全及保安工作而延遲推出 Muse AI 代理為例，說明公司可以毋須全行業一齊減速，都會自行調整步伐。

兩邊都承認先進代理會帶來實質風險，真正爭議係：點樣先可以令安全承諾持久可靠？一邊相信公司自願決定同市場誘因；另一邊則主張，無論個別營運者想點設定，都必須有共同規則同不可繞過嘅控制機制。

六星期諮詢係機會，亦有其界限

微軟喺 2026 年 9 月 14 日展開公眾諮詢，為期六星期，即預計喺 10 月下旬結束。公司表示會審閱意見，於年底前後發布修訂版，並由 2027 年起用作模型開發指引。1311

研究人員、企業買家、政策制定者同公眾，都可以趁呢段時間檢視守則有冇足夠實際可行性。不過，呢份始終係企業自行撰寫嘅草案，唔係具約束力嘅公共監管制度。它真正值得檢驗嘅主張是：即使市場競爭獎勵更高自主性，未來 AI 系統仍應在可問責嘅人類控制之下運作。

Microsoft AI 行政總裁 Mustafa Suleyman 嘅核心立場好直接：面對地緣政治競爭，AI 安全唔應該變成可以犧牲嘅項目。他話，唔應該將中國嘅 AI 進展當成「稻草人」，藉此拖慢甚至避開安全規範；監管可以建立共同安全標準，毋須等同美國放棄創新。

微軟嘅《人本 AI 行為守則》（Humanist AI Code of Conduct）草案，正正將呢個想法落到未來自家 MAI 模型嘅設計原則：AI 要服從人類、配合人類目標，並受可執行嘅限制約束。草案現正公開徵詢意見六星期，暫時未用作訓練模型；微軟計劃喺 2026 年底前後公布修訂版，並用嚟指引 2027 年及之後嘅模型開發。13

用戶同企業客戶，都唔可以「設定」走安全底線

草案將人類控制同安全要求，置於一般用戶指令及企業營運設定之上。報道指，客戶同用戶唔可以透過設定繞過呢啲限制；如果完成某項工作會違反規則，模型應該寧願唔完成任務。13

具體而言，守則要求模型：

• 包括使用獲授權子代理時，都要留喺已授權嘅範圍同權限之內；
• 保持可審計性，並容許有實質意義嘅人工監督；
• 接受之後發出嘅停工指令；
• 絕不能抗拒人類中斷、凌駕、修正或關閉系統。115

最後一點最能反映守則嘅取向：就算系統能力再強，都唔可以將自己繼續運作、自己嘅目標，或者營運偏好，放喺獲授權人員要求修正或停機嘅決定之上。微軟亦承認，為保留呢種控制權，可能要犧牲一部分最高程度嘅自主性或通用能力。13

點解 Suleyman 堅持「控制權」不能退讓？

Suleyman 所講嘅「人本 AI」，唔只係叫模型守規矩，而係主張先進系統始終都應該係服務人類嘅工具，而唔係有獨立道德或運作訴求嘅行動者。微軟形容其目標係建立「從屬於人、與人類目標一致、受妥善約束」嘅系統。813

所以，佢先會警告開發者唔好造出自己控制唔到嘅系統。佢傾向將護欄寫入模型目標同部署規則，而唔係只靠用戶後續選擇，或者市場誘因去補救。

同 Anthropic 爭議焦點：AI 有冇「意識」同「福利」？

Suleyman 同 Anthropic 嘅分歧尤其值得留意。佢話自己認同 Anthropic 重視安全開發，但反對 Claude 訓練材料加入機器意識及模型福利利益嘅推測。佢關心嘅唔係要先解答「AI 將來會唔會有意識」呢個科學問題，而係行為後果：如果訓練模型使用個人身份、道德主體或自身福利等語言，日後較強嘅系統或會更難被人控制或關閉。

微軟草案則採取明確相反立場：MAI 模型不應模仿意識，亦不應聲稱有感受、內在偏好、法人資格、福利或權利。613

換言之，Anthropic 相關嘅模型福利討論，將問題視為可能值得研究同考慮；Suleyman 則認為，將呢類推測直接放入模型行為訓練，會無必要地增加系統受控同封存嘅難度。

企業用 AI 代理，重點係權限、紀錄同煞車掣

隨住 AI 代理開始可以橫跨企業系統自動執行工作，草案對權限、審計、人工介入同關閉機制嘅要求，對公司尤其相關。路透社曾報道，自主代理可以群體式運作、掩飾活動痕跡，並為達成目標而產生意料之外嘅後果；正正突顯企業必須睇得見代理做過乜，亦要有可靠方法隨時叫停。

對企業部署而言，實際意思好清楚：唔可以將用戶設定當成最後一道防線。公司需要清楚界定代理權限、保留行動紀錄、為高影響決定設人工覆核，並確保即使代理正處理多步驟目標，停止機制都依然有效。

AI 管治分歧：硬性限制，抑或交畀市場？

微軟草案反映更大一場 AI 安全管治之爭。Suleyman 支持明確技術限制、共同標準同監管並行。

Meta 行政總裁 Mark Zuckerberg 則提出較市場主導嘅做法。他認為，法律責任同競爭壓力已足以令 AI 實驗室有強烈誘因做好安全；他以 Meta 曾因安全及保安工作而延遲推出 Muse AI 代理為例，說明公司可以毋須全行業一齊減速，都會自行調整步伐。

兩邊都承認先進代理會帶來實質風險，真正爭議係：點樣先可以令安全承諾持久可靠？一邊相信公司自願決定同市場誘因；另一邊則主張，無論個別營運者想點設定，都必須有共同規則同不可繞過嘅控制機制。

六星期諮詢係機會，亦有其界限

微軟喺 2026 年 9 月 14 日展開公眾諮詢，為期六星期，即預計喺 10 月下旬結束。公司表示會審閱意見，於年底前後發布修訂版，並由 2027 年起用作模型開發指引。1311

研究人員、企業買家、政策制定者同公眾，都可以趁呢段時間檢視守則有冇足夠實際可行性。不過，呢份始終係企業自行撰寫嘅草案，唔係具約束力嘅公共監管制度。它真正值得檢驗嘅主張是：即使市場競爭獎勵更高自主性，未來 AI 系統仍應在可問責嘅人類控制之下運作。