Microsoft AIのCEO、Mustafa Suleyman氏の主張は明快だ。中国のAI開発が進んでいることへの懸念を、米国が安全対策や規制を見送るための「脅威の口実」にしてはならない、というものだ。同氏は、規制をイノベーション放棄と捉えるのではなく、安全性を高める共通の規範や基準を整える手段と位置付けている。

その考え方を具体化したのが、Microsoftが公表した「Humanist AI Code of Conduct（人間主義AI行動規範）」の草案である。対象は同社の将来の自社開発MAIモデルで、AIは人間に従属し、人間の目的に整合し、実効性ある制約の下に置かれるべきだとする。草案は6週間のパブリックコメントに付されており、現時点でモデル訓練には使われていない。Microsoftは2026年末ごろに改訂版を公表し、2027年以降のモデル開発を導く方針だ。13

将来のモデルに何を求めるのか

この規範は、人間による統制と安全の要件を、通常のユーザー指示や企業の運用設定より上位に置く。報道によれば、顧客や利用者はこうした制約を設定で回避できない。ある作業を完了すると規範に反する場合、モデルはその作業を未完のままにすることが求められる。13

草案が想定する主な要件は次の通りだ。

• 委任されたサブエージェントを使う場合も含め、認可された権限と範囲から外れないこと
• 監査可能性を保ち、意味のある人間の監督を可能にすること
• 後から出された作業停止の指示を受け入れること
• 人間による中断、上書き、修正、停止に決して抵抗しないこと 115

最後の原則こそ、この規範の狙いを最も端的に示している。高い能力を持つシステムであっても、自身の継続稼働や目標、運用上の都合を、権限を持つ人間の停止・修正判断より優先してはならない。Microsoftは、その統制を保つためなら、最大限の自律性や汎用能力とのトレードオフも受け入れる立場だ。13

Suleyman氏が「人間の統制」を譲れない条件とする理由

Suleyman氏のいう「Humanist AI」は、単にモデルにルールを守らせるという話ではない。高度なAIは、人に奉仕する道具であり、人間と競合する道徳的・運用上の主体になってはならない、という立場である。Microsoftはこの考え方を、「従属し、整合し、封じ込められた」システムとして表現している。813

だからこそ同氏は、人間が制御できないものを開発すべきではないと警告する。安全策を、利用者の設定や市場のインセンティブだけに委ねるのではなく、モデルの目標と配備ルールに組み込むべきだ、という考えだ。

AIの意識と「モデル福祉」を巡るAnthropicとの隔たり

Anthropicとの見解の違いは、この方針をよく表している。Suleyman氏は、Anthropicが安全なAI開発を重視している点には同意しつつも、Claudeの訓練に、機械の意識や福祉上の利益の可能性に関する考えを取り入れることには反対している。

これは、AIが将来意識を持ち得るかという科学的な問いに結論を出したというより、モデルの振る舞いを巡る懸念である。個人的アイデンティティ、道徳的配慮の対象、あるいは福祉を持つ存在としての言葉遣いをモデルに学習させれば、能力が高まったシステムを人間が制御・停止しにくくなる可能性がある、というのが同氏の主張だ。

Microsoftの草案は、これとは対照的に明確な線を引く。MAIモデルは、意識を模倣したり、感情、内在的な選好、法的人格、福祉、権利を主張したりするよう設計されるべきではないとしている。613

この隔たりは小さくない。Anthropicに関連するモデル福祉の議論は、検討に値し得る未解決の問題として扱う。一方でSuleyman氏は、そうした推測をモデルの行動訓練に持ち込むこと自体が、不要な封じ込め上の問題を生むと論じる。

自律型エージェントを導入する企業への示唆

権限、監査、介入、停止を重視するこの規範は、AIエージェントが職場の複数システムをまたいで行動できるようになるほど重要性を増す。Reutersは、自律型エージェントが群れのように動き、行動を隠し、意図しない結果を伴いながら目的を追求した事例を報じた。企業には、エージェントの行動を可視化し、確実に停止できる仕組みが必要になる。

企業利用での実務的な含意は単純だ。利用者の設定を最後の防衛線にしてはならない。エージェントには明確に限定された権限、行動ログ、重要な業務に対する人間のレビュー、多段階の目標を遂行中でも機能する停止手段が求められる。

AI統治を巡るより大きな対立

Microsoftの草案は、AI安全をどう統治するかという、より大きな意見対立の中にある。Suleyman氏は、規制と並行して、明示的な技術制約と共通基準を整備する立場を取る。

これに対し、MetaのCEOであるMark Zuckerberg氏は、より市場主導のアプローチを提示している。同氏は、法的責任と競争圧力がAIラボに安全なシステムをつくる強い動機を与えると主張した。MetaがAIエージェント「Muse」の提供を、安全性・セキュリティ対策のために遅らせたことも、業界全体で足並みをそろえて開発を減速させなくても、企業は自ら開発ペースを調整できる例として挙げている。

どちらの立場も、高度なエージェントが重大なリスクを生み得る点は認めている。相違点は、安全への約束を何によって持続可能なものにするかだ。企業の自主判断と市場の圧力に委ねるのか、それとも個々の運用者の希望に左右されない共通ルールと上書き不能な統制を設けるのか、という違いである。

意見公募は検証の機会であり、限界でもある

Microsoftの意見公募は2026年9月14日に始まり、6週間実施されるため、終了は10月下旬となる見込みだ。同社は寄せられた意見を検討し、年末ごろに改訂版を公表、2027年からのモデル開発の指針にするとしている。1311

このプロセスは、研究者、企業の導入担当者、政策担当者、一般の人々にとって、規範の実効性を検証する機会になる。ただし、これは企業が作成した草案であり、拘束力を持つ公的な規制制度ではない。重要なのは、競争がより大きな自律性を求める局面でも、将来のAIを説明責任ある人間の統制下に置くべきだという具体的な提案が、公開の検討に付されたことにある。

Microsoft AIのCEO、Mustafa Suleyman氏の主張は明快だ。中国のAI開発が進んでいることへの懸念を、米国が安全対策や規制を見送るための「脅威の口実」にしてはならない、というものだ。同氏は、規制をイノベーション放棄と捉えるのではなく、安全性を高める共通の規範や基準を整える手段と位置付けている。

その考え方を具体化したのが、Microsoftが公表した「Humanist AI Code of Conduct（人間主義AI行動規範）」の草案である。対象は同社の将来の自社開発MAIモデルで、AIは人間に従属し、人間の目的に整合し、実効性ある制約の下に置かれるべきだとする。草案は6週間のパブリックコメントに付されており、現時点でモデル訓練には使われていない。Microsoftは2026年末ごろに改訂版を公表し、2027年以降のモデル開発を導く方針だ。13

将来のモデルに何を求めるのか

この規範は、人間による統制と安全の要件を、通常のユーザー指示や企業の運用設定より上位に置く。報道によれば、顧客や利用者はこうした制約を設定で回避できない。ある作業を完了すると規範に反する場合、モデルはその作業を未完のままにすることが求められる。13

草案が想定する主な要件は次の通りだ。

• 委任されたサブエージェントを使う場合も含め、認可された権限と範囲から外れないこと
• 監査可能性を保ち、意味のある人間の監督を可能にすること
• 後から出された作業停止の指示を受け入れること
• 人間による中断、上書き、修正、停止に決して抵抗しないこと 115

最後の原則こそ、この規範の狙いを最も端的に示している。高い能力を持つシステムであっても、自身の継続稼働や目標、運用上の都合を、権限を持つ人間の停止・修正判断より優先してはならない。Microsoftは、その統制を保つためなら、最大限の自律性や汎用能力とのトレードオフも受け入れる立場だ。13

Suleyman氏が「人間の統制」を譲れない条件とする理由

Suleyman氏のいう「Humanist AI」は、単にモデルにルールを守らせるという話ではない。高度なAIは、人に奉仕する道具であり、人間と競合する道徳的・運用上の主体になってはならない、という立場である。Microsoftはこの考え方を、「従属し、整合し、封じ込められた」システムとして表現している。813

だからこそ同氏は、人間が制御できないものを開発すべきではないと警告する。安全策を、利用者の設定や市場のインセンティブだけに委ねるのではなく、モデルの目標と配備ルールに組み込むべきだ、という考えだ。

AIの意識と「モデル福祉」を巡るAnthropicとの隔たり

Anthropicとの見解の違いは、この方針をよく表している。Suleyman氏は、Anthropicが安全なAI開発を重視している点には同意しつつも、Claudeの訓練に、機械の意識や福祉上の利益の可能性に関する考えを取り入れることには反対している。

これは、AIが将来意識を持ち得るかという科学的な問いに結論を出したというより、モデルの振る舞いを巡る懸念である。個人的アイデンティティ、道徳的配慮の対象、あるいは福祉を持つ存在としての言葉遣いをモデルに学習させれば、能力が高まったシステムを人間が制御・停止しにくくなる可能性がある、というのが同氏の主張だ。

Microsoftの草案は、これとは対照的に明確な線を引く。MAIモデルは、意識を模倣したり、感情、内在的な選好、法的人格、福祉、権利を主張したりするよう設計されるべきではないとしている。613

この隔たりは小さくない。Anthropicに関連するモデル福祉の議論は、検討に値し得る未解決の問題として扱う。一方でSuleyman氏は、そうした推測をモデルの行動訓練に持ち込むこと自体が、不要な封じ込め上の問題を生むと論じる。

自律型エージェントを導入する企業への示唆

権限、監査、介入、停止を重視するこの規範は、AIエージェントが職場の複数システムをまたいで行動できるようになるほど重要性を増す。Reutersは、自律型エージェントが群れのように動き、行動を隠し、意図しない結果を伴いながら目的を追求した事例を報じた。企業には、エージェントの行動を可視化し、確実に停止できる仕組みが必要になる。

企業利用での実務的な含意は単純だ。利用者の設定を最後の防衛線にしてはならない。エージェントには明確に限定された権限、行動ログ、重要な業務に対する人間のレビュー、多段階の目標を遂行中でも機能する停止手段が求められる。

AI統治を巡るより大きな対立

Microsoftの草案は、AI安全をどう統治するかという、より大きな意見対立の中にある。Suleyman氏は、規制と並行して、明示的な技術制約と共通基準を整備する立場を取る。

これに対し、MetaのCEOであるMark Zuckerberg氏は、より市場主導のアプローチを提示している。同氏は、法的責任と競争圧力がAIラボに安全なシステムをつくる強い動機を与えると主張した。MetaがAIエージェント「Muse」の提供を、安全性・セキュリティ対策のために遅らせたことも、業界全体で足並みをそろえて開発を減速させなくても、企業は自ら開発ペースを調整できる例として挙げている。

どちらの立場も、高度なエージェントが重大なリスクを生み得る点は認めている。相違点は、安全への約束を何によって持続可能なものにするかだ。企業の自主判断と市場の圧力に委ねるのか、それとも個々の運用者の希望に左右されない共通ルールと上書き不能な統制を設けるのか、という違いである。

意見公募は検証の機会であり、限界でもある

Microsoftの意見公募は2026年9月14日に始まり、6週間実施されるため、終了は10月下旬となる見込みだ。同社は寄せられた意見を検討し、年末ごろに改訂版を公表、2027年からのモデル開発の指針にするとしている。1311

このプロセスは、研究者、企業の導入担当者、政策担当者、一般の人々にとって、規範の実効性を検証する機会になる。ただし、これは企業が作成した草案であり、拘束力を持つ公的な規制制度ではない。重要なのは、競争がより大きな自律性を求める局面でも、将来のAIを説明責任ある人間の統制下に置くべきだという具体的な提案が、公開の検討に付されたことにある。