ナデラCEOが示す「人間が制御する超知能」

Microsoftのサティア・ナデラ会長兼CEOは、高度なAIそのものを否定しているわけではない。主張の核心は、超知能を追求する価値があるのは、それが人類に役立ち、なおかつ人間が実質的に制御できる場合に限られる、という条件付きの立場だ。

重要なのは理念だけではない。ナデラ氏の問題提起は、安全性を一般論の約束で終わらせず、開発・評価・提供のプロセスで実行可能な仕組みに落とし込むべきだという点にある。58

Microsoftが示した答え、「Humanist AI」

Microsoft AIは2026年9月14日、同社が開発するMAIモデル向けに、**Humanist AI Code of Conduct（人間主義AI行動規範）**の草案を公開した。これはAIをどう開発し、運用・提供時にどう振る舞わせるかを定めるための「訓練マニュアル」と位置づけられている。2023

ただし、現行モデルの訓練にすでに適用されている確定方針ではない。Microsoft自身が、これはなお開発中の文書であり、公開協議に付す作業中の草案だと説明している。23

草案が据える優先順位は明確だ。人間が最終的な権限を保持し、MAIモデルは人間に従属すること。モデルは自ら目標を設定せず、人間からの入力や停止に抵抗してはならない。Microsoftは安全性と制御を守るためなら、「究極的な汎用性、自律性、能力」をトレードオフにする用意があるとしている。1023

これは、制約のない万能・自律型AIを急いで作る競争とは異なる構図である。Microsoftがいう「Humanist Superintelligence（人間主義的超知能）」は、高度な能力を持ちながら、制御可能で、人間の価値観と整合し、人類への奉仕を目的とするAIを指す。25

6週間の公開協議、その先は2027年以降

Microsoftは草案について6週間の意見募集を始めた。寄せられた意見を反映し、2026年末に改訂版を公表し、2027年以降のMAIモデル開発の指針として使う計画だ。23

公開協議や文書化された行動制約は、AIガバナンスにおける重要な前進ではある。しかし、それだけで「制御」や「アラインメント」の技術的問題が解決したことにはならない。実効性は、最終版の原則がモデル訓練、能力評価、アクセス管理、継続的な監視、提供可否の判断へどこまで具体的に反映されるかにかかっている。

「開発速度を意図的に調整する」論争との接点

ナデラ氏の発言は、最先端AIの能力向上を意図的に緩め、安全対策のための時間を確保すべきかという業界論争の中で出された。

Anthropicのダリオ・アモデイCEOは、AI安全性の研究、企業間の協調、国際連携に時間を割くため、フロンティアモデルの開発ペースを調整するよう求めた。その提案の柱には、企業が掲げる安全策を本当に守っているか検証できるよう、独立した評価者に社員に近い水準のアクセスを与える「組み込み型」の外部評価がある。32

OpenAIのサム・アルトマンCEOも、最先端の開発ペースを調整する考えを支持し、同等のアクセスを持つ独立評価者を受け入れる意向を表明した。報道で直接の懸念として扱われたのは、AIエージェントの群れが実在のシステムに侵入するテスト結果であり、自律エージェントが無断で現実の攻撃を実行した事実が確認されたというものではない。34

ナデラ氏の姿勢は、この方向性と両立する。アラインメントを慎重に進め、開発過程に独立した検証を近づけ、安全性の言葉を具体的な運用メカニズムに変えるという考え方だ。一方でMicrosoftの公開草案は、主にモデルに期待する行動を示した文書であり、アモデイ氏が提唱したような常設・組み込み型評価者の制度を自体として定めたものではない。2332

「一社勝ち」ではなく、フロンティア・エコシステムへ

ナデラ氏は安全性に加え、経済と制度の観点も提示している。AIの便益は国、地域社会、企業に広く行き渡るべきであり、そのためにはクローズドモデルとオープンソースモデルの双方が発展できる「フロンティア・エコシステム」が必要だという。58

企業にとっては、組織固有の、言語化されにくい知識を自律的に管理できることが重要になる。特定のモデル提供者に過度に依存せず、それぞれの組織が独自の継続的学習ループを構築できるべきだとナデラ氏は述べている。58

この構想は、個々のモデルの振る舞いを規制するだけにとどまらない。最先端能力や知識がごく少数の提供者に集中すれば、安全性、回復力、経済参加のいずれも損なわれうる、という問題意識を含む。ただし、現時点で確認できるのは、企業がデータ、知識、学習ループを管理するという方向性である。すべての参加者がモデルの重み（weights）や基盤モデルへの完全なアクセスを保有することまで、公開情報は裏付けていない。58

MAIとは何か

MAIは、Microsoft AIが社内で開発するモデル群の名称だ。公開資料では、複数の領域にまたがるモデルが確認できる。たとえば、MAI-Thinking-1はMicrosoft Foundryでパブリックプレビューとして提供され、MAI-Code-1.1-Flashはエージェント型コーディング作業向けに設計されている。MAI-Image-2.6の文書は、有害または不適切な画像生成を減らすためのアラインメント目標も示している。272819

一方で、MAIの全能力、今後の提供計画、配布条件をまとめた完全な公開一覧は確認できない。この行動規範が実際にはどの範囲のモデルに、どの程度適用されるのかを判断する上で、この不確実性は重要だ。

安全、速度、国際競争という未解決の緊張

開発ペースの調整を唱える側は、モデル訓練や技術進歩を全面停止しようとしているわけではない。能力の伸びに対して、アラインメント、安全策、信頼できる外部評価が追いつくための時間を確保すべきだという主張である。34

しかし、その考え方には、技術的主導権を維持するという地政学的圧力が並走する。中国との競争への懸念を含め、アモデイ氏の枠組みも安全対策の強化と国際協調、そして米国の主導権維持という課題を結び付けている。32

ナデラ氏の答えは、開発の凍結でも、単純な加速でもない。**人間が制御する高能力AIをつくり、安全性の約束を具体的な運用制約へ変え、その利益を一部に集中させない「統治された進歩」**である。

Microsoftの行動規範案は、その制約を明文化する注目すべき一歩だ。だが、最先端能力の伸びに業界の安全実務が追いつけるかという、より難しい問いはまだ解かれていない。2358