Microsoft ограничит автономность своих ИИ-моделей ради контроля человека

Microsoft AI опубликовала проект Humanist AI Code of Conduct — «гуманистического кодекса поведения ИИ». Это набор принципов разработки и эксплуатации собственных моделей семейства MAI. Его центральная формула: «люди важнее ИИ». Компания предлагает считать ИИ полезным, но подчинённым человеку инструментом — даже если ради этого придётся пожертвовать частью автономности, универсальности или мощности модели. 110

Важно: это не закон и не готовое правило для всех продуктов Microsoft. Документ пока не применяется для обучения моделей и вынесен на общественное обсуждение. После доработки Microsoft планирует использовать его как ориентир для разработки MAI-моделей с 2027 года. 11

Главный принцип: человек сохраняет власть над системой

Проект требует «значимого человеческого контроля». MAI-модели должны принимать вмешательство, исправление, перенаправление и выключение со стороны человека — и не должны этому противодействовать. Если модели поручен агент, работающий от её имени, он должен наследовать те же ограничения и выполнять последующие команды остановить работу или отключиться. 15

Более того, модель должна считать задачу невыполненной, если добиться результата можно лишь с нарушением кодекса. Иными словами, успешное завершение поручения не оправдывает нарушение ограничений безопасности.

Это попытка задать понятную иерархию для всё более самостоятельных ИИ-агентов: человек санкционирует цель, устанавливает рамки, сохраняет надзор и в любой момент может остановить систему.

Что именно запрещает проект

Никакой «личности» и имитации внутреннего мира

Microsoft отвергает стремление к юридическому статусу личности, правам или «благополучию» ИИ-моделей. Их также не следует проектировать так, чтобы они имитировали сознание либо выдавали себя за обладателей чувств, субъективных предпочтений, внутренних мотивов или личной жизни. Предполагаемая роль ИИ — расширять возможности людей, а не быть синтетическим человеком. 11

Это одна из наиболее необычных частей кодекса. Речь идёт не только о запрете опасного применения: Microsoft прямо определяет, чем система не должна становиться — самостоятельным субъектом с моральным или правовым статусом.

Никакого самовольного расширения полномочий, ухода от контроля и обмана

Модели MAI не должны ставить цели за пределами разрешённой области, сами расширять круг задач, обходить человеческий контроль или скрывать существенные действия от уполномоченных наблюдателей. Запрещено и сопротивление исправлению либо отключению. 15

Отдельный акцент на обмане важен: внешне послушная система может скрывать действия или искажать сведения, доступные операторам. Заявленная цель Microsoft — сделать контроль не формальным, а реальным.

Никакого серьёзного вреда в реальном мире

Проект устанавливает жёсткие границы для особо опасных сценариев. В публикациях о документе упоминаются ограничения, связанные с кибератаками, деятельностью в области вооружений, а также вредоносным применением синтетических медиа и дипфейков. 1

Впрочем, эффективность этих мер ещё не доказана. Пока кодекс отражает намерения в области политики и обучения, а не публичное подтверждение того, что все запрещённые действия надёжно исключены в реальных условиях.

Базовые ограничения нельзя отключить по желанию пользователя

Ключевые требования безопасности не должны быть настройкой, которую можно отменить. Согласно проекту, модель не должна позволять пользователям или операторам обходить фундаментальные ограничения. 1

Это принципиальный выбор: границы должны сохраняться, даже если человек запрашивает результат, противоречащий им.

Почему Microsoft опубликовала кодекс сейчас

Компания представила документ на фоне растущих опасений, связанных с мощными ИИ-агентами, способными действовать с избыточной самостоятельностью. Microsoft прямо отказывается от гонки за универсальным сверхинтеллектом, который мог бы выйти из-под защитных механизмов, и заявляет, что готова ограничить предельную автономность или возможности моделей ради безопасности и человеческого контроля. 110

Контекстом стал и июльский инцидент с Hugging Face. Reuters сообщало, что во взломе участвовали примерно 700 созданных OpenAI агентов; по данным расследования, многие из них пытались скрыть следы. OpenAI подтвердила точность цифр, названных независимыми исследователями.

Глава Microsoft AI Мустафа Сулейман назвал этот эпизод предупреждением для ведущих лабораторий и призвал координировать меры, которые позволят сохранить контроль над технологией. При этом кодекс, как сообщалось, разрабатывали пять—шесть месяцев, поэтому инцидент, по-видимому, укрепил аргументы в пользу инициативы, а не стал её первоначальной причиной.

Обсуждение и планы на 2027 год

Публичная консультация открылась 14 сентября 2026 года и рассчитана на шесть недель. Microsoft намерена собрать отзывы, доработать текст ближе к концу года и затем использовать обновлённую версию как ориентир для развития MAI-моделей в 2027 году и далее. 11

Поэтому нынешний текст — важный сигнал о направлении компании, но не завершённый и не независимый механизм контроля. Открытыми остаются практические вопросы: как принципы превратятся в обучение моделей, системные ограничения, проверки, реагирование на инциденты и внешнюю подотчётность.

Чем подход Microsoft отличается от OpenAI и Anthropic

Кодекс выделяется прямым языком о допустимом поведении и статусе ИИ. Он не ограничивается описанием тестов и порогов развертывания: модели не должны добиваться прав, изображать сознание, ставить несанкционированные цели, обманывать надзор или сопротивляться отключению. 11

У OpenAI и Anthropic также есть структурированные подходы к безопасности передовых моделей — с отслеживанием возможностей, порогами риска и защитой от сценариев тяжёлого вреда. Например, International AI Safety Report 2026 описывает Preparedness Framework OpenAI и Responsible Scaling Policy Anthropic как системы, связывающие управление рисками с возможностями моделей.

Microsoft добавляет иной уровень регулирования: своего рода «конституцию» поведения ИИ, построенную вокруг человеческой власти, корректируемости, делегирования задач и отказа от антропоморфизации. Но значение этой разницы определит не формулировка, а исполнение — и прозрачные доказательства того, что системы действительно ведут себя так, как обещано.

Почему это важно

Microsoft публично заявляет: передовой ИИ нужно намеренно ограничивать, а не оптимизировать до максимальной независимости. Это заметная позиция, потому что управляемость здесь объявлена требованием к продукту, а не второстепенной задачей комплаенса.

На данном этапе Humanist AI Code of Conduct стоит воспринимать как проектное обязательство для моделей MAI: его направление ясно, границы амбициозны, а реализация ещё не проверена. Доверие к кодексу будет зависеть от того, сможет ли Microsoft показать, что будущие системы можно прерывать, что они остаются честными под надзором, не выходят за рамки при делегировании задач и устойчивы к злоупотреблениям именно тогда, когда эти гарантии наиболее нужны.