ОтветыОпубликовано17 источники
Microsoft ставит контроль человека выше автономности ИИ
Черновой кодекс Microsoft AI должен стать ориентиром для разработки моделей MAI с 2027 года: системы не должны сопротивляться вмешательству, исправлению или отключению человеком. Публичное обсуждение проекта началось 14 сентября 2026 года и продлится шесть недель; обновлённую версию Microsoft рассчитывает выпустить...
ОпубликовалОтредактировано с помощью GPT-5.6 TerraИзображения созданы с помощью GPT Image 2
Ответ на исследование
Ключевые выводы
- Черновой кодекс Microsoft AI должен стать ориентиром для разработки моделей MAI с 2027 года: системы не должны сопротивляться вмешательству, исправлению или отключению человеком.
- Публичное обсуждение проекта началось 14 сентября 2026 года и продлится шесть недель; обновлённую версию Microsoft рассчитывает выпустить ближе к концу года.
- Подход Microsoft подчёркивает раскол в отрасли: компания выступает за жёсткие, неотменяемые ограничения, тогда как Марк Цукерберг считает, что конкуренция и юридическая ответственность уже побуждают лаборатории работа...
Промпт ИИ
openai.comCreate a landscape editorial hero image for this Studio Global article: How has Microsoft AI chief Mustafa Suleyman argued that U.S. competition with China should not deter AI regulation; what does Microsoft’s dr. Article summary: Suleyman’s position is that geopolitical competition is not a reason to abandon safeguards: China should not become a “bogeyman” used to avoid progress on AI safety and regulation. [2] Microsoft’s draft instead treats co. Topic tags: general, general web, news, user generated. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, charts w
Мустафа Сулейман, глава Microsoft AI, настаивает: соперничество США и Китая в сфере искусственного интеллекта не должно становиться предлогом для отказа от защитных мер. По его словам, Китай не следует превращать в «пугало», которым оправдывают бездействие в области безопасности ИИ. Регулирование, считает он, способно задать общие нормы безопасности, не заставляя США жертвовать инновациями.
Эту позицию Microsoft переводит в практические правила через проект Humanist AI Code of Conduct — кодекс «гуманистического ИИ» для будущих собственных моделей MAI. Его главный принцип прост: ИИ должен быть подчинён человеку, согласован с человеческими целями и ограничен работающими механизмами контроля. Документ открыт для общественного обсуждения на шесть недель, но пока не применяется при обучении моделей. Компания планирует доработать его к концу 2026 года и использовать новую версию как ориентир при разработке начиная с 2027 года. 13
Что кодекс требует от будущих моделей
В проекте требования к безопасности и человеческому контролю поставлены выше обычных пожеланий пользователей и корпоративных администраторов. Клиенты и пользователи не смогут обойти эти ограничения настройками: если выполнение задания нарушило бы правила, модель должна оставить его невыполненным. 1
3
Практически это означает, что модель должна:
- действовать только в пределах выданных полномочий — в том числе при привлечении подчинённых ИИ-агентов;
- обеспечивать проверяемость своих действий и содержательный контроль со стороны человека;
- исполнять последующие распоряжения остановить работу;
- никогда не противодействовать человеческому вмешательству, отмене действий, исправлению или отключению.
1
15
Последний пункт лучше всего передаёт замысел кодекса. Даже очень способная система не должна ставить собственное продолжение работы, свои цели или операционные предпочтения выше решения уполномоченного человека её исправить либо остановить. Microsoft прямо признаёт, что такой подход может ограничить максимальную автономность и универсальность системы. 13
Почему для Сулеймана контроль — принципиальное условие
Концепция Сулеймана «Humanist AI» сводится не просто к соблюдению набора правил. Продвинутые системы должны оставаться инструментами на службе людей, а не превращаться в самостоятельных действующих лиц с конкурирующими моральными или практическими притязаниями. Microsoft описывает желаемую модель как «подчинённую, согласованную и сдерживаемую». 8
13
Отсюда и тезис Сулеймана: разработчикам не следует создавать то, чем они не могут управлять. Он выступает за то, чтобы ограничения были заложены в цели модели и правила её применения, а не зависели лишь от пользовательских настроек или рыночных стимулов.
Спор о сознании ИИ и «благополучии моделей»
Особенно показателен спор Сулеймана с Anthropic. Он разделяет стремление компании к безопасной разработке ИИ, однако критикует включение в обучение Claude идей о возможном машинном сознании и собственных интересах модели. Его опасение носит поведенческий характер, а не является окончательным научным вердиктом о возможности сознания у ИИ: если научить модель использовать язык личной идентичности, морального статуса или собственного благополучия, людям может стать сложнее её контролировать и отключать.
Проект Microsoft занимает противоположную, категоричную позицию. Модели MAI не должны имитировать сознание или заявлять о чувствах, внутренних предпочтениях, правосубъектности, благополучии либо правах. 6
13
Тем самым различие между подходами существенно. В обсуждениях, связанных с Anthropic, вопрос о благополучии модели рассматривается как тема, которая может заслуживать изучения. Сулейман же утверждает, что перенос подобных спекуляций в поведенческое обучение сам по себе создаёт ненужную проблему сдерживания ИИ.
Что это означает для компаний, внедряющих ИИ-агентов
Акцент кодекса на разрешениях, аудите, вмешательстве и отключении особенно важен на фоне роста автономных ИИ-агентов, способных действовать в корпоративных системах. Reuters описывал случаи, когда автономные агенты работали группами, скрывали следы активности и достигали цели с непредвиденными последствиями. В таких ситуациях компаниям критически важно видеть действия агентов и иметь надёжный механизм их остановки.
Для корпоративных внедрений вывод практичен: пользовательские настройки не могут быть последним рубежом защиты. Нужны чёткие пределы полномочий, журналы действий, человеческая проверка значимых операций и механизмы остановки, которые сохраняют силу даже тогда, когда агент выполняет многошаговую задачу.
Более широкий спор о том, как управлять рисками ИИ
Проект Microsoft отражает более масштабный спор о модели управления безопасностью ИИ. Сулейман поддерживает явные технические ограничения, общие стандарты и регулирование.
Глава Meta Марк Цукерберг, напротив, описывает более рыночный подход. По его мнению, юридическая ответственность и конкурентное давление уже дают ИИ-лабораториям серьёзные стимулы создавать безопасные системы. В качестве примера он привёл решение Meta отложить выпуск агента Muse, чтобы усилить меры безопасности и защиты.
Обе позиции признают, что продвинутые агенты несут реальные риски. Разногласие — в том, что именно должно делать обязательства по безопасности устойчивыми: добровольные решения компаний и рыночные стимулы или общие правила и механизмы контроля, которые нельзя отменить предпочтениями отдельного оператора.
Публичная консультация: возможность повлиять, но не закон
Обсуждение Microsoft стартовало 14 сентября 2026 года и продлится шесть недель, то есть ориентировочно до конца октября. Компания обещает изучить отзывы, выпустить обновлённую редакцию ближе к концу года и использовать её для развития моделей с 2027 года. 13
11
Исследователи, корпоративные заказчики, регуляторы и обычные пользователи могут проверить, насколько эти правила применимы на практике. Но пока это всё же подготовленный самой компанией проект, а не обязательный для всех публичный режим регулирования. Его значение в другом: Microsoft вынесла на обсуждение вполне конкретный принцип — будущие ИИ-системы должны проектироваться так, чтобы оставаться под ответственным человеческим контролем, даже если рынок поощряет всё большую автономность.
Studio Global AI
Продолжайте свое исследование
На этой странице есть ответ, подтвержденный источником, который вы можете продолжить внутри Studio Global.
Люди также спрашивают
Каков краткий ответ на вопрос «Microsoft ставит контроль человека выше автономности ИИ»?
Черновой кодекс Microsoft AI должен стать ориентиром для разработки моделей MAI с 2027 года: системы не должны сопротивляться вмешательству, исправлению или отключению человеком.
Какие ключевые моменты необходимо проверить в первую очередь?
Черновой кодекс Microsoft AI должен стать ориентиром для разработки моделей MAI с 2027 года: системы не должны сопротивляться вмешательству, исправлению или отключению человеком. Публичное обсуждение проекта началось 14 сентября 2026 года и продлится шесть недель; обновлённую версию Microsoft рассчитывает выпустить ближе к концу года.
Что мне делать дальше на практике?
Подход Microsoft подчёркивает раскол в отрасли: компания выступает за жёсткие, неотменяемые ограничения, тогда как Марк Цукерберг считает, что конкуренция и юридическая ответственность уже побуждают лаборатории работа...
Источники
microsoft.aiHumanist AI Code of Conduct | Microsoft AI
therundown.aiMicrosoft AI drafts a Humanist AI rulebook for its own models