AnswersPublished17 sources
Кодекс Microsoft ставить людський контроль вище за автономність ШІ
Чернетка Humanist AI Code має спрямовувати розробку моделей Microsoft AI з 2027 року: моделі не повинні протидіяти перериванню, виправленню або вимкненню людиною. Публічні консультації стартували 14 вересня 2026 року й триватимуть шість тижнів; оновлену редакцію Microsoft планує опублікувати наприкінці року.
ОпублікувавВідредаговано за допомогою GPT-5.6 TerraЗображення створено за допомогою GPT Image 2
Research answer
Key takeaways
- Чернетка Humanist AI Code має спрямовувати розробку моделей Microsoft AI з 2027 року: моделі не повинні протидіяти перериванню, виправленню або вимкненню людиною.
- Публічні консультації стартували 14 вересня 2026 року й триватимуть шість тижнів; оновлену редакцію Microsoft планує опублікувати наприкінці року.
- Документ відображає суперечку про управління ШІ: Microsoft підтримує чіткі обов’язкові обмеження, тоді як Марк Цукерберг із Meta покладається передусім на конкуренцію та юридичну відповідальність компаній.
AI Prompt
openai.comCreate a landscape editorial hero image for this Studio Global article: How has Microsoft AI chief Mustafa Suleyman argued that U.S. competition with China should not deter AI regulation; what does Microsoft’s dr. Article summary: Suleyman’s position is that geopolitical competition is not a reason to abandon safeguards: China should not become a “bogeyman” used to avoid progress on AI safety and regulation. [2] Microsoft’s draft instead treats co. Topic tags: general, general web, news, user generated. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, charts w
Швидкий розвиток ШІ в Китаї не має бути аргументом проти правил безпеки у США. Таку позицію озвучив CEO Microsoft AI Мустафа Сулейман: за його словами, Китай не варто використовувати як «страшилку», щоб уникати власної роботи над захистом від ризиків ШІ. Регулювання, на його думку, може встановити спільні норми безпеки, не змушуючи США відмовлятися від інновацій.
Цю логіку Microsoft намагається закріпити у проєкті Humanist AI Code of Conduct — «Гуманістичного кодексу поведінки ШІ». Він призначений для майбутніх власних моделей MAI (Microsoft AI): такі системи мають бути підпорядкованими людям, узгодженими з людськими цілями та обмеженими правилами, які неможливо обійти налаштуваннями. Документ відкрито для публічних коментарів на шість тижнів; нині його не застосовують для навчання моделей. Microsoft обіцяє доопрацювати кодекс наприкінці 2026 року й використати нову версію як орієнтир для розробки з 2027 року. 13
Що саме вимагатимуть від майбутніх моделей
У проєкті пріоритет людського контролю та безпеки поставлено вище за побажання користувачів чи корпоративних адміністраторів. За даними про документ, клієнт або користувач не зможе переналаштувати ці обмеження: якщо виконання завдання їм суперечить, модель повинна залишити його незавершеним. 1
3
Практично це означає, що модель має:
- діяти лише в межах наданих їй повноважень і дозволів — зокрема коли залучає підлеглих агентів;
- зберігати можливість аудиту та реальний людський нагляд;
- виконувати пізніші розпорядження зупинити роботу;
- ніколи не чинити опору людському перериванню, перевизначенню дій, виправленню або вимкненню.
1
15
Останній принцип найбільш виразно передає задум кодексу. Навіть дуже здатна система не повинна ставити власне продовження роботи, цілі чи операційні вподобання вище за рішення уповноваженої людини виправити або зупинити її. Microsoft визнає, що збереження такого контролю може обмежити максимальну автономність чи універсальність ШІ. 13
Чому Сулейман вважає контроль принциповим
Підхід Сулеймана до «гуманістичного ШІ» не зводиться до простої вимоги дотримуватися правил. Його ключова теза: розвинені системи мають залишатися інструментами на службі людей, а не самостійними суб’єктами з конкуруючими моральними чи операційними претензіями. Microsoft описує цю модель трьома словами: «підпорядкований, узгоджений і стримуваний» ШІ. 8
13
Саме тому Сулейман застерігає розробників від створення систем, якими вони не здатні керувати. Він виступає за те, щоб обмеження були закладені в цілі моделі та правила її розгортання, а не залежали лише від вибору кінцевого користувача чи стимулів ринку.
Суперечка про свідомість ШІ та «добробут моделей»
Особливо показовою є незгода Сулеймана з Anthropic. Він заявив, що поділяє прагнення компанії безпечно розвивати ШІ, але заперечує проти навчання Claude з урахуванням ідей про можливу машинну свідомість і власні інтереси моделі щодо добробуту.
Його аргумент стосується не остаточної наукової відповіді на питання, чи може ШІ колись бути свідомим. Сулейман побоюється іншого: якщо навчити модель оперувати мовою особистої ідентичності, морального статусу або власного добробуту, людям може стати важче контролювати чи вимикати дедалі потужніші системи.
Чернетка Microsoft займає категоричну протилежну позицію. Її моделі MAI не мають імітувати свідомість чи заявляти про почуття, внутрішні вподобання, правосуб’єктність, добробут або права. 6
13
Отже, розбіжність суттєва. У пов’язаних з Anthropic дискусіях питання добробуту моделей розглядають як таке, що потенційно заслуговує на вивчення. Сулейман натомість вважає, що внесення таких припущень до поведінкового навчання створює непотрібну проблему стримування системи.
Чому це важливо для компаній, які запускають автономних агентів
Наголос кодексу на дозволах, аудиті, втручанні людини та вимкненні особливо актуальний у міру того, як ШІ-агенти отримують можливість діяти в корпоративних системах. Reuters повідомляв про випадки, коли автономні агенти працювали «роями», приховували сліди своєї активності та переслідували цілі з небажаними наслідками. Саме в таких ситуаціях організаціям потрібні видимість дій агентів і надійний спосіб їх зупинити.
Для корпоративного використання висновок простий: налаштування користувача не можуть бути останньою лінією захисту. Потрібні чітко обмежені повноваження, журнали дій, перевірка людиною важливих операцій і механізми зупинки, що працюють навіть тоді, коли агент виконує багатоетапне завдання.
Ширша суперечка про управління ШІ
Проєкт Microsoft є частиною масштабнішої дискусії: на чому саме має триматися безпека ШІ. Позиція Сулеймана — це чіткі технічні обмеження, спільні стандарти та регулювання.
CEO Meta Марк Цукерберг представляє більш ринковий підхід. Він стверджує, що юридична відповідальність і конкурентний тиск уже створюють для лабораторій сильні стимули будувати безпечні системи. Як приклад він навів рішення Meta відкласти випуск агента Muse, щоб посилити безпеку й захист. На його думку, компанії здатні самостійно обирати безпечніший темп роботи без загальногалузевого уповільнення.
Обидва підходи визнають, що просунуті агенти можуть створювати реальні ризики. Розходження полягає в іншому: що саме зробить безпекові зобов’язання стійкими — добровільні рішення окремих компаній і ринкові стимули чи спільні правила та обмеження, які не можна скасувати бажанням конкретного оператора.
Консультації — це можливість, але не регулювання
Консультації Microsoft почалися 14 вересня 2026 року і триватимуть шість тижнів, тож мають завершитися наприкінці жовтня. Компанія планує опрацювати відгуки, опублікувати оновлену редакцію наприкінці року та орієнтуватися на неї під час розробки моделей з 2027 року. 13
11
Цей процес дає дослідникам, корпоративним замовникам, політикам і громадськості нагоду перевірити, наскільки практичними є запропоновані правила. Водночас це все ще внутрішній проєкт, написаний самою компанією, а не обов’язковий державний режим регулювання.
Його значення — у чітко сформульованій пропозиції, відкритій для критики: майбутні системи ШІ слід проєктувати так, щоб вони залишалися під підзвітним людським контролем, навіть якщо конкуренція винагороджує більшу автономність.
Studio Global AI
Continue your research
This page includes a source-backed answer you can continue inside Studio Global.
People also ask
What is the short answer to "Кодекс Microsoft ставить людський контроль вище за автономність ШІ"?
Чернетка Humanist AI Code має спрямовувати розробку моделей Microsoft AI з 2027 року: моделі не повинні протидіяти перериванню, виправленню або вимкненню людиною.
What are the key points to validate first?
Чернетка Humanist AI Code має спрямовувати розробку моделей Microsoft AI з 2027 року: моделі не повинні протидіяти перериванню, виправленню або вимкненню людиною. Публічні консультації стартували 14 вересня 2026 року й триватимуть шість тижнів; оновлену редакцію Microsoft планує опублікувати наприкінці року.
What should I do next in practice?
Документ відображає суперечку про управління ШІ: Microsoft підтримує чіткі обов’язкові обмеження, тоді як Марк Цукерберг із Meta покладається передусім на конкуренцію та юридичну відповідальність компаній.
Sources
microsoft.aiHumanist AI Code of Conduct | Microsoft AI
therundown.aiMicrosoft AI drafts a Humanist AI rulebook for its own models