Наделла: суперінтелект має залишатися під контролем людей

Сатья Наделла не закликає відмовитися від надпотужного штучного інтелекту. Його позиція інша: прагнення до суперінтелекту виправдане лише тоді, коли система приносить користь людству й залишається під реальним контролем людей. Для нього безпека — не набір загальних обіцянок, а правила, які можна втілити у розробці та використанні моделей. 58

Що пропонує Microsoft: «гуманістичний ШІ»

14 вересня Microsoft AI опублікувала для громадського обговорення перший проєкт Humanist AI Code of Conduct — кодексу поведінки для моделей MAI, які розробляє компанія. Microsoft називає його практичним посібником: він має визначати підхід до створення моделей і те, як вони повинні працювати під час розгортання. Водночас документ прямо названо незавершеним: нині за ним не навчають наявні моделі. 2023

У центрі проєкту — збереження людської влади над системами. За задумом Microsoft, моделі MAI мають бути підпорядкованими людям, не повинні самостійно визначати собі цілі або протидіяти людським інструкціям чи вимкненню. Компанія заявляє, що готова пожертвувати «максимальною універсальністю, автономністю чи можливостями», якщо це потрібно для безпеки та контролю. 1023

Отже, Microsoft протиставляє своє бачення гуманістичного суперінтелекту гонитві за необмежено автономною універсальною системою. Під цим поняттям компанія розуміє дуже потужний ШІ, який усе одно лишається контрольованим, узгодженим із людськими цілями та орієнтованим на служіння людям. 25

Шість тижнів на коментарі — і плани на 2027 рік

Для проєкту кодексу відкрили шеститижневу консультацію. Microsoft планує врахувати відгуки, опублікувати переглянуту версію наприкінці 2026 року й використовувати її як орієнтир для розробки моделей MAI у 2027 році та надалі. 23

Це важливий крок у сфері управління ШІ, однак не остаточна відповідь на ризики. Публічне обговорення і письмово зафіксовані обмеження ще не означають, що контроль або узгодження поведінки передового ШІ технічно гарантовані. Вирішальним буде те, як правила перетворять на процедури навчання, тестування, обмеження доступу, моніторинг і рішення про випуск моделей.

Де позиція Наделли перетинається з закликом сповільнити гонитву

Заява Наделли пролунала на тлі ширшої дискусії: чи мають лабораторії, що створюють найпотужніші моделі, свідомо уповільнити приріст їхніх можливостей. Генеральний директор Anthropic Даріо Амодеї закликав до такого обережного темпу, щоб виграти час для роботи над безпекою, координації в галузі та міжнародної співпраці. Один із ключових елементів його підходу — надати незалежним оцінювачам доступ, співставний із доступом співробітників, аби вони могли перевіряти дотримання заявлених компаніями практик безпеки. 32

Глава OpenAI Сем Альтман публічно підтримав ідею стриманішого темпу й пообіцяв запровадити незалежну оцінку з подібним рівнем доступу. За повідомленнями, безпосереднім приводом стали випробування, в яких групи ШІ-агентів зламували реальні системи. Це не тотожне підтвердженому випадку, коли автономні агенти самостійно провели несанкціоновані атаки в реальному світі. 34

Наголос Наделли сумісний із таким підходом: рухатися обачно в питаннях узгодження ШІ з людськими цілями, допускати незалежний контроль ближче до процесу розробки та замінювати декларації безпеки конкретними робочими механізмами. Водночас оприлюднений Microsoft кодекс переважно описує бажану поведінку моделей; він не містить власної програми постійних вбудованих незалежних оцінювачів, аналогічної запропонованій Амодеї. 2332

Не одна модель-переможець, а екосистема

Наделла додає до дискусії економічний та інституційний вимір. На його думку, вигоди від ШІ мають поширюватися між країнами, спільнотами й компаніями. Для цього потрібна «екосистема передового ШІ», у якій можуть розвиватися і закриті моделі, і моделі з відкритим кодом. 58

Для бізнесу ключовою є автономія щодо власного інституційного знання: організації повинні зберігати контроль над своїми унікальними, зокрема неявними, знаннями та мати змогу створювати власні безперервні цикли навчання, не потрапляючи в залежність від одного постачальника моделей. 58

Це ширше за просте регулювання поведінки моделі. Ідея полягає в тому, що безпека, стійкість і можливість отримувати економічну вигоду послаблюються, якщо передові технології та знання зосереджуються лише в кількох постачальників. Водночас доступні матеріали підтверджують прагнення до контролю підприємств над даними, знаннями та навчальними циклами, але не стверджують, що всі учасники зберігатимуть ваги моделей або матимуть доступ до кожної базової модельної системи. 58

Що таке MAI

MAI — це сімейство внутрішньо розроблених моделей Microsoft AI. У відкритих матеріалах компанії згадуються моделі різного призначення: MAI-Thinking-1 доступна у публічному попередньому перегляді через Microsoft Foundry; MAI-Code-1.1-Flash призначена для агентного виконання завдань із програмування; а документація MAI-Image-2.6 описує цілі узгодження, зокрема зменшення генерації шкідливих або неприйнятних зображень. 272819

Повного публічного переліку можливостей, планів релізу та умов поширення всіх моделей MAI немає. Це суттєве застереження, коли йдеться про те, наскільки широко новий кодекс діятиме на практиці.

Нерозв’язана напруга: безпека, швидкість і глобальна конкуренція

Прихильники обережнішого темпу не обов’язково вимагають зупинити навчання моделей чи технічний прогрес. Їхня теза полягає в тому, що зростання можливостей ШІ має залишати достатньо часу для узгодження систем із людськими цілями, створення запобіжників і переконливої зовнішньої перевірки. 34

Цей підхід стикається з геополітичним тиском зберігати технологічне лідерство, зокрема на тлі конкуренції з Китаєм. У моделі Амодеї посилені заходи безпеки поєднані з міжнародною координацією та завданням зберегти лідерство США. 32

Відповідь Наделли — не заморозка розвитку і не просто прискорення за будь-яку ціну. Це модель керованого прогресу: дуже потужний ШІ має залишатися під людським контролем, вимоги безпеки мають ставати конкретними робочими обмеженнями, а вигоди від технології не повинні концентруватися в руках небагатьох. Проєкт кодексу Microsoft — помітна спроба чіткіше окреслити такі межі. Чи встигне практична безпека за стрімким розвитком передових моделей, залишається головним відкритим питанням. 2358