Сінгапур і Microsoft уклали угоду про безпеку передового ШІ: що насправді передбачає меморандум від 12 червня

Для агентних систем недостатньо перевірити якість однієї відповіді. Потрібно оцінити, які дії їм дозволені, як вони реагують на неоднозначні команди та чи здатні технічні обмеження запобігти небезпечним або непередбаченим результатам.

2. Обмін знаннями та практиками управління

Сторони також мають намір обмінюватися інформацією, найкращими практиками та рамками управління ШІ. Це допоможе пов’язати технічне тестування з операційними рішеннями: які ризики перевіряти, які пороги безпеки встановлювати, хто може отримувати доступ до моделі та що робити після виявлення серйозної вразливості.

Такий підхід ширший за просте порівняння моделей у стандартних тестах. Система може показувати високі результати на бенчмарках, але залишатися непридатною для державних послуг чи критичної інфраструктури, якщо в неї недостатні обмеження доступу, моніторинг, процедури повідомлення про проблеми або людський контроль.

3. Політика довіреного доступу

Третій напрям — пошук політичних і регуляторних підходів до довіреного доступу до передових моделей. Ідея полягає в контрольованій доступності: високопотужні системи мають бути доступними для легітимного тестування та корисної роботи, але не повинні відкриватися без запобіжників, співмірних із їхніми можливостями та ризиками.

Отже, меморандум окреслює багаторівневу модель безпеки: протестувати систему, обмінятися результатами, за потреби обмежити доступ і визначити правила відповідальності.

До чого тут Claude Mythos — і чого джерела не доводять

Нерозголошена модель Claude Mythos Preview від Anthropic є показовим прикладом подвійного призначення передового ШІ. За даними Anthropic, компанія разом приблизно з 50 партнерами в межах Project Glasswing виявила понад 10 000 вразливостей високої або критичної тяжкості в програмному забезпеченні, важливому для функціонування цифрових систем. Anthropic також заявляла, що Mythos здатна виявляти й експлуатувати вразливості, зокрема невідомі на момент виявлення, у провідних операційних системах і браузерах.

Ця здатність може допомогти захисникам знаходити проблеми до того, як ними скористаються зловмисники. Водночас широке або неналежно контрольоване поширення такої моделі могло б скоротити шлях від пошуку вразливості до її експлуатації. Саме тому Anthropic залишила Mythos у режимі обмеженого доступу через Project Glasswing, а не зробила її загальнодоступною.

Однак наявні матеріали не підтверджують, що саме Claude Mythos стала причиною або безпосереднім поштовхом для меморандуму Сінгапуру та Microsoft від 12 червня. Коректніше сприймати Mythos як приклад середовища ризиків, що швидко змінюється, і пояснення, чому структуроване тестування, контрольований доступ та управління стають дедалі важливішими.

Як заходи безпеки виглядають на практиці

Обмежений доступ — це окремий запобіжник

Модель Project Glasswing із доступом лише для визначеної групи партнерів сама по собі є заходом управління ризиками. Anthropic надала Mythos відібраним організаціям для захисної роботи, а не відкрила її для всіх. Це дає змогу фахівцям вивчати можливості системи, одночасно обмежуючи її потенційне зловживання.

Втім, обмежений доступ не є повною системою безпеки. Він потребує перевірки учасників, моніторингу, захищеного поводження з даними та відповідального розкриття інформації. Але цей підхід добре ілюструє логіку роботи над «довіреним доступом», передбачену меморандумом: доступ до моделі має залежати від її можливостей і ризиків, а не надаватися так само, як до звичайного публічного програмного забезпечення.

Виявлення вразливості має завершуватися виправленням

Знайти проблему — лише перший крок. Агентство кібербезпеки Сінгапуру рекомендувало організаціям встановлювати виправлення для критичних вразливостей і вразливостей високої тяжкості, використовувати багатофакторну автентифікацію на всіх інтерфейсах і шлюзах та переглядати зайві права доступу. Такі заходи зменшують можливості зловмисників, поки компанії досліджують і усувають проблеми.

Водночас твердження, що приблизно 10 000 вразливостей, знайдених Mythos, були переважно виправлені, потребують обережності. Пізніша оцінка повідомляла про 1 596 розкритих розробникам проблем, але лише 97 виправлень. Це не означає, що проєкт не приніс користі для захисту, однак широкі заяви про те, що «багато» вразливостей уже усунуто, наразі не мають достатнього підтвердження.

Головний висновок стосується не лише технологій, а й організації процесів: безпека ШІ потребує механізмів для виявлення ризиків, відповідального повідомлення про них, пріоритизації виправлень і зменшення рівня вразливості до завершення робіт.

Роль Microsoft і межі того, що підтверджує угода

Microsoft приносить до партнерства досвід розроблення передових моделей, корпоративної інфраструктури та практичної оцінки й контролю доступу до систем ШІ. Проте заявлена сфера дії меморандуму ширша за одну модель Microsoft: вона стосується підходів до безпеки та довіреного доступу до передових моделей загалом.

Надані джерела не підтверджують як формальні частини саме цієї угоди низку конкретніших тверджень — зокрема про модель MAI від Microsoft, доступ через Azure AI Foundry до моделей OpenAI та Anthropic або аналогічні домовленості з британським Інститутом безпеки ШІ та американським Центром стандартів і інновацій у сфері ШІ. Тому їх не слід подавати як зобов’язання, передбачені сінгапурсько-американським меморандумом.

Мета — екосистема, якій можна довіряти

У сукупності домовленість формує практичний ланцюжок безпеки:

1. Оцінювати передові та агентні системи, зокрема перевіряти їхню поведінку різними мовами.
2. Обмінюватися технічними висновками, практиками управління та результатами тестування.
3. Контролювати доступ до моделей, чиї можливості створюють підвищені ризики.
4. Реагувати через відповідальне розкриття інформації, встановлення виправлень, автентифікацію та обмеження дозволів.
5. Визначати політику використання передових систем у чутливих сферах.

У цьому і полягає значення меморандуму. Він не робить передовий ШІ безпечним автоматично й не усуває ризики, на які вказує Claude Mythos. Натомість угода поєднує технічне оцінювання з управлінням доступом і практиками кібербезпеки — щоб перед запуском у важливих середовищах можливості системи не плутали з доказом її готовності.