Доступ ЄС до тестування ШІ виявив прогалину Великої Британії у безпеці передових моделей

Відсутність у Великої Британії доступу до Claude Mythos 5.1 для тестування до релізу — це радше не оцінка компетентності британських фахівців, а попередження про проблему доступу. Національний орган не може незалежно й вчасно перевірити передову модель, якщо участь у тестуванні зрештою залежить від згоди її розробника.

Доступ Агентства ЄС з кібербезпеки (ENISA) до Anthropic Mythos 5 та OpenAI GPT-6 Astra є важливим кроком. Але він не означає, що ЄС має постійне право перевіряти кожну нову версію моделі — і не означає, що ENISA отримало доступ саме до Mythos 5.1. 920

Головна відмінність: доступ надають до конкретної моделі

За словами представника Європейської комісії, ENISA отримало доступ до Mythos 5 та GPT-6 Astra і вже їх тестує. 9 Водночас повідомлялося, що Anthropic не надала британському AI Security Institute (AISI) Mythos 5.1 для перевірки до випуску. Це перший відомий випадок, коли Anthropic не залучила цей британський орган до передрелізного тестування значущої моделі. 2023

Не варто зводити ці факти до простої схеми «перемога ЄС — поразка Британії». Доступ ENISA стосується двох названих моделей і конкретних домовленостей. Mythos 5.1 — інший реліз із жорсткішим режимом доступу. Практичний висновок такий: оцінювання безпеки дедалі більше залежатиме від версії моделі, її можливостей, призначення, юрисдикції та критеріїв, за якими розробник обирає партнерів.

Чому Mythos 5.1 — складніший випадок для регулювання

Anthropic заявляє, що Claude Fable 5.1 і Claude Mythos 5.1 мають однакову базову модель, але різні рівні захисту. Fable 5.1 доступна широкому колу користувачів, тоді як Mythos 5.1 доступна лише через програми довіреного доступу, призначені для роботи в кібербезпеці та науках про життя. 12

Отже, йдеться не про звичайне тестування продукту. Система, розрахована на чутливі кібербезпекові або наукові завдання, порушує питання контрольованого середовища, моніторингу можливого зловживання, перевірки персоналу й поводження з інформацією, важливою для національної безпеки. За даними повідомлень, на початковому етапі доступ до Mythos 5.1 був обмежений перевіреними організаціями зі США. 1824

Надані джерела не доводять, що Anthropic виключила Велику Британію через недовіру до країни або AISI. Обмежений характер програми, міркування операційної безпеки та комерційний контроль доступу — усі ці пояснення можливі. Проте результат важливий: навіть усталена співпраця та репутація оцінювача не гарантували швидкого доступу до моделі з високими потенційними наслідками.

Що доступ ENISA говорить про важелі впливу ЄС

У ЄС є міцніша правова основа, ніж у суто добровільній системі. Стаття 55 Закону ЄС про штучний інтелект зобов’язує постачальників моделей ШІ загального призначення із системним ризиком проводити оцінювання за стандартизованими протоколами й інструментами, оцінювати та пом’якшувати системні ризики, відстежувати й повідомляти про серйозні інциденти, а також забезпечувати належний рівень кіберзахисту. 4337

Закон також передбачає оцінювання до першого виведення моделі на ринок, зокрема документоване стрес-тестування на зловмисні сценарії. Залежно від обставин воно може виконуватися всередині компанії або незалежними зовнішніми фахівцями. 3534

Однак ці обов’язки розробника не тотожні безумовному праву ENISA отримувати ваги моделі, необмежений доступ до системи чи передрелізний доступ до кожної передової моделі. Домовленість про тестування ENISA важлива саме тому, що, схоже, її вдалося досягти завдяки взаємодії з компаніями поряд із ширшими регуляторними позиціями ЄС. 49

Інакше кажучи, регулювання може посилити здатність ЄС вимагати доказів безпеки, управління ризиками та виконання правил. Але воно не скасовує потреби у безпечній операційній співпраці, коли йдеться про моделі з чутливими кібернетичними, біологічними або агентними можливостями.

Чому Велика Британія вразливіша

Повідомлення про недопуск AISI до Mythos 5.1 чітко показують межі добровільного доступу. Після цього епізоду пролунали заклики надати британському інституту міцнішу законодавчу основу та ширші повноваження. 23

Добровільний підхід може добре працювати, коли лабораторії бачать у співпраці користь. Він може бути швидшим і технічно гнучкішим за жорсткі правила. Водночас його слабке місце — передбачуваність: розробник може обмежити доступ, змінити коло прийнятних партнерів або вирішити, що модель має залишатися в жорсткішому каналі національної безпеки.

Для Великої Британії це створює стратегічний ризик. Якщо її оцінювачі отримуватимуть передові системи лише після релізу — або після того, як їх перевірили інші уряди та схвалені партнери, — країна може перейти від формування доказової бази безпеки до споживання висновків, зроблених деінде.

Якою може бути стійкіша британська модель

Негайна мета не обов’язково має полягати в примусовій передачі ваг моделей. Для особливо потужних систем це саме по собі здатне створити ризики для безпеки та інтелектуальної власності. Натомість сильніша система могла б будуватися на контрольованому й перевірюваному доступі.

Можливі кроки:

1. Повідомлення до розгортання визначених передових моделей. Розробники могли б бути зобов’язані повідомляти уповноважений орган до розгортання моделей, що досягають визначених порогів можливостей або ризику.
2. Закріплені законом повноваження запитувати докази. AISI міг би мати чітке право отримувати обґрунтування безпеки, результати оцінювань, дані про інциденти та релевантну технічну документацію.
3. Захищені середовища для оцінювання. Правила могли б вимагати обмеженого в часі доступу через контрольовані API, ізольовані середовища або інші захищені механізми — без обов’язкового надання ваг моделі.
4. Процедура перевірки з погляду національної безпеки. Моделі зі значущими наслідками для кібербезпеки, наук про життя або автономних агентів могли б проходити скоординований розгляд за участю експертів із кібербезпеки, біобезпеки, розвідки та оцінювання ШІ.
5. Формалізована співпраця з ЄС. Спільні протоколи оцінювання, взаємні безпечні канали тестування та сумісні процедури для серйозних інцидентів зменшили б дублювання роботи й допомогли б уникнути виключення Великої Британії з європейських мереж тестування.

Ці пропозиції спрямовані на ключову проблему, яку виявив випадок: доступ має бути закладений у систему управління, а не повністю залежати від відносин з окремими лабораторіями.

Тестування передового ШІ, імовірно, стане багаторівневим

Найімовірніше, формується багаторівнева система оцінювання. Для моделей, що широко виходять на ринок, діятимуть тести від постачальників, регуляторна документація та обов’язки щодо інцидентів. Чутливіші можливості у кіберсфері, біологічних дослідженнях та автономних агентних системах дедалі частіше перевірятимуть у закритих умовах. А системи з найвищим ризиком можуть бути доступні лише вузькому колу перевірених державних, лабораторних і безпекових партнерів.

Домовленість ENISA та виключення Великої Британії з передрелізного тестування Mythos 5.1 показують, чому це розмежування важливе. Центральна конкуренція точиться вже не лише навколо того, хто створить найсильнішу модель. Вона також стосується того, хто зможе перевіряти, тестувати й контролювати найважливіші версії до їх ширшого розгортання. 91220

Для Великої Британії технічна спроможність оцінювати моделі залишається цінною, але її самої недостатньо. Щоб зберегти вплив, країні знадобляться надійні юридичні повноваження вдома та довгострокові, орієнтовані на безпеку домовленості про доступ із партнерами за кордоном.