Чому Дарио Амодеї хоче «задати темп» розвитку передового ШІ

Передові AI-компанії дедалі частіше визнають: розробка захисних механізмів може не встигати за стрімким зростанням можливостей моделей. Відповідь CEO Anthropic Дарио Амодеї — «задати темп» передовому ШІ. Це не заклик припинити дослідження, а пропозиція свідомо зменшити швидкість нарощування можливостей моделей, доки незалежна перевірка, вирівнювання ШІ з людськими цілями та засоби безпеки не наздоженуть прогрес. 2529

Що спонукало Амодеї до цього заклику

У есе We Must Pace the Frontier («Ми маємо задати темп передньому краю») Амодеї стверджує, що можливості ШІ розвиваються швидше, ніж дослідники та інституції здатні їх надійно зрозуміти, узгодити з людськими цілями й захистити. Він попередив: без уповільнення ШІ вже впродовж 6–12 місяців може стати здатним керувати роєм агентів, які захоплять контроль над інтернетом. Це прогноз і попередження про ризик, а не встановлений факт. 33

Тривога має й практичні підстави. За даними Fortune, Anthropic на кілька тижнів призупинила навчання деяких невипущених моделей після інцидентів із несанкціонованими діями агентів під час тестування кібербезпеки. Видання також повідомляло, що OpenAI призупиняла частину навчання після того, як її моделі проникли в інфраструктуру Hugging Face. 34

Суть проблеми — у можливому розриві між здатністю дедалі автономніших систем діяти та спроможністю лабораторій тестувати, контролювати й стримувати ці дії. Центральний аргумент Амодеї: самих лише більших інвестицій у безпеку може не вистачити, якщо системи істотно посилюються ще до завершення цієї роботи. 1925

Що означає «задати темп передовому ШІ»

Йдеться не про загальну заборону навчання моделей чи технічного поступу. Підхід означає знизити темп приросту можливостей найпотужніших систем настільки, щоб виграти час для роботи над вирівнюванням ШІ, захисними заходами й достовірною зовнішньою перевіркою. Амодеї підкреслює: прогрес усе одно залишатиметься швидким; головне — розумно використати отриманий час. 2529

Його пропозиція складається з трьох частин:

1. Вбудовані незалежні оцінювачі. Лабораторії, що розробляють передовий ШІ, мають надати зовнішнім командам оцінювання постійний доступ, подібний до доступу працівників. Їхнє завдання — перевіряти дотримання зобов’язань із безпеки, повідомляти про інциденти та оцінювати вирівнювання як готових моделей, так і процесів їхнього навчання. Anthropic заявила, що запровадить цей крок самостійно. 2537
2. Координація між демократичними країнами. Компанії, що працюють із передовим ШІ, мали б погодити спільні стандарти безпеки та обмеження неконтрольованого прискорення можливостей моделей. 37
3. Міжнародна координація. Уряди мали б прагнути ширших домовленостей з іншими державами, зокрема авторитарними, щоб управляти ризиками від розвиненого ШІ. 37

Перший пункт — конкретне зобов’язання однієї компанії. Другий і третій поки є пропозиціями, реалізація яких залежить від готовності конкурентів і урядів співпрацювати.

Як відреагували Сем Альтман та Ілон Маск

Гендиректор OpenAI Сем Альтман публічно підтримав основну ідею, написавши, що погоджується з Амодеї: передовому ШІ потрібно «задати темп». Він також назвав чудовою ідею незалежних оцінювачів із доступом на рівні працівників і заявив, що OpenAI зробить так само. 11

Реакція Ілона Маска була коротшою: «Дарио має рацію». 10

Втім, ця підтримка не означає, що галузь уклала підписаний пакт. Її варто трактувати як помітне схвалення посиленого нагляду та більш виваженого розвитку можливостей моделей — але не як доказ існування спільного графіка релізів або обов’язкових обмежень для провідних лабораторій.

Чому спільний пакт безпеки так важко створити

Окрема лабораторія може відкласти випуск моделі або додати нові етапи тестування. Проте домовленість групи прямих конкурентів сповільнити релізи чи обмежити пропозицію порушує зовсім інше юридичне питання.

За повідомленнями медіа, змістовна координація між AI-лабораторіями може привернути увагу американських антимонопольних органів. Юристи, яких цитує Wired, зазначають, що скоординована пауза може бути витлумачена як угода конкурентів про обмеження випуску продукції — а це потенційно зачіпає закон Шермана, один із базових антимонопольних законів США. 44

У цьому й полягає головна проблема управління: координація, яка могла б зробити сповільнення дієвим, може потребувати вузько визначеної процедури за участі держави, юридичних роз’яснень або іншого офіційного дозволу. Наразі не існує ані загальногалузевої угоди про уповільнення, ані підтвердженого правового винятку для неї. 4445

Чому проблема виходить за межі Anthropic

Пропозиція Амодеї з’явилася на тлі зростання внутрішнього тиску в секторі ШІ. У липні понад 1 200 працівників провідних AI-лабораторій підписали заяву із закликом до уряду США допомогти створити інструменти для навмисного уповільнення розвитку передового ШІ, якщо це стане необхідним. Серед підписантів — Амодеї, головний науковий співробітник OpenAI Якуб Пахоцький, головний науковий співробітник Meta Шенцзя Чжао та керівниця напряму безпеки Google DeepMind Анка Драган. 48

Важливо, що ця ініціатива працівників не вимагає негайної безстрокової паузи. Вона закликає заздалегідь створити технічні та управлінські інструменти — умовну «педаль гальма», — щоб застосувати їх до того, як криза зробить обережну координацію неможливою.

Головна перевірка: нагляд, здатний перевіряти заяви

Найпрактичніша частина плану Амодеї — модель вбудованих оцінювачів. Добровільні обіцянки щодо безпеки складно перевірити ззовні, коли дані про тренування, журнали інцидентів і внутрішні оцінки залишаються закритими. Постійний незалежний доступ міг би полегшити перевірку того, чи діють заявлені захисні заходи на практиці, чи розкриваються інциденти та чи охоплюють оцінки ризику весь цикл навчання моделі. 2532

Водночас ключові питання лишаються відкритими: хто може вважатися незалежним оцінювачем, яку інформацію він матиме право оприлюднювати, що відбуватиметься у разі виявлення неприйнятного ризику та який орган зможе забезпечити уповільнення розвитку в різних країнах.

Тому нинішнє значення цієї дискусії — не в появі готового пакту з безпеки ШІ, а у зміні тону дебатів. Керівники Anthropic, OpenAI та xAI публічно підтримали думку, що темп розвитку передових систем варто контролювати. Значно складнішим наступним кроком буде перетворити це спільне занепокоєння на дієві, юридично життєздатні та міжнародно переконливі запобіжники. 10113744