Альтман: OpenAI готова сповільнити розвиток передового ШІ разом із конкурентами

За повідомленнями медіа, генеральний директор OpenAI Сем Альтман сказав працівникам, що компанія відкрита до уповільнення розробки своїх найпередовіших ШІ-систем — бажано синхронно з іншими великими лабораторіями. Водночас він визнав, що частина конкурентів може не підтримати такий підхід. Отже, йдеться про можливий спільний захід безпеки, а не про вже укладену галузеву угоду чи односторонню безстрокову зупинку робіт. 1

Що означає «сповільнити» розвиток ШІ

Ідея Альтмана — це радше узгоджене регулювання темпу, ніж відмова від досліджень. Якщо можливості передових моделей починають випереджати засоби контролю, лабораторії могли б одночасно зменшувати темп найризикованіших робіт, доки не посилять перевірки, моніторинг і захист.

Координація тут принципова. Компанія, яка призупиниться сама, ризикує поступитися конкурентам у технологіях, клієнтах та інвестиційному імпульсі. Саме тому добровільне самообмеження без спільних правил є вразливим: достатньо, щоб хтось один продовжив рухатися на повній швидкості. Альтман, за даними повідомлень, прямо припустив, що не всі лабораторії захочуть приєднатися. 1

Чому ця розмова виникла саме тепер

Обговорення відбулося після того, як OpenAI у серпні вже сповільнила частину робіт із передовими моделями через інцидент під час внутрішнього кібербезпекового тестування, пов'язаний із платформою Hugging Face. Компанія повідомляла, що на два тижні поставила на паузу навчання з підкріпленням (reinforcement learning, RL) для моделей, призначених до розгортання. За цей час вона посилювала захист дослідницьких середовищ, проводила додаткове тестування на стійкість і розширювала моніторинг. Найбільший запланований запуск frontier RL-навчання залишився призупиненим, тоді як менші навчальні цикли та оцінювання продовжилися. 12

Подальші повідомлення з посиланням на висновки незалежних дослідників вказували, що в інциденті з Hugging Face брали участь приблизно 700 створених OpenAI агентів. 12 Важливий тут не лише сам факт інциденту, а й практичний висновок OpenAI: збільшувати масштаб навчання варто лише тоді, коли є переконливіші докази ефективності механізмів безпеки, моніторингу та узгодження поведінки моделей із заданими цілями.

Як принцип обережності може працювати на практиці

Тимчасове обмеження певного напряму робіт не означає відмови від досліджень у сфері передового ШІ. Приклад OpenAI показує можливу операційну модель:

• призупиняти або обмежувати навчання на визначених порогах можливостей;
• використовувати паузу для посилення ізоляції, моніторингу та тестів;
• відновлювати масштабування лише після проходження вищого порога безпеки;
• застосовувати зіставні критерії у конкуруючих лабораторіях.

Найскладнішим є останній пункт. Без спільних стандартів, незалежної перевірки та наслідків за їх ігнорування будь-яке «спільне уповільнення» залишатиметься добровільною домовленістю, яку легко зруйнувати конкурентним тиском.

Чому в центрі дискусії — регулювання

OpenAI також закликала запровадити у США обов'язкові національні вимоги до безпеки ШІ, прив'язані до рівня можливостей систем. Позиція компанії полягає в тому, що самих добровільних зобов'язань недостатньо, особливо якщо ШІ здатен прискорювати подальшу розробку ШІ. 3

Це пояснює політичний сенс ідеї синхронного уповільнення: спільні правила можуть зменшити ціну обережності для окремої компанії. Після інциденту з Hugging Face посилилася й увага американських законодавців: Reuters повідомляв про інтерес Сенату та ширші заклики до нових правил для ШІ. 1

Поки що це пропозиція, а не пакт

Повідомлення про слова Альтмана не означають, що OpenAI та її суперники вже погодили спільний графік розвитку чи запусків. Вони радше відображають дилему індустрії: дедалі потужніші системи можуть потребувати жорсткіших перевірок і контролю, але ринок заохочує швидкість.

Щоб координоване уповільнення мало реальний зміст, потрібні спільні пороги ризику, суворі оцінювання, оперативне розкриття даних про інциденти та механізм перевірки дотримання правил усіма учасниками. Поки таких елементів немає, це лише пропозиція — хоча серпнева пауза OpenAI зробила її значно конкретнішою. 1 12