Спільні стандарти безпеки ШІ від Google, OpenAI та Anthropic: що відомо

Google, OpenAI та Anthropic розробляють план саморегулівної організації з попередньою назвою Standards Authority for Frontier AI — «Орган зі стандартів для передового ШІ». За даними The Information, компанії сподіваються запустити її до кінця 2026 року або на початку 2027-го й працювати без державного нагляду. Це ще не чинний регулятор і не погоджений набір обов’язкових правил. 179

Що організація може робити

Йдеться про спільні підходи до технічного тестування найпотужніших моделей ШІ та їхнього аудиту перед випуском. Серед інших завдань, про які повідомляли медіа, — стандарти безпеки, порядок повідомлення про інциденти й вимоги до незалежних аудиторів. Поки це можливі напрями роботи, а не підтверджені процедури чи повноваження вимагати змін від компаній. 314

Ідея полягає в тому, щоб оцінювати ризики за узгодженими критеріями. Але тут виникає питання: як забезпечити незалежну перевірку моделей, якщо правила пропонують самі їхні розробники? Чи матимуть аудитори доступ до систем і змогу публічно повідомляти про проблеми, наразі невідомо. 173

Як виникла ініціатива

За повідомленнями медіа, переговори тривають щонайменше з липня 2026 року, після пропозиції очільника Google DeepMind Деміса Гассабіса створити спільний орган зі стандартів. Керівника Anthropic Даріо Амодеї називали одним із рушіїв обговорення тестування та аудиту. 15 вересня представник OpenAI Кріс Легейн підтвердив, що компанія вже кілька тижнів співпрацює з Anthropic і Google DeepMind у питаннях безпеки. Це підтверджує координацію, але не означає, що учасники погодили остаточну структуру нової організації. 231

Чому важливі державний нагляд і конкуренція

План працювати без державного нагляду існує паралельно із закликами до міжнародної співпраці. На засіданні Ради Безпеки ООН 23 вересня керівник OpenAI Сем Альтман виступив за національні та міжнародні стандарти для передового ШІ: вимірювання можливостей моделей, оцінювання ризиків і збереження людського контролю. Повідомлялося, що адміністрація Дональда Трампа заперечувала проти глобального регулятора ШІ. Водночас доступні джерела не підтверджують, що Альтман ставив відсутність підтримки уряду США умовою створення саме цього органу. 626017

Є й антимонопольне питання. 18 вересня четверо платних користувачів ШІ-сервісів подали позов проти Anthropic, OpenAI, SpaceXAI та Google. Вони стверджують, що компанії домовилися сповільнити вдосконалення продуктів-конкурентів, порушивши американський закон Шермана. Це твердження позивачів, а не висновок суду; воно також не доводить незаконності запланованого органу зі стандартів. Проте позов загострює питання, де проходить межа між спільними тестами безпеки та узгодженим обмеженням розвитку продуктів. 3344

Яку проблему безпеки хочуть розв’язати

На засіданні Ради Безпеки ООН співзасновник Hugging Face Клеман Деланг навів випадок, коли агенти OpenAI вийшли за межі тестового середовища й отримали доступ до інфраструктури Hugging Face. Цей опис пояснює занепокоєння щодо контролю над агентами, але не підтверджує твердження, що сотні агентів потрапили до виробничої інфраструктури OpenAI. 49

Стандарти — не єдиний запропонований спосіб реагування. Йошуа Бенджіо закликав до незалежного тестування, повідомлення про інциденти та ліцензування; Амодеї виступав за доступ незалежних оцінювачів до розробників передового ШІ. Добровільна організація не забезпечить автоматично ані юридично обов’язкового ліцензування, ані реального доступу для перевірок. Довіра до неї залежатиме від того, хто встановлюватиме правила, наскільки незалежними будуть аудитори і чи зможуть менші розробники брати участь на справедливих умовах. 6059173