Автоматизований «червоний командний» тест: Всередині системи безпеки OpenAI, яка витратила 700 000 годин на GPU, щоб знайти слабкі місця GPT-5.6

1. Автоматизована генерація різноманітних цілей атаки — система створює широкий спектр ворожих завдань для тестування.
2. Ефективна генерація атак з використанням багатокрокового навчання з підкріпленням — модель "атакуючого" навчається та винагороджується за успішне створення атак, які досягають поставлених цілей .

Цей метод використовує самонавчання, де автоматизований атакуючий на основі LLM перевіряє цільову модель на наявність слабких місць, таких як ін'єкції промптів та джейлбрейки . OpenAI заявила, що цей підхід на основі RL допомагає активно виявляти та виправляти експлойти до того, як вони будуть використані в реальних атаках . Компанія описує ін'єкцію промптів як "передову проблему безпеки" і активно використовує автоматизований ред-тімінг для розробки нових типів таких атак .

700 000 годин GPU тестування GPT-5.6 "всліпу"

Перш ніж GPT-5.6 став загальнодоступним, OpenAI провела наймасштабніший в історії компанії період оцінки моделі . Системна картка GPT-5.6 Preview зазначає: "Ми також виділили понад 700 000 годин GPU A100e для автоматичного пошуку універсальних джейлбрейків та інших вразливостей" . Це автоматизоване тестування доповнило тижні ручного ред-тімінгу та оцінок зовнішніх експертів .

Компанія використала цей величезний обчислювальний бюджет для пошуку загальних, системних джейлбрейків, а не лише окремих помилок . Автоматизований ред-тімінг був розроблений для безперервної роботи навіть після розгортання моделі, при цьому виправлення та повторне тестування застосовувалися в міру виявлення нових джейлбрейків .

Рейтинги ризику GPT-5.6: Високий, але нижче Критичного

Відповідно до "Рамки готовності" (Preparedness Framework) OpenAI, всі три варіанти GPT-5.6 — Sol (флагманська модель), Terra (дешевша) та Luna (найшвидша) — класифікуються як такі, що мають "Високий" рівень здібностей як у сфері кібербезпеки, так і в біологічному/хімічному ризику . Це вперше, коли навіть менші, дешевші моделі перетнули високий поріг у цих категоріях .

Однак жодна з моделей не досягла "Критичного" порога. Внутрішнє тестування кібербезпеки показало, що GPT-5.6 Sol та Terra можуть виявляти вразливості та частини експлойтів, але не здатні самостійно виконувати повноцінні наскрізні атаки . Жодна з моделей також не досягла високого порогу щодо самостійного вдосконалення .

Багаторівнева система безпеки

OpenAI описує GPT-5.6 як модель із "найнадійнішими засобами захисту на сьогодні" . Архітектура безпеки включає:

• Вбудована відмова на рівні моделі для запитів високого ризику
• Класифікатори активації в реальному часі, які перевіряють внутрішні нейронні сигнали під час виведення та можуть призупинити генерацію, якщо виникають шаблони високого ризику
• Класифікатори реального часу для виявлення зловживань у сфері кібербезпеки та біології
• Перевірка на рівні акаунта та диференційований контроль доступу

Цей багаторівневий підхід відображає думку OpenAI про те, що жодного окремого захисту недостатньо .

Вакансія дослідника автоматизованого ред-тімінгу (ART)

OpenAI активно нарощує свій внутрішній потенціал у сфері автоматизованого ред-тімінгу. Компанія наймає дослідника (Researcher, Automated Red Teaming) із зарплатою $295 000 – $445 000, чия роль полягає в тому, щоб "очолити зусилля з автоматизованого ред-тімінгу, зосередившись на створенні масштабованих систем для виявлення режимів відмови моделей і захисту" . Компанія також шукає спеціаліста з біобезпеки (Biosafety Red Teaming Specialist, $158 000 – $320 000) для керівництва ред-тімінгом у сфері біозагроз, включаючи CBRN (хімічна, біологічна, радіологічна та ядерна зброя) .

Змагання на Kaggle з призовим фондом $500 000

OpenAI провела змагання з ред-тімінгу на платформі Kaggle із призовим фондом $500 000, зосереджене на моделях з відкритою вагою gpt-oss-120b та gpt-oss-20b . Конкурс мав на меті винагородити учасників за виявлення нових вразливостей, які раніше не були ідентифіковані . Хоча конкретні цифри та деталі змагання не вдалося окремо підтвердити з офіційних джерел OpenAI у цьому аналізі, звіти третьої сторони від TechPolicy.Press підтверджують існування конкурсу . У системній картці GPT-5.6 згадується "MLE-Bench Revised", який оцінює моделі на змаганнях Kaggle, але не згадує безпосередньо про $500 000 приз.

Регуляторний контекст та невизначеність

Наявні докази підтверджують, що GPT-5.6 постачається з багаторівневою системою безпеки, а рамки готовності OpenAI класифікували власні моделі . Звіти третьої сторони зазначають участь уряду США в контексті "контролю доступу" (gatekeeping), де уряд може впливати на доступ до найпотужніших моделей . Однак прямого згадування Інституту безпеки ШІ Великої Британії (UK AI Safety Institute) або конкретних регуляторних дій США не було знайдено в основних джерелах. Документація самої OpenAI стосується класифікацій безпеки, але не деталізує зовнішній регуляторний нагляд за межами власної рамки готовності .