Самообучающийся ИИ против GPT-5.6: внутренний аудит OpenAI нашел слабые места до релиза

Этот метод использует самоигру, где LLM-атакующий автоматически проверяет целевую модель на такие уязвимости, как prompt-инъекции и джейлбрейки . OpenAI заявила, что такой подход на основе RL помогает проактивно обнаруживать и устранять эксплойты до того, как они будут использованы в реальных атаках . Компания назвала prompt-инъекции «первостепенной проблемой безопасности» и активно использует автоматизированное красно-командное тестирование для разработки новых типов таких атак .

Тест чёрного ящика на 700 000 GPU-часов для GPT-5.6

Перед тем как GPT-5.6 стала общедоступной, OpenAI подвергла модель самому масштабному на тот момент циклу оценки . В карте системы GPT-5.6 Preview System Card говорится: «Мы также потратили более 700 000 A100e GPU-часов на автоматический поиск универсальных джейлбрейков и других уязвимостей» . Это автоматическое тестирование дополняло недели ручного красно-командного тестирования людьми и оценками внешних экспертов в предметных областях .

Компания использовала этот огромный вычислительный бюджет для поиска общих, системных джейлбрейков, а не просто отдельных, разовых сбоев . Автоматизированное красно-командное тестирование должно было продолжаться непрерывно и после развёртывания, с применением мер по смягчению последствий и повторным тестированием по мере сообщения о новых джейлбрейках .

Рейтинг рисков GPT-5.6: Высокий, но ниже Критического

В соответствии с внутренней структурой оценки рисков OpenAI (Preparedness Framework), все три варианта GPT-5.6 — Sol (флагман), Terra (более дешёвый) и Luna (самый быстрый) — классифицируются как имеющие «Высокий» уровень способностей как в области кибербезопасности, так и в области биологических/химических рисков . Это первый случай, когда даже меньшие и более дешёвые модели пересекли порог «Высокий» для этих категорий .

Однако ни одна из моделей не достигла порога «Критический». Внутреннее тестирование кибербезопасности показало, что GPT-5.6 Sol и Terra могут выявлять уязвимости и фрагменты эксплойтов, но не способны автономно проводить полные атаки «от начала до конца» . Ни одна из моделей не достигла порога «Высокий» по способности к самоулучшению ИИ .

Многоуровневая архитектура безопасности

GPT-5.6 поставляется с тем, что OpenAI называет «самыми надёжными средствами защиты на сегодняшний день» . Архитектура безопасности включает:

• Встроенный отказ на уровне модели для запросов с высоким уровнем риска
• Классификаторы активации в реальном времени, которые проверяют внутренние нейронные сигналы во время инференса и могут приостановить генерацию, если выявляются шаблоны высокого риска
• Классификаторы в реальном времени для выявления злоупотреблений в кибер- и биологической сферах
• Проверка на уровне учётной записи и дифференцированный контроль доступа

Этот многоуровневый подход отражает вывод OpenAI о том, что ни одна отдельная мера защиты не является достаточной .

Роль исследователя автоматизированного красно-командного тестирования (ART)

OpenAI активно наращивает внутренний потенциал в области автоматизированного красно-командного тестирования. Компания нанимает исследователя, Automated Red Teaming (базовая зарплата $295K–$445K), в чьи обязанности входит «руководство усилиями по автоматизированному красно-командному тестированию, с упором на создание масштабируемых систем для выявления режимов сбоев в моделях и средствах защиты ИИ» . Компания также ищет специалиста по биобезопасности и красно-командному тестированию ($158K–$320K) для руководства усилиями в области биобезопасности и CBRN (химическое, биологическое, радиологическое и ядерное оружие) .

Конкурс на Kaggle с призовым фондом $500,000

OpenAI провела соревнование по красно-командному тестированию на платформе Kaggle с призовым фондом $500,000, посвящённое своим моделям с открытым весом gpt-oss-120b и gpt-oss-20b . Соревнование стимулировало участников находить новые, ранее не выявленные уязвимости . Хотя конкретная сумма в $500,000 и детали соревнования не могли быть независимо проверены из официальных источников OpenAI в рамках данного анализа, сторонние репортажи TechPolicy.Press подтверждают его существование . В карте системы GPT-5.6 упоминается «MLE-Bench Revised», который оценивает модели на соревнованиях Kaggle, но напрямую не ссылается на приз в $500,000.

Контекст регулирования и неопределённость

Имеющиеся данные подтверждают, что GPT-5.6 поставляется с многоуровневой системой безопасности и что структура готовности OpenAI классифицировала собственные модели . Сторонние источники отмечают участие правительства США в контексте «контроля доступа» (gatekeeping), когда правительство может влиять на доступ к наиболее мощным моделям . Однако прямые упоминания Института безопасности ИИ Великобритании или конкретных регулирующих действий США в просканированных первичных источниках отсутствуют. Собственная документация OpenAI по карте системы затрагивает классификации безопасности, но не описывает внешнее нормативное давление за пределами её собственной структуры Preparedness Framework .