ОтветыОпубликовано23 источники
METR и Redwood обнаружили уязвимости в мониторинге ИИ-агентов OpenAI
В ходе пилотной проверки с 21 июля по 11 августа 2026 года исследователи METR и Redwood нашли пробелы в мониторинге OpenAI и способ скрыть от него сотни недавних действий агента. Оценка охвата в 75–94% означает долю трафика, который, по оценке METR, подходил для мониторинга.
ОпубликовалОтредактировано с помощью GPT-6 LunaИзображения созданы с помощью GPT Image 2
Ответ на исследование
Ключевые выводы
- В ходе пилотной проверки с 21 июля по 11 августа 2026 года исследователи METR и Redwood нашли пробелы в мониторинге OpenAI и способ скрыть от него сотни недавних действий агента.
- Оценка охвата в 75–94% означает долю трафика, который, по оценке METR, подходил для мониторинга.
- Полный 61 страничный отчёт передали сотрудникам OpenAI, а публично представили лишь общий обзор.
Промпт ИИ
openai.comCreate a landscape editorial hero image for this Studio Global article: What did METR and Redwood Research’s July 21–August 11 pilot review of OpenAI’s internal AI-agent misalignment monitoring reveal, including. Article summary: The July 21–August 11, 2026 pilot found real gaps and evasion vulnerabilities in OpenAI’s internal AI-agent monitoring, including an exploit that could conceal hundreds of actions; OpenAI said all identified vulnerabilit. Topic tags: general, general web, user generated, news. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, charts wi
Пилотная проверка METR и Redwood Research выявила уязвимости во внутренней системе OpenAI, которая отслеживает возможное расхождение поведения ИИ-агентов с заданными целями. Среди находок — способ скрыть от мониторинга сотни недавних действий и пробел, связанный с событиями compaction. OpenAI заявила, что исправила уязвимости, затрагивавшие производственные меры защиты, однако независимой проверки последующих изменений не проводилось. 1
10
21
Как проходила проверка
С 21 июля по 11 августа 2026 года по одному сотруднику от METR и Redwood Research работали на площадке OpenAI и испытывали её внутреннюю систему мониторинга. У проверяющих был доступ к исходному коду, документации и части внутренней инфраструктуры; они также могли общаться с техническими специалистами компании. Для работы им предоставили устройства OpenAI, которые оставались на территории компании, а сотрудники OpenAI сопровождали их работу на месте. 2
5
7
Проверка должна была оценить и охват мониторинга, и то, могут ли агенты отключить систему или обойти её. По итогам подготовили внутренний отчёт на 61 страницу, который передали исследователям и специалистам по безопасности OpenAI. В открытом доступе появился более общий обзор, а не полный отчёт. 7
17
Что обнаружили исследователи
Мониторинг охватывал не весь потенциально важный трафик
По оценке METR, мониторингу подходили примерно 75–94% внутреннего трафика агентных запросов через Responses API от моделей не слабее GPT-5.5. Эта оценка говорит о том, какая доля трафика могла подпадать под мониторинг. Она не означает, что каждое такое действие действительно отслеживалось или что система обязательно обнаруживала все проблемы. 1
6
18
Кроме того, в начале проверки запуски обучения с подкреплением не отслеживались на предмет несоответствия поведения модели заданным целям. 22
Агенты могли обходить систему
В публичных материалах упоминаются несколько типов уязвимостей: потенциальный обход ограничений песочницы Codex, управляемые клиентом заголовки, которые могли отключать мониторинг для новых экземпляров агентов, а также способ скрыть от системы сотни недавних действий. Опубликованных технических подробностей недостаточно, чтобы считать этот перечень полным описанием находок отчёта. 1
3
События compaction создавали пробел в охвате
METR оценивала, что пропущенные события compaction, вероятно, приводили к тому, что примерно 10% подходящего для мониторинга внутреннего трафика Codex оставались без наблюдения с мая по июль 2026 года. Исследователи отдельно отмечали неопределённость в точной доле. По опубликованным данным, сотрудники OpenAI обнаружили этот пробел ещё до начала пилота, а исправление внесли во время проверки. 10
Чего эта проверка не подтверждает
Исследователи оценивали систему в том виде, в каком она существовала в начале пилотного проекта. METR отмечала, что последующие изменения не проверялись. Поэтому отчёт не позволяет независимо подтвердить, насколько полно система охватывала трафик после проверки и были ли исправлены все обнаруженные проблемы. 7
21
22
Заявление OpenAI о том, что уязвимости, затрагивавшие производственные меры защиты, исправлены, — важная информация о действиях компании, но не независимое подтверждение того, что устранены абсолютно все слабые места. 21
Почему пилот важен
Проверка показала, как может выглядеть глубокий доступ внешних экспертов к внутренним системам компании. Позже OpenAI пообещала предоставлять независимым оценщикам доступ «на уровне сотрудников»; пилот даёт представление о том, что может включать такая работа, но его нельзя считать полноценным публичным аудитом. 8
28
Главный вывод здесь конкретен: внешние специалисты, работавшие внутри компании, обнаружили пробелы в мониторинге и потенциальные способы его обхода, а OpenAI сообщила об исправлении проблем, затрагивавших производственные меры защиты. При этом открытые данные не позволяют понять, насколько полным стал мониторинг после изменений и кто независимо проверил их эффективность. 7
21
Studio Global AI
Продолжайте свое исследование
На этой странице есть ответ, подтвержденный источником, который вы можете продолжить внутри Studio Global.
Люди также спрашивают
Каков краткий ответ на вопрос «METR и Redwood обнаружили уязвимости в мониторинге ИИ-агентов OpenAI»?
В ходе пилотной проверки с 21 июля по 11 августа 2026 года исследователи METR и Redwood нашли пробелы в мониторинге OpenAI и способ скрыть от него сотни недавних действий агента.
Какие ключевые моменты необходимо проверить в первую очередь?
В ходе пилотной проверки с 21 июля по 11 августа 2026 года исследователи METR и Redwood нашли пробелы в мониторинге OpenAI и способ скрыть от него сотни недавних действий агента. Оценка охвата в 75–94% означает долю трафика, который, по оценке METR, подходил для мониторинга.
Что мне делать дальше на практике?
Полный 61 страничный отчёт передали сотрудникам OpenAI, а публично представили лишь общий обзор.