Private Safety Processing: как OpenAI ищет злоупотребления, не сохраняя данные клиентов

Ключевое различие здесь — между анализом и хранением. Private Safety Processing предназначена для анализа связанной активности в целях безопасности, но OpenAI утверждает, что исходные промпты и ответы модели не становятся через эту систему доступными её сотрудникам.

OpenAI описывает два возможных варианта управления данными в ZDR-развёртываниях:

• содержимое клиента может оставаться на инфраструктуре, которую контролирует сам клиент;
• при хранении на инфраструктуре OpenAI данные могут шифроваться ключами, контролируемыми клиентом, а не сотрудниками OpenAI.

В обоих случаях автоматизированные системы способны выявить потенциальное злоупотребление и вернуть ограниченный сигнал безопасности, не раскрывая исходные промпты или ответы.

Что именно получает OpenAI при обнаружении угрозы

Согласно описанию предварительной версии, OpenAI получает узко определённое уведомление о типе активности. На схеме системы результат обозначен как категория и степень серьёзности сигнала, а не как сама переписка.

Такой сигнал может использоваться для решений, связанных с безопасностью или применением ограничений, но он не равнозначен передаче OpenAI полной истории сессии. Предполагаемый процесс выглядит так:

1. Автоматизированные системы анализируют связанные взаимодействия и ищут потенциально вредоносную закономерность.
2. Если риск превышает установленный порог, система формирует ограниченную классификацию безопасности.
3. OpenAI получает эту классификацию, а не промпты, ответы или расшифровку диалога.
4. Клиент сохраняет возможность самостоятельно изучить исходную активность в своей среде.

Это пока предварительная версия, поэтому для корпоративных заказчиков будут важны детали реализации, пороговые значения и порядок обработки ошибочных срабатываний. OpenAI заявила, что планирует более широкое развёртывание и публикацию технического документа в сентябре 2026 года.

Почему сотрудники OpenAI обычно не увидят отмеченную переписку

Сам по себе сигнал безопасности не предоставляет сотрудникам OpenAI автоматический доступ к диалогу. В описанных вариантах ZDR компания говорит, что не хранит содержимое клиента, а в сценарии с хранением на инфраструктуре OpenAI не располагает ключами расшифровки, которыми управляет клиент.

Клиент может по собственной инициативе передать материалы, если хочет обжаловать ограничение, объяснить законное использование или помочь расследовать подтверждённое злоупотребление. Без такого добровольного раскрытия сам флаг содержит лишь машинно сформированную информацию о риске и не открывает сотрудникам OpenAI доступ к разговору.

Таким образом, система разделяет доказательства под контролем клиента и сигналы риска на стороне поставщика. Это может уменьшить объём чувствительных данных, с которыми приходится работать провайдеру, но одновременно дать ему возможность замечать закономерности, которые фильтр «запрос за запросом» способен пропустить.

Кто тестирует систему

OpenAI называет среди клиентов, помогающих формировать или тестировать предварительную версию, Glean, Databricks, Abridge и Microsoft. Другие публикации также относят Microsoft и Databricks к числу ранних участников тестирования.

Функция не позиционируется как обычная настройка для потребительских продуктов. Она рассчитана на подходящие корпоративные API-развёртывания, где организациям нужен доступ к передовым моделям при строгом контроле над промптами и ответами.

OpenAI и Anthropic: разные компромиссы в сфере безопасности

Подход OpenAI делает акцент на выявлении злоупотреблений при минимальном доступе провайдера к содержимому клиента. Политика Anthropic для Covered Models — «моделей под особым контролем» — предполагает другой компромисс: промпты и ответы, отправленные таким моделям, хранятся 30 дней для работы службы безопасности, включая контролируемую проверку.

Документация Anthropic уточняет, что требование распространяется на Covered Models, включая модели класса Mythos, и что такие модели недоступны в режиме ZDR. Компания также заявляет, что сохранённые данные не используются для обучения моделей без прямого разрешения клиента.

Практическая разница выглядит так:

• Private Safety Processing OpenAI: автоматизированный анализ связанных взаимодействий; по описанию предварительной версии, OpenAI получает ограниченный сигнал безопасности, а не само содержимое.
• Политика Anthropic для Covered Models: промпты и ответы хранятся 30 дней, чтобы поддерживать работу по безопасности и контролируемую проверку.

Ни один из вариантов не отменяет необходимость внутреннего контроля со стороны заказчика. Перед использованием таких моделей для чувствительных задач организациям всё равно нужно проверить правила доступа, архитектуру развёртывания, условия хранения, региональные требования, процедуру обжалования и договорные обязательства.

Почему это важно для регулируемых отраслей

Финансовые организации, медицинские компании и юридические фирмы работают с данными, на которые распространяются требования конфиденциальности, профессиональные обязанности и отраслевые нормы. Возможность провайдера хранить и потенциально просматривать промпты влияет на оценку минимизации данных, внутренние согласования, проектирование аудита и проверку рисков поставщика.

Это не означает, что 30-дневное хранение автоматически запрещено, а режим ZDR сам по себе не гарантирует соответствие всем требованиям. Однако две архитектуры формируют разные вопросы для специалистов по безопасности и праву. Условия Anthropic для Covered Models требуют учитывать хранение и проверку данных провайдером, тогда как OpenAI позиционирует ZDR и Private Safety Processing как способы ограничить доступ провайдера к самому содержимому.

Для корпоративного заказчика особенно важны следующие вопросы:

• подходит ли конкретная модель и конфигурация под ZDR;
• где обрабатывается содержимое и кто контролирует ключи шифрования, если данные хранятся;
• какие именно поля входят в сигнал безопасности;
• может ли клиент проверить или оспорить флаг, не раскрывая весь диалог;
• что происходит, если провайдер подозревает серьёзное злоупотребление;
• соответствуют ли условия хранения и проверки данных договорным и регуляторным обязательствам организации.

Почему приватность становится частью продукта безопасности

Private Safety Processing показывает, что конкуренция в области ИИ идёт не только вокруг способности модели заблокировать отдельный опасный запрос. Всё важнее становится другой вопрос: может ли провайдер выявлять координированные злоупотребления в длинных рабочих процессах, не получая доступ ко всем разговорам клиента.

OpenAI предлагает один из возможных ответов: оставить исходные данные под контролем клиента или защитить их ключами клиента, искать закономерности между взаимодействиями автоматически и передавать провайдеру только узкую классификацию риска.

Политика Anthropic для Covered Models предлагает другой путь: хранить соответствующие промпты и ответы ограниченное время, чтобы специалисты по безопасности могли расследовать сложные случаи, при этом ограничивая использование данных для обучения моделей условием о прямом разрешении клиента.

Какой вариант окажется предпочтительнее, зависит от чувствительности рабочих нагрузок, допустимого уровня риска и того, насколько широкую следственную видимость организация считает необходимой от поставщика передовых моделей. Обещанные OpenAI технический документ и более широкое развёртывание должны помочь оценить, как заявленные гарантии приватности работают в реальных корпоративных средах.