Project Lily: как подрядчики OpenAI, по данным 404 Media, проверяют реальные переписки с ChatGPT

Расследование 404 Media о внутреннем проекте OpenAI под названием Project Lily описывает систему человеческой обратной связи, построенную на реальных потребительских переписках с ChatGPT. По данным издания, основанным на утекших материалах, примерах запросов и комментариях компании, доступ к контексту диалогов могут получать внешние подрядчики — в том числе если в беседе есть личные и чувствительные сведения. 1

Главный вывод для пользователей прост: фраза вроде «оставь это между нами» — не настройка конфиденциальности. Она остаётся инструкцией внутри чата и не управляет тем, как сервис использует данные. Для этого важна опция аккаунта, разрешающая или запрещающая использовать новые разговоры для улучшения моделей. 1

Что, по данным 404 Media, делают проверяющие

404 Media пишет, что сотни подрядчиков, нанятых через кадровые фирмы и получающих более 50 долларов в час, обрабатывают большой поток настоящих разговоров с ChatGPT. В их задачи, как сообщается, входят:

• кратко определить намерение пользователя;
• сравнить четыре варианта ответа модели;
• поставить оценку от 1 до 7;
• отметить проблемы, из-за которых ответ становится менее полезным или заслуживающим доверия. 1

Согласно опубликованной информации, проверяющие должны обращать внимание на шаблонный «ИИ-стиль», фактические ошибки, чрезмерно угодливые или безоговорочно поддерживающие формулировки, риски для безопасности, а также утверждения, будто модель имеет собственный жизненный опыт или эмоции. 1

Цель такого процесса — сделать ответы менее механическими и более естественными. Но именно поэтому улучшение качества может предполагать, что люди получают доступ к содержанию пользовательских бесед. 1

Почему удаления имени недостаточно для анонимности

OpenAI сообщила 404 Media, что перед передачей материалов проверяющим удаляются имена пользователей и применяется Privacy Filter — фильтр приватности. Однако издание обнаружило примеры, в которых в пакет для оценки попадал полный контекст беседы и созданные моделью сводки памяти. В таких сводках, как сообщается, могли быть указаны примерное местоположение, профессия и крайне личные жизненные обстоятельства. 1

Проблема в том, что человека иногда можно узнать не по имени, а по сочетанию деталей: работе, географии, необычным событиям и специфическим упоминаниям. Даже если идентифицировать автора невозможно, эти сведения всё равно могут быть слишком чувствительными для раскрытия. По данным 404 Media, OpenAI признавала, что автоматическим фильтрам трудно находить редкие идентификаторы и неоднозначные личные отсылки, смысл которых зависит от контекста. 1

Просьба «никому не рассказывать» не блокирует проверку

Фраза, адресованная ChatGPT, не заменяет настройку обработки данных. Она не отменяет параметры аккаунта и, как следует из описанного 404 Media процесса, не мешает чату быть отобранным для улучшения сервиса. 1

Поэтому потребительский чат-бот не стоит воспринимать как канал, защищённый профессиональной или договорной тайной, только потому, что разговор кажется личным. Если утечка информации авторизованному проверяющему могла бы навредить, безопаснее не вводить её в личном рабочем пространстве при включённом улучшении моделей.

Как запретить использовать новые чаты ChatGPT для улучшения моделей

В справке OpenAI указано, что в личном рабочем пространстве нужно:

1. Открыть Профиль → Settings («Настройки»).
2. Перейти в Data Controls («Управление данными»).
3. Отключить Improve the model for everyone («Улучшать модель для всех»).

После этого новые беседы останутся в истории чатов, но, по данным OpenAI, не будут использоваться для обучения или улучшения моделей ChatGPT. Настройка действует на аккаунт целиком, а не только на устройство, с которого её изменили.

Важно учитывать срок действия: отказ распространяется на новые разговоры. Он не удаляет задним числом чаты, уже переданные при ранее включённой опции улучшения моделей.

Что меняется для Business, Enterprise и Edu

OpenAI заявляет, что по умолчанию не использует для обучения моделей входные и выходные данные из ChatGPT Business, Enterprise, Edu и API Platform. Для личных рабочих пространств на тарифах ChatGPT Free, Plus и Pro передача данных для улучшения моделей включена по умолчанию, но её можно отключить через Data Controls.

Это не отменяет внутренних правил компании, вуза или иной организации и не освобождает команды от проверки параметров конкретного рабочего пространства. Однако в сравнении с личными аккаунтами различие в настройках по умолчанию существенно.

Только ли OpenAI использует человеческую проверку?

Нет. В политике конфиденциальности Anthropic сказано, что компания может обучать и улучшать свои модели на входных и выходных данных, предоставленных пользователями или крауд-работниками, если пользователь не отказался от этого. Академический обзор практик крупных ИИ-провайдеров также отмечал, что Google и OpenAI описывают человеческую проверку пользовательских чатов для обучения или улучшения моделей.

Ключевой вопрос не в самом существовании человеческой обратной связи, а в том, понимает ли пользователь, когда его разговор может попасть в этот процесс, чего не гарантирует деидентификация и где меняется соответствующая настройка.

Практический вывод о приватности

Project Lily, каким его описывает 404 Media, напоминает: потребительский чат с ИИ не является автоматически конфиденциальным разговором один на один. Меры деидентификации могут уменьшать риск раскрытия, но не обязательно убирают все сведения, по которым можно понять личную ситуацию человека. 1

Перед отправкой чувствительной информации проверьте: Settings → Data Controls → Improve the model for everyone. Если улучшение моделей включено, новые чаты следует считать потенциально пригодными для улучшения сервиса. Если опция выключена, OpenAI заявляет, что новые разговоры не будут использоваться для этой цели.