Project Lily: підрядники OpenAI нібито перевіряють реальні розмови в ChatGPT

Розслідування 404 Media про внутрішній Project Lily в OpenAI описує систему зворотного зв’язку від людей, побудовану на реальних розмовах користувачів із ChatGPT. За даними видання, яке посилається на витік внутрішніх матеріалів, приклади запитів і заяви компанії, зовнішні підрядники можуть читати контекст чатів, щоб оцінювати відповіді моделі — зокрема коли в розмові є делікатні особисті деталі. 1

Для тих, хто звертається до ChatGPT з особистими, медичними, сімейними, юридичними чи робочими питаннями, головне правило просте: фраза на кшталт «залиш це між нами» не є налаштуванням приватності. Вирішальним є те, чи дозволено у вашому акаунті використовувати нові розмови для поліпшення моделей. 1

Що, за повідомленням 404 Media, роблять рецензенти Project Lily

404 Media пише, що сотні підрядників, найнятих через кадрові компанії та з оплатою понад 50 доларів США за годину, перевіряють великий потік реальних чатів ChatGPT. Їхні завдання, як повідомляється, охоплюють:

• короткий виклад наміру користувача;
• порівняння чотирьох варіантів відповіді моделі;
• оцінювання за шкалою від 1 до 7;
• виявлення рис, які роблять відповідь менш корисною або менш надійною. 1

За даними розслідування, критерії оцінювання спрямовані на те, щоб покращити якість і природність відповідей ChatGPT. Рецензентам наказано позначати штучно-шаблонні формулювання, фактичні помилки, надмірну догідливість, проблеми з безпекою, а також відповіді, де модель неправдиво натякає на власний людський досвід чи емоції. 1

Такий цикл зворотного зв’язку має зробити відповіді менш механічними. Водночас він передбачає, що для контролю якості люди можуть отримувати доступ до змісту користувацьких розмов. 1

Чому видалення імені не робить чат анонімним

OpenAI повідомила 404 Media, що перед переданням матеріалів рецензентам видаляє імена користувачів і застосовує фільтр приватності. Утім, розслідування виявило приклади, де матеріали для перевірки містили повний контекст розмови та згенеровані моделлю підсумки пам’яті. У таких підсумках, за повідомленням видання, були приблизне місце проживання, професія й дуже особисті життєві обставини. 1

Проблема в тому, що ідентифікувати людину можна за контекстом. Ім’я або ідентифікатор акаунта можуть прибрати, але поєднання подій життя, робочих деталей, географії чи незвичних згадок усе ще здатне зробити розмову впізнаваною для тих, хто знає цю людину, — або просто вкрай чутливою для розкриття. За даними 404 Media, OpenAI визнала, що фільтрам складно виявляти рідкісні ідентифікатори та неоднозначні приватні згадки, значення яких залежить від контексту. 1

Прохання «нікому не кажи» не блокує перевірку

Прохання зберегти конфіденційність у самому чаті — це інструкція в межах розмови, а не налаштування доступу до даних. Воно не скасовує вибір у налаштуваннях використання даних і не перешкоджає потраплянню чату до процесу поліпшення сервісу, описаного 404 Media. 1

Тому не варто сприймати споживчий чатбот як конфіденційний канал лише тому, що діалог має особистий характер. Якщо розкриття відомостей авторизованому рецензенту було б для вас небажаним, безпечніше не вводити їх у персональному робочому просторі, де дозволене поліпшення моделей.

Як заборонити використовувати нові чати ChatGPT для поліпшення моделей

У документації OpenAI щодо контролю даних зазначено, що користувачі персональних робочих просторів можуть вимкнути поліпшення моделей так:

1. Профіль → Налаштування
2. Data Controls / Контроль даних
3. Вимкніть перемикач «Improve the model for everyone» («Поліпшувати модель для всіх»)

Після вимкнення цього параметра нові розмови залишатимуться в історії чатів, але не використовуватимуться для навчання або поліпшення моделей ChatGPT. Налаштування прив’язане до акаунта, а не до окремого пристрою.

Важливий нюанс: за інформацією OpenAI, відмова поширюється на нові розмови. Вона не відкликає заднім числом чати, які вже були передані, коли поліпшення моделей було ввімкнено.

Що варто знати користувачам Business, Enterprise та Edu

OpenAI заявляє, що за замовчуванням не використовує для навчання моделей вхідні та вихідні дані з ChatGPT Business, Enterprise, Edu та API Platform. Натомість для користувачів ChatGPT Free, Plus і Pro у персональних робочих просторах передавання даних для поліпшення моделей увімкнене за замовчуванням, хоча його можна вимкнути в Data Controls.

Це не скасовує внутрішніх правил компанії щодо роботи з даними. Командам усе одно слід дотримуватися політик роботодавця та перевіряти налаштування конкретного робочого простору. Проте це суттєво відрізняється від типового режиму для споживчих чатів.

Чи лише OpenAI залучає людей до поліпшення ШІ

Людська перевірка — не унікальна практика OpenAI. У політиці конфіденційності Anthropic сказано, що компанія може навчати та поліпшувати моделі на основі введених і виведених даних, наданих користувачами або краудворкерами, якщо користувач не відмовився від цього. Академічний огляд практик конфіденційності великих ШІ-провайдерів також виявив, що і Google, і OpenAI описують людську перевірку чатів користувачів для навчання або поліпшення моделей.

Отже, ключове питання не в самому існуванні людського зворотного зв’язку. Важливіше, чи розуміють користувачі, коли їхні розмови можуть потрапити в такий процес, від чого захищає — і від чого не захищає — деідентифікація та як змінити відповідні налаштування.

Практичний висновок для приватності

Project Lily, про який повідомило 404 Media, нагадує: споживчий ШІ-чат не є автоматично конфіденційним спілкуванням один на один. Заходи деідентифікації можуть зменшити ризик розкриття, але не обов’язково прибирають усі деталі, за якими можна впізнати людину в розмові з багатим особистим контекстом. 1

Перш ніж ділитися чутливою інформацією в ChatGPT, перевірте Налаштування → Data Controls → Improve the model for everyone. Якщо поліпшення моделей увімкнено, варто вважати, що нові чати потенційно можуть бути використані для поліпшення сервісу. Якщо його вимкнено, OpenAI заявляє, що нові розмови для цієї мети не використовуватимуться.