Project Lily: підрядники могли читати реальні чати ChatGPT

Розслідування 404 Media щодо внутрішньої ініціативи OpenAI під назвою Project Lily описує організовану програму людського зворотного зв’язку, побудовану на реальних розмовах із ChatGPT. Питання приватності полягає не лише в тому, що чати можуть використовуватися для вдосконалення моделей: за даними видання, зовнішні підрядники могли читати матеріали без імен користувачів, але з дуже особистим контекстом. 2

Що, за повідомленням 404 Media, робив Project Lily

За витоками матеріалів, які переглянуло 404 Media, OpenAI залучала через кадрові фірми сотні підрядників для перевірки реальних запитів користувачів і відповідей ChatGPT. Як повідомляється, така робота оплачувалася більш ніж у 50 доларів США за годину. Рецензенти стисло описували намір користувача, порівнювали чотири варіанти відповіді та оцінювали їх за шкалою від 1 до 7. 2

Заявленою метою було покращити якість відповідей: зробити ChatGPT менш шаблонним, зменшити надто «людські» твердження та надмірне погоджування або лестощі. Людський зворотний зв’язок давно використовують у розробці ШІ, однак робота саме з реальними розмовами споживачів робить питання конфіденційності особливо гострим. 2

Яку інформацію міг бачити рецензент

404 Media повідомило, що рецензентам могли надходити повні діалоги, а в деяких випадках — зведення пам’яті про користувача (user memories summary). Імена користувачів, за даними звіту, не показувалися. Водночас наявний контекст міг розкривати приблизне місце перебування, професію, попередні інтереси та особисті обставини. 2

Це важлива різниця: прибрати ім’я — не означає зробити розмову безпечною або фактично анонімною. Сукупність деталей про роботу, родину, стан здоров’я чи унікальну подію може бути чутливою навіть без прямої ідентифікації власника облікового запису.

Як у цю схему вписується Privacy Filter

OpenAI називає Privacy Filter моделлю, призначеною для виявлення та редагування персонально ідентифікованої інформації в тексті. 4647

У матеріалі про Project Lily компанія OpenAI заявила, що перед передаванням матеріалів підрядникам видаляла імена користувачів і застосовувала автоматизований фільтр. Але, за повідомленням 404 Media, чутливі деталі все одно могли залишатися в розмовах, доступних для перевірки. 2

Це показує межі автоматичного редагування. Система може розпізнати очевидні ідентифікатори — наприклад, ім’я, електронну адресу чи номер телефону, — тоді як непрямий контекст значно складніше надійно класифікувати.

Що мали позначати перевіряльники

За даними розслідування, настанови для підрядників стосувалися не тільки фактичної правильності. Їм нібито пропонували виявляти, зокрема:

• шаблонну або неприродну «мову ШІ»;
• твердження, що створюють враження про людські почуття чи життєвий досвід моделі;
• надмірне погоджування, лестощі та іншу улесливу поведінку;
• фактичні помилки;
• розкриття персональної інформації;
• проблеми безпеки. 2

Акцент на надмірному погоджуванні показовий. Модель, яка надто охоче підтверджує слова людини, може здаватися підтримувальною, але не заперечувати хибні, ризиковані чи шкідливі припущення. Як повідомляє 404 Media, Project Lily частково мав допомогти налаштувати саме таку поведінку. 2

Чому фраза «нехай це залишиться між нами» нічого не змінює

Прохання зберегти таємницю, написане в самому запиті, не змінює налаштувань використання даних для облікового запису. Це лише частина тексту чату, а не технічна команда, яка може скасувати правила OpenAI.

Для персональних робочих просторів ChatGPT документований інструмент контролю має назву «Покращувати модель для всіх» (Improve the model for everyone). Якщо він увімкнений, чати можуть використовуватися для поліпшення моделей; якщо вимкнений, OpenAI повідомляє, що не навчатиме моделі на нових розмовах. 2130

Як заборонити використання нових чатів для поліпшення моделей

Для користувачів, які увійшли в обліковий запис, OpenAI наводить такий шлях:

1. Відкрийте меню профілю у ChatGPT.
2. Оберіть «Налаштування» (Settings).
3. Відкрийте «Керування даними» (Data Controls).
4. Вимкніть «Покращувати модель для всіх». 1921

Це налаштування застосовується до облікового запису, а не до окремого пристрою. Історія чатів може залишатися доступною після вимкнення, проте OpenAI заявляє, що нові розмови не використовуватимуться для навчання її моделей. 1930

Також OpenAI пропонує опцію «Не навчати на моєму контенті» (Do not train on my content) у своєму порталі конфіденційності. Компанія зазначає, що для завдань ChatGPT і Codex достатньо або цього вибору, або налаштування в розділі Data Controls. 21

Для яких тарифів захист діє за замовчуванням

OpenAI повідомляє, що в персональних робочих просторах Free, Plus і Pro передавання даних для навчання моделей увімкнене за замовчуванням, хоча користувач може відмовитися. Для ChatGPT Business, Enterprise, Edu та API Platform компанія заявляє, що за замовчуванням не використовує надані вхідні й вихідні дані для навчання моделей. 23

Втім, це не означає, що будь-яка корпоративна розмова автоматично позбавлена ризиків у всіх сценаріях. Організаціям варто перевіряти налаштування робочого простору, строки зберігання даних, параметри спільного доступу та внутрішні правила, перш ніж передавати до ШІ-інструментів конфіденційні матеріали.

Головний висновок

Project Lily, як його описало 404 Media, нагадує: споживчі чати зі ШІ слід сприймати як сервіс із налаштуваннями використання даних, а не як канал із вбудованою конфіденційністю. Якщо запит містить особливо чутливу особисту, юридичну, медичну, фінансову або комерційну інформацію, найпростіший крок — вимкнути «Покращувати модель для всіх» до початку нової розмови. 221

Відмова від використання даних стосується того, як OpenAI використовує нові розмови для поліпшення моделей. Це не інструкція, яку можна додати всередину промпту, і документація OpenAI не описує цю опцію як спосіб відкликати вже надіслані матеріали. 2130