Чому OpenAI звільнила трьох дослідників і які питання залишилися без відповіді

OpenAI припинила співпрацю з трьома працівниками після внутрішнього розслідування. Компанія заявила, що вони неналежно поводилися з чутливою інформацією та діяли поза встановленими процедурами. Окремо The Wall Street Journal повідомила, що справа стосувалася передання інформації зовнішній організації з безпеки ШІ. Це різні частини історії: перша — офіційне пояснення OpenAI, друга — контекст, наведений у медіапублікаціях. 112

Що заявила OpenAI

Речник компанії сказав, що розслідування підтвердило порушення правил доступу до чутливої інформації та її опрацювання. За словами OpenAI, працівники діяли поза встановленими процедурами й порушили довіру, необхідну для їхньої роботи. Це позиція компанії; матеріали розслідування та докази, на яких вона ґрунтується, публічно не оприлюднені. 12

За повідомленням The Wall Street Journal, переказаним TechCrunch, дослідники нібито поділилися конфіденційною інформацією із зовнішньою організацією, що працює у сфері безпеки ШІ. AFP уточнює, що залучена організація оцінює моделі штучного інтелекту. 111

Чого досі не знаємо

OpenAI не назвала дослідників і не ідентифікувала зовнішню організацію. Також компанія не уточнила, яку саме інформацію було передано. 1112

Тому залишається незрозумілим, чи йшлося про результати оцінювання моделі, конкретне застереження щодо безпеки або інший матеріал; невідомо й те, як отримувач ним скористався. Доступні повідомлення не дають відповідей на ці запитання і не встановлюють, що передання інформації спричинило конкретну шкоду. 1112

На тлі ширшої уваги до безпеки ШІ

Цей випадок з’явився на тлі ширшої уваги до тестування моделей OpenAI та того, як компанія реагує на питання безпеки. У серпні, за повідомленням The Wall Street Journal, генеральний прокурор штату Алабама зажадав від компанії інформацію після інциденту під час тестування ШІ-моделі — зокрема про сам випадок і працівників, які порушували питання безпеки. Проте немає підтверджень, що троє дослідників були причетні до того інциденту або що їхнє звільнення пов’язане з ним.

Паралель зі звільненнями 2024 року

Медіа також порівнюють цей випадок зі звільненням у 2024 році Леопольда Ашенбреннера та Павела Ізмайлова через звинувачення в розголошенні інформації. У двох історіях є спільна тема — поводження з конфіденційними матеріалами. Але наведені повідомлення не доводять, що обставини, дії чи мотиви в цих випадках були однаковими. 9

Як повідомляти про ризики, не порушуючи правил

Звільнення порушують складне питання: як працівникам звертатися до зовнішніх експертів або органів влади з обґрунтованими побоюваннями щодо безпеки, не розкриваючи неналежним чином захищену інформацію компанії? Водночас наявні дані не доводять, що цих дослідників покарали саме за викриття проблем, і не встановлюють, що їхні ймовірні дії створили конкретний ризик для безпеки. 1112

Наразі підтверджене публічно зводиться до двох пунктів: OpenAI заявила про виявлені порушення внутрішніх правил, а медіа повідомили про можливу участь зовнішньої організації з безпеки ШІ. Імена працівників, характер інформації та повні обставини справи залишаються невідомими.