Суть справи: ШІ-відео, яке видавало себе за жінку без її згоди

Користувач Instagram звернувся до Наглядової ради після того, як повідомив про допис, який, за його словами, був створеним ШІ недобровільним сексуалізованим відео, що імітувало одну з його знайомих і шкодило її репутації . Meta спочатку перевірила контент і вирішила залишити його, заявивши про відсутність ознак того, що він є недобровільним . Рада скасувала це рішення та наказала видалити відео негайно .

Ключові зміни в політиці, яких вимагає Рада

Рішення Ради вийшло далеко за межі конкретної справи. Воно містить як обов'язкові до виконання, так і рекомендаційні вказівки, які мають докорінно змінити підхід Meta до модерації ШІ-генерованого сексуалізованого контенту .

ШІ-імітація: недобровільна за замовчуванням

Рада прямо заявила, що ШІ-генеровані імітації в сексуальному контексті слід вважати «недобровільними за замовчуванням» і рекомендувала додати їх до політики Meta щодо сексуальної експлуатації дорослих . Це переносить тягар доказування з жертви, яка змушена доводити відсутність згоди, на платформу, яка має визнавати саму наявність такого контенту шкідливою .

Довірені особи зможуть повідомляти про порушення замість жертви

Значна процедурна зміна, запропонована Радою, – дозволити користувачам призначати «пов'язані акаунти» (наприклад, довірених друзів або членів родини), які зможуть повідомляти про потенційні порушення, як-от недобровільні інтимні зображення, від імені жертви . Це вирішує ключову прогалину: жертви можуть не знати про існування контенту або не мати змоги повідомити про нього через травму чи страх.

Глобальна категорія для скарг на ШІ-сексуалізовані зображення

Рада закликала Meta створити окрему глобальну категорію для скарг на ШІ-генеровані недобровільні сексуалізовані зображення, замість того, щоб класифікувати їх у рамках загальних правил протидії цькуванню та домаганням . Це зробить подання скарг та їх відстеження значно простішим.

Оновлення термінології: замість «принизливого фотошопу» – «недобровільний» контент

Рада раніше критикувала застарілу термінологію Meta, яка використовувала фрази на кшталт «принизливий сексуалізований фотошоп» . Нова рекомендація закликає використовувати чіткіші терміни, які відображають сучасну реальність ШІ-зловживань і наголошують саме на недобровільній природі контенту, а не на методі його створення .

Впровадження стандартів походження контенту та покращення виявлення

У суміжній справі про ШІ-контент Рада також закликала Meta впровадити масштабовані інструменти для ідентифікації ШІ-генерованого матеріалу, зокрема стандарт C2PA Content Credentials – стандарт відстеження походження та змін медіафайлів . Рада виявила, що поточні системи Meta надто покладаються на самостійне маркування контенту користувачами та не мають надійного автоматичного виявлення, особливо для відео та аудіо .

Захист тих, хто не є публічною особою

Центральною темою рішення став розрив у захисті між публічними та звичайними людьми. Рада підкреслила, що звичайні люди, які стають мішенню сексуалізованих діпфейків, особливо вразливі, оскільки системи вимагають від них самостійно доводити недобровільність. На відміну від публічних осіб, у них часто немає ні публічної видимості, ні інституційної підтримки для цього . Сама справа стосувалася ШІ-імітації звичайної жінки, про яку повідомив друг, стверджуючи, що контент є недобровільним і шкодить репутації .

Усунення гендерно зумовленої шкоди

Рішення Ради також визнало непропорційну шкоду, якої такі діпфейки завдають жінкам і дівчатам. Закликаючи до посилення автоматичного виявлення, зміни тягаря доказування та чіткішої політики, Рада прагнула подолати системний характер гендерного насильства в інтернеті .

Що далі для Meta?

Meta зобов'язана відповісти на рекомендації Наглядової ради протягом 60 днів . Хоча рекомендація видалити конкретне відео є обов'язковою, ширші політичні рекомендації не є юридично зобов'язуючими, проте мають значну суспільну та репутаційну вагу . Це рішення ґрунтується на попередніх рішеннях Ради 2024 та 2025 років, які визнали політику Meta щодо діпфейків «непослідовною» та «недостатньо чіткою» .

Суть справи: ШІ-відео, яке видавало себе за жінку без її згоди

Користувач Instagram звернувся до Наглядової ради після того, як повідомив про допис, який, за його словами, був створеним ШІ недобровільним сексуалізованим відео, що імітувало одну з його знайомих і шкодило її репутації . Meta спочатку перевірила контент і вирішила залишити його, заявивши про відсутність ознак того, що він є недобровільним . Рада скасувала це рішення та наказала видалити відео негайно .

Ключові зміни в політиці, яких вимагає Рада

Рішення Ради вийшло далеко за межі конкретної справи. Воно містить як обов'язкові до виконання, так і рекомендаційні вказівки, які мають докорінно змінити підхід Meta до модерації ШІ-генерованого сексуалізованого контенту .

ШІ-імітація: недобровільна за замовчуванням

Рада прямо заявила, що ШІ-генеровані імітації в сексуальному контексті слід вважати «недобровільними за замовчуванням» і рекомендувала додати їх до політики Meta щодо сексуальної експлуатації дорослих . Це переносить тягар доказування з жертви, яка змушена доводити відсутність згоди, на платформу, яка має визнавати саму наявність такого контенту шкідливою .

Довірені особи зможуть повідомляти про порушення замість жертви

Значна процедурна зміна, запропонована Радою, – дозволити користувачам призначати «пов'язані акаунти» (наприклад, довірених друзів або членів родини), які зможуть повідомляти про потенційні порушення, як-от недобровільні інтимні зображення, від імені жертви . Це вирішує ключову прогалину: жертви можуть не знати про існування контенту або не мати змоги повідомити про нього через травму чи страх.

Глобальна категорія для скарг на ШІ-сексуалізовані зображення

Рада закликала Meta створити окрему глобальну категорію для скарг на ШІ-генеровані недобровільні сексуалізовані зображення, замість того, щоб класифікувати їх у рамках загальних правил протидії цькуванню та домаганням . Це зробить подання скарг та їх відстеження значно простішим.

Оновлення термінології: замість «принизливого фотошопу» – «недобровільний» контент

Рада раніше критикувала застарілу термінологію Meta, яка використовувала фрази на кшталт «принизливий сексуалізований фотошоп» . Нова рекомендація закликає використовувати чіткіші терміни, які відображають сучасну реальність ШІ-зловживань і наголошують саме на недобровільній природі контенту, а не на методі його створення .

Впровадження стандартів походження контенту та покращення виявлення

У суміжній справі про ШІ-контент Рада також закликала Meta впровадити масштабовані інструменти для ідентифікації ШІ-генерованого матеріалу, зокрема стандарт C2PA Content Credentials – стандарт відстеження походження та змін медіафайлів . Рада виявила, що поточні системи Meta надто покладаються на самостійне маркування контенту користувачами та не мають надійного автоматичного виявлення, особливо для відео та аудіо .

Захист тих, хто не є публічною особою

Центральною темою рішення став розрив у захисті між публічними та звичайними людьми. Рада підкреслила, що звичайні люди, які стають мішенню сексуалізованих діпфейків, особливо вразливі, оскільки системи вимагають від них самостійно доводити недобровільність. На відміну від публічних осіб, у них часто немає ні публічної видимості, ні інституційної підтримки для цього . Сама справа стосувалася ШІ-імітації звичайної жінки, про яку повідомив друг, стверджуючи, що контент є недобровільним і шкодить репутації .

Усунення гендерно зумовленої шкоди

Рішення Ради також визнало непропорційну шкоду, якої такі діпфейки завдають жінкам і дівчатам. Закликаючи до посилення автоматичного виявлення, зміни тягаря доказування та чіткішої політики, Рада прагнула подолати системний характер гендерного насильства в інтернеті .

Що далі для Meta?

Meta зобов'язана відповісти на рекомендації Наглядової ради протягом 60 днів . Хоча рекомендація видалити конкретне відео є обов'язковою, ширші політичні рекомендації не є юридично зобов'язуючими, проте мають значну суспільну та репутаційну вагу . Це рішення ґрунтується на попередніх рішеннях Ради 2024 та 2025 років, які визнали політику Meta щодо діпфейків «непослідовною» та «недостатньо чіткою» .