Надзорный совет Meta обязал удалить дипфейк и переписать правила защиты обычных людей

Ключевые изменения политики, которые Совет потребовал от Meta

Решение Совета вышло далеко за рамки одного конкретного случая — в нём содержатся как обязательные, так и рекомендательные предписания, направленные на коренной пересмотр того, как Meta борется с созданным нейросетями контентом сексуализированного характера, особенно когда жертвами становятся обычные, непубличные люди . Вот главные из них:

Считать имитацию личности с помощью ИИ недобровольной по умолчанию

Совет чётко заявил: имитация личности с помощью ИИ в сексуализированном контексте должна считаться «недобровольной по умолчанию». Он рекомендовал внести соответствующие поправки в политику Meta в отношении эксплуатации взрослых . Это перекладывает бремя доказывания с жертвы, которой приходилось доказывать отсутствие своего согласия, на саму платформу, которая должна признавать изначальный вред от такого контента .

Разрешить доверенным лицам сообщать о нарушениях от имени жертвы

Совет рекомендовал значительное процессуальное изменение: разрешить пользователям назначать «связанные аккаунты» (например, доверенных друзей или членов семьи), которые смогут сообщать о потенциальных нарушениях, таких как публикация интимных изображений без согласия, от имени жертвы . Это закрывает серьёзную брешь: жертвы могут не знать о существовании такого контента или не в состоянии сообщить о нём из-за психологической травмы или страха.

Создать глобальную категорию для репортинга изображений сексуализированного характера

Совет призвал Meta создать отдельную глобальную категорию для репортинга изображений сексуализированного характера, созданных нейросетями без согласия человека. Сейчас такой контент классифицируется Meta в рамках общей политики борьбы с буллингом и домогательствами . Появление отдельной категории упростит подачу жалоб и отслеживание.

Обновить терминологию: вместо «унизительный фотошоп» — «недобровольный» контент

Ранее Совет уже критиковал устаревшую терминологию Meta, которая использовала формулировки вроде «унизительный сексуализированный фотошоп» (derogatory sexualized photoshop) . Совет рекомендовал обновить правила Meta, используя более чёткие и точные формулировки, отражающие современную реальность злоупотреблений с помощью ИИ, и подчёркивающие недобровольный характер контента, а не способ его создания .

Внедрить стандарты верификации контента в масштабах и улучшить его обнаружение

В ещё одном деле, связанном с контентом ИИ, Совет также призвал Meta внедрить масштабируемые инструменты для идентификации контента, созданного нейросетями, в том числе принять стандарт сертификации C2PA (Content Credentials) — стандарт происхождения, который отслеживает источник и изменения контента . Совет установил, что нынешние системы Meta слишком полагаются на добровольное маркирование пользователями и не имеют надёжного автоматизированного обнаружения, особенно в отношении видео и аудио .

Основное внимание — защите непубличных людей

Ключевая тема решения — пробел в защите обычных, непубличных людей. Совет подчеркнул, что непубличные люди, ставшие жертвами сексуализированных дипфейков, несут особый урон от систем, требующих от них самих доказывать отсутствие согласия, ведь у них нет публичной известности или институциональной поддержки, как у публичных фигур . Рассматриваемое дело как раз и было сосредоточено на созданном нейросетью сексуализированном изображении женщины, о котором сообщил её друг, заявивший, что контент был недобровольным и нанёс ущерб репутации .

Признание гендерного вреда

Решение Совета также признаёт, что такие дипфейки непропорционально сильно вредят женщинам и девочкам. Призывая к усилению автоматизированного обнаружения, переносу бремени доказывания и более чёткой политике, Совет стремился устранить системный характер гендерного насилия в интернете .

Что дальше?

Согласно процедуре, Meta обязана ответить на рекомендации Надзорного совета в течение 60 дней . Решение Совета об удалении конкретного видео является обязательным к исполнению, а его более широкие рекомендации по политике — нет, однако они несут значительный общественный и репутационный вес . Это решение продолжает линию предыдущих постановлений Совета в 2024 и 2025 годах, в которых политика Meta в отношении дипфейков была признана «бессвязной» и «недостаточно ясной» .