Кризис AI-модерации Meta: как ошибочные блокировки уничтожают легитимные аккаунты, а обжаловать их невозможно

Что вскрыло расследование NYT

Журналисты выяснили, что автоматизированные системы Meta, которые сейчас обрабатывают около 95% всех первичных проверок, дают тревожное количество ложных срабатываний :

• Неясные нарушения без объяснений: Аккаунты блокируют по общим причинам вроде «мошенничество и обман», но не уточняют, какой пост или действие стало причиной .
• Дело Кэмил Хэнсон: Одна из центральных историй — аккаунты Кэмил Хэнсон на Facebook и Instagram. Вместе с мужем она вела бизнес по обучению английскому языку для иностранцев и набрала почти миллион подписчиков. В марте 2026 г. среди ночи пришло уведомление: аккаунты помечены на удаление .
• Замкнутый круг апелляций: Когда пользователи пытаются обжаловать блокировку, их обращения снова направляются на проверку тем же AI-алгоритмам, а не живым сотрудникам. Это образует безвыходную петлю. Пример ответа Meta: «Toda tu información se eliminará de forma permanente. No puedes solicitar otra revisión de esta decisión» (исп. «Вся ваша информация будет удалена навсегда. Вы не можете запросить повторную проверку этого решения») .
• Вмешательство СМИ: Некоторые аккаунты, включая аккаунт Хэнсон, восстановили только после того, как журналисты NYT лично связались с Meta .

Реакция Meta: признание ошибок, но защита AI

После запроса NYT Meta признала ошибки в ряде случаев и восстановила некоторые заблокированные аккаунты. Однако компания продолжает утверждать, что новые AI-инструменты модерации допускают меньше ошибок, чем люди: по заявлениям Meta, число ошибок снизилось на 13%, а число выявленных нарушений выросло на 10% .

Такая позиция — часть глобального стратегического поворота Meta. Компания подтвердила в январе 2025 г., что автоматические системы возьмут на себя основную ответственность за выявление и удаление контента, нарушающего правила, на всех платформах — Facebook, Instagram и WhatsApp . К середине 2026 г. тысячи контрактных должностей модераторов были сокращены в рамках этого перехода .

Что сказал Наблюдательный совет Meta

Собственный независимый Наблюдательный совет Meta высказался по проблеме массовых блокировок в июне 2026 г., и его выводы оказались жесткими:

• 4 июня 2026 г. Совет заявил, что процесс деактивации аккаунтов в Meta лишен должной правовой процедуры (due process): уведомления о нарушениях формулируются неясно, а поддержка пользователей при апелляциях практически отсутствует .
• Совет объявил, что впервые проведет всестороннюю проверку общего подхода Meta к перманентной блокировке аккаунтов .
• В отдельном решении от 24 июня 2026 г. по делу об угрозах убийством Совет подтвердил правомерность блокировки, но снова раскритиковал непрозрачность политики Meta .

Выводы Совета напрямую перекликаются с жалобами пользователей вроде Хэнсон: система не предлагает реального способа оспорить решение, принятое AI.

Связь с сокращениями персонала: меньше людей — больше ошибок AI

Массовые ошибочные блокировки — не единичный сбой системы. Это предсказуемое последствие кадровой политики Meta:

• Апрель 2026 г.: Meta объявила о сокращении 10% персонала (примерно 8 000 сотрудников) и отказе от заполнения 6 000 открытых вакансий. Официальная причина — перенаправление ресурсов на развитие AI .
• Май 2026 г.: Начались увольнения; оставшихся сотрудников перераспределяют на роли, связанные с AI .
• Октябрь 2025 г.: Еще раньше были сокращены более 100 сотрудников из команды по оценке рисков Meta — тех, кто отвечал за безопасность пользователей и конфиденциальность .
• Июнь 2026 г.: Появились сообщения, что Meta уже начала заменять людей-модераторов контента на AI, ликвидировав тысячи контрактных должностей модераторов .

Уволенные модераторы и аналитики рисков — это именно те специалисты, которые могли бы проводить тонкий анализ, с которым AI систематически не справляется. Те же AI-системы, которые Meta сейчас масштабирует, порождают массовые неисправленные ошибки, блокируя и удаляя легитимные аккаунты, практически не оставляя шансов на апелляцию.

Суть

Расследование NYT в сочетании с выводами Наблюдательного совета и задокументированными сокращениями штата рисует ясную картину: система AI-модерации Meta порождает массу ложных срабатываний, механизм апелляций практически сломан, а компания уволила тех самых людей, которые могли бы это исправить. При этом Meta защищает технологию, утверждая, что она ошибается реже, чем замененные ею люди.