Криза AI-модерації Meta: як хибні блокування знищують легітимні акаунти без права на апеляцію

Що виявило розслідування NYT

Розслідування показало, що автоматизовані системи Meta, які зараз обробляють приблизно 95% первинних перевірок, видають тривожну кількість хибних спрацьовувань :

• Розпливчасті порушення без пояснень: Акаунти блокують за загальні причини, як-от "шахрайство та обман", не вказуючи, який саме допис чи дія спричинили блокування .
• Справа Кеміл Хенсон: Однією з центральних фігур стала Кеміл Хенсон, чиї акаунти у Facebook та Instagram — які вона використовувала разом із чоловіком для викладання англійської мови та які мали майже мільйон підписників — раптово позначили для видалення в березні 2026 року. Повідомлення прийшло посеред ночі .
• Замкнене коло апеляцій: Коли користувачі подають апеляцію, їхні справи часто знову потрапляють до тих самих AI-систем, а не до людини-ревізора, створюючи безвихідний цикл. Одна відповідь на апеляцію містила фразу: "Toda tu información se eliminará de forma permanente. No puedes solicitar otra revisión de esta decisión" ("Всю вашу інформацію буде остаточно видалено. Ви не можете запросити повторний перегляд цього рішення") .
• Втручання преси: Деякі акаунти, зокрема й Хенсон, вдалося відновити лише після того, як журналісти NYT безпосередньо звернулися до Meta .

Відповідь Meta: визнає помилки, але захищає AI

Після запиту NYT Meta визнала помилки в деяких випадках і відновила окремі заблоковані акаунти. Однак компанія стверджує, що її нові AI-інструменти модерації роблять менше помилок, ніж люди-модератори — заявляючи про зниження кількості помилок на 13% та підвищення виявлення порушень на 10% .

Ця позиція є частиною ширшої стратегічної трансформації Meta. У січні 2025 року компанія підтвердила, що автоматизовані системи візьмуть на себе основну відповідальність за виявлення та видалення контенту, що порушує правила, на всіх платформах — Facebook, Instagram і WhatsApp . До середини 2026 року тисячі контрактних модераторських посад було скорочено в рамках цього переходу .

Що сказала Наглядова рада Meta

Незалежна Наглядова рада Meta також висловилася щодо ширшої проблеми блокування акаунтів у червні 2026 року, і її висновки були невтішними:

• 4 червня 2026 року Рада заявила, що процес деактивації акаунтів у Meta позбавлений належної правової процедури, порушення повідомляються без чіткості, а підтримка клієнтів для апеляцій майже відсутня .
• Рада оголосила, що вперше розгляне загальний підхід Meta до остаточного блокування акаунтів .
• В окремому рішенні від 24 червня 2026 року у справі про погрози вбивством Рада підтвердила конкретне блокування, але знову розкритикувала непрозорість політики Meta .

Висновки Ради безпосередньо перегукуються зі скаргами таких користувачів, як Хенсон — система не пропонує жодного реального шляху для оскарження рішення, ухваленого AI.

Зв'язок зі скороченнями персоналу: менше людей — більше помилок AI

Помилкові видалення не є ізольованим системним збоєм. Це передбачуваний наслідок кадрової стратегії Meta:

• Квітень 2026 року: Meta оголосила про скорочення 10% персоналу (близько 8000 працівників) та ліквідацію 6000 відкритих вакансій, чітко спрямовуючи ресурси на розвиток AI .
• Травень 2026 року: Розпочалися звільнення, решта працівників були перерозподілені на посади, пов'язані з AI .
• Жовтень 2025 року: Попередні скорочення вже торкнулися понад 100 співробітників команди з оцінки ризиків Meta — саме тих команд, які відповідають за моніторинг безпеки та конфіденційності користувачів .
• Червень 2026 року: З'явилися підтвердження, що Meta вже почала замінювати людей-модераторів контенту на AI-системи, ліквідувавши тисячі контрактних модераторських посад .

Звільнені люди-модератори та фахівці з ризиків були саме тією робочою силою, яка потрібна для детального аналізу, з яким AI-системи системно не справляються. Ті самі AI-системи, які Meta масштабує, продукують масштабні, невиправлені помилки — блокуючи та видаляючи легітимні акаунти, не залишаючи дієвих шляхів для апеляції.

Підсумок

Розслідування NYT у поєднанні з висновками Наглядової ради та задокументованими скороченнями персоналу малюють чітку картину: AI-керована система модерації Meta генерує масові хибні спрацьовування, процес апеляцій функціонально зламаний, а компанія звільнила саме тих людей, які могли б це виправити — водночас захищаючи технологію на тій підставі, що вона робить менше помилок, ніж замінені нею люди.