Krize AI moderace Metaly: Chybné blokace likvidují legitimní účty, odvolání je past bez východiska

Co odhalilo vyšetřování NYT

Vyšetřování zjistilo, že automatizované moderátorské systémy Metaly, které nyní zpracovávají přibližně 95 % prvotních zásahů, produkují alarmující množství falešně pozitivních výsledků :

• Vágní porušení bez vysvětlení: Účty jsou blokovány z obecných důvodů, jako je „podvod a klamání“, aniž by bylo specifikováno, který příspěvek nebo chování spouštěč spustilo .
• Případ Camille Hansonové: Jedním z hlavních případů je Camille Hansonová, jejíž účty na Facebooku a Instagramu – které se svým manželem používala k výuce angličtiny pro nerodilé mluvčí a měly téměř milion sledujících – byly v březnu 2026 náhle označeny ke smazání. Oznámení přišlo uprostřed noci .
• Odvolací smyčka bez východiska: Když se uživatelé odvolají, jejich případy jsou často přesměrovány zpět na stejné AI systémy, místo aby se dostaly k lidskému recenzentovi. Jedna odpověď na odvolání stála: „Toda tu información se eliminará de forma permanente. No puedes solicitar otra revisión de esta decisión“ .
• Nutný zásah médií: Některé účty, včetně účtu Hansonové, byly obnoveny až poté, co přímo zasáhli novináři z NYT .

Reakce Metaly: Přiznává chyby, brání AI

Po dotazu NYT Meta přiznala chyby v některých případech a obnovila určité zablokované účty. Firma však argumentuje, že její novější AI nástroje dělají méně chyb než lidští moderátoři – tvrdí, že došlo ke 13% snížení chyb a 10% nárůstu odhalování porušení .

Tento postoj je součástí širší strategické změny Metaly. Společnost v lednu 2025 potvrdila, že automatické systémy převezmou primární odpovědnost za identifikaci a odstraňování obsahu porušujícího pravidla na Facebooku, Instagramu a WhatsAppu . V polovině roku 2026 byly v rámci tohoto přechodu zrušeny tisíce pozic externích moderátorů .

Co řekla Dozorovací rada Metaly

Nezávislá Dozorovací rada Metaly (Oversight Board) se k problému hromadného blokování účtů vyjádřila v červnu 2026 a její zjištění byla tvrdá:

• Dne 4. června 2026 rada uvedla, že proces deaktivace účtů Metaly postrádá řádný proces, porušení jsou sdělována bez jasnosti a zákaznická podpora pro odvolání je prakticky nulová .
• Rada oznámila, že poprvé přezkoumá celkový přístup Metaly k trvalému blokování účtů .
• V samostatném rozhodnutí z 24. června 2026 v případě vyhrožování smrtí rada sice potvrdila konkrétní zákaz, ale znovu kritizovala neprůhlednost pravidel Metaly .

Zjištění rady přímo ozvěnou stížnosti uživatelů, jako je Hansonová – systém neposkytuje žádnou smysluplnou cestu, jak napadnout rozhodnutí vygenerované AI.

Souvislost s propouštěním: Méně lidí, více chyb AI

Chybná mazání nejsou izolovanou systémovou závadou. Jsou předvídatelným důsledkem personální strategie Metaly:

• Duben 2026: Meta oznámila, že propustí 10 % své pracovní síly (asi 8 000 zaměstnanců) a zruší 6 000 volných pozic, a to výslovně za účelem přesměrování zdrojů na vývoj AI .
• Květen 2026: Začalo propouštění, zbývající pracovníci byli přesunuti do rolí zaměřených na AI .
• Říjen 2025: Dřívější škrty již zahrnovaly více než 100 zaměstnanců z týmu Metaly pro hodnocení rizik, tedy právě těch týmů, které mají na starosti bezpečnost a soukromí uživatelů .
• Červen 2026: Zprávy potvrdily, že Meta již začala nahrazovat lidské moderátory obsahu systémy AI a zrušila tisíce pracovních míst pro externí moderátory .

Propuštění lidští moderátoři a hodnotitelé rizik byli přesně tou pracovní silou, která byla potřebná k řešení nuancovaných případů, na kterých AI systémy systematicky selhávají. Stejné AI systémy, které Meta škáluje, produkují rozsáhlé a neopravené chyby – označují a mažou legitimní účty, přičemž možnosti odvolání jsou mizivé.

Závěr

Vyšetřování NYT v kombinaci se zjištěními Dozorovací rady a zdokumentovanými personálními škrty vykresluje jasný obrázek: systém AI moderace Metaly generuje rozsáhlé falešně pozitivní výsledky, odvolací proces je funkčně nefunkční a společnost propustila právě ty lidi, kteří by to mohli napravit – a to vše zatímco firma technologii hájí s tím, že dělá méně chyb než lidé, které nahradila.