MetaのAIモデレーションが正常アカウントを誤削除：NYT調査報道が暴いた実態

Metaは一部のケースで誤りを認め、NYT の調査を受けて一部の停止アカウントを復旧した。しかし同社は、新しいAIモデレーションツールは人間のモデレーターよりも誤判定が少ないと主張している。この姿勢は、Metaが2026年1月に確認した、人間によるコンテンツモデレーションをAIに置き換えるという広範な戦略転換と一致するもので、数千人分の契約モデレーター職を削減するものだ。

Meta監視委員会の見解

Metaの監視委員会（Oversight Board）は、2026年6月にこの広範なアカウント無効化問題について見解を示した。

• 2026年6月4日、監視委員会はMetaのアカウント停止プロセスに「適正手続き（デュー・プロセス）」が欠けており、違反内容が明確に伝えられず、異議申し立てのカスタマーサポートがほぼ存在しないと指摘した。
• 同委員会は、Metaがアカウントを恒久的に無効化する全体的なアプローチを初めて審査すると発表した。
• 別の2026年6月24日の勧告（殺害予告事件に関するもの）では、特定のアカウント停止自体は支持したものの、Metaの方針の不透明性を改めて批判した。

Metaの人員削減との関連性

AIによる誤削除問題は、Metaの人員戦略と直接的に結びついている。

• 2026年4月、Metaは全従業員の10％（約8,000人）を削減し、さらに6,000の未充足ポジションを廃止すると発表。その目的は、AI開発にリソースを振り向けることにあると明言された。
• 人員削減は2026年5月に開始され、数千人が影響を受け、残った従業員はAI関連の役割に再配置された。
• 2026年6月には、Metaがすでに人間のコンテンツモデレーターをAIシステムに置き換え始めており、数千人分の契約モデレーター職を削減したことが報じられた。
• さらに2025年10月の削減では、ユーザーの安全性とプライバシーリスクを監視していた従業員も対象となり、自動モデレーションが拡大されるちょうどそのタイミングで人間による監視が減少していた。

要するに、Metaが人間のモデレーターを置き換えるために拡大しているAIシステム（これは同社のAI主導の人員再編の一環である）が、大規模で修正されない誤判定を生み出しており、正規のアカウントをフラグし削除しているが、それに対する有効な異議申し立て手段はほとんどないという構造が浮き彫りになった。