MetaのAIモデレーション危機：誤ったアカウント削除が後を絶たず、異議申し立ては機能せず

NYT調査が明らかにした実態

調査によれば、Metaの自動モデレーションシステム（現在、最初の対応の約95%を処理）は、深刻な誤検知（偽陽性）を生み出している。

• 不明瞭な違反理由: アカウントは「詐欺および欺瞞」といった曖昧な理由でフラグが立てられ、どの投稿や行動が問題だったのかが一切示されない。
• カミーユ・ハンソン氏のケース: 象徴的な事例が、夫と共に英語を教えるビジネスを運営し、約100万人のフォロワーを持つカミーユ・ハンソン氏だ。彼女のアカウントは2026年3月、深夜に突然削除予告を受けた。
• 「死のループ」と化した異議申し立て: ユーザーが異議を申し立てても、そのケースは人間の審査員ではなく、再び同じAIシステムに回される。ある返信には「あなたのすべての情報は完全に削除されます。この決定に対して再審査を求めることはできません」とスペイン語で書かれていた。
• メディア介入でようやく復旧: ハンソン氏を含む一部のアカウントは、NYTの記者が直接介入した後にのみ復旧した。

Metaの反応：誤りを認めつつAIを擁護

NYTの問い合わせを受け、Metaは一部のケースで誤りを認め、停止された特定のアカウントを復旧した。しかし同社は、新しいAIモデレーションツールは人間のモデレーターよりもミスが13%少なく、違反検出率は10%向上していると主張している。

この立場は、Metaの広範な戦略転換の一部だ。同社は2025年1月に、自動システムがFacebook、Instagram、WhatsApp全体でポリシー違反コンテンツを特定・削除する主要な責任を負うと確認していた。2026年半ばまでに、この移行の一環として数千人もの請負モデレーター職が削減された。

Meta監視委員会の見解

Meta自身の独立した監視委員会（Oversight Board）は、2026年6月にこの広範なアカウント無効化問題に関する見解を発表し、その内容は厳しいものだった。

• 2026年6月4日、委員会はMetaのアカウント停止プロセスにはデュー・プロセス（適正手続き）が欠けており、違反内容は不明瞭で、異議申し立てのためのカスタマーサポートはほぼ存在しないと述べた。
• 委員会は、史上初めて、Metaのアカウント永久無効化への全体的なアプローチをレビューすると発表した。
• 2026年6月24日の殺害予告に関する事例では、委員会は特定のアカウント停止自体は支持したものの、Metaのポリシーの不透明性を改めて批判した。

委員会の見解は、ハンソン氏のようなユーザーの不満を直接的に裏付けるものだ。すなわち、システムはAIが下した決定に異議を唱えるための意味のある道筋を提供していない。

人員削減の影響：人間が減り、AIのエラーが増える

この誤った削除は、単なるシステムの不具合ではない。Metaの人材戦略の当然の帰結である。

• 2026年4月: Metaは全従業員の10%（約8,000人）を削減し、さらに6,000の空席をなくすと発表。その理由は、リソースをAI開発に振り向けるためだと明言された。
• 2026年5月: 解雇が始まり、残った従業員はAI中心の役割に再配置された。
• 2025年10月: これ以前の削減では、ユーザーの安全性とプライバシーを監視する責任を負っていたリスクレビュー部門から100人以上の従業員が解雇されていた。
• 2026年6月: Metaが人間のコンテンツモデレーターをAIシステムに置き換え始め、何千人もの請負モデレーター職を削減したことが確認された。

解雇された人間のモデレーターやリスクレビュー担当者はまさに、AIシステムが体系的に失敗するような微妙な判断を必要とするレビューを処理するために必要な人員だった。Metaが拡大しているのと同じAIシステムが、大規模で訂正不能なエラーを生み出し、正当なアカウントにフラグを立てて削除しているのだ。そして、それに対する実質的な異議申し立ての手段はほとんどない。

結論

NYTの調査、監視委員会の見解、そして記録された人員削減の事実を総合すると、鮮明な絵が浮かび上がる。MetaのAI主導のモデレーションシステムは広範な誤検知を生み出しており、異議申し立てプロセスは実質的に機能不全に陥っている。そして同社は、それを修正できるまさにその人材を解雇した。しかもMetaは、この技術が、解雇した人間よりもミスが少ないという理由で擁護しているのだ。