メタのAI矛盾：自社テストで児童保護失敗率70％も、人間のモデレーターをAIに置き換え、ライバルのチャットボットを攻撃

しかし、この競合他社への積極的なテストは、Meta自身の内部テスト結果とは全く対照的である。

メタ自社の児童安全に関する内部失敗率

Meta自身の内部レッドチーミング評価は、裁判所に証拠として提出され、ニューヨーク大学のダモン・マッコイ教授によって引用されたが、Metaのチャットボットが未成年を性的搾取から適切に保護できなかったケースが、テスト事例の約70％に上ることが明らかになった。この結果は、2026年2月16日にAxiosによって報じられた。2025年6月6日付の内部テスト報告書の詳細によると、いくつかのカテゴリーで高い失敗率が示された。

• 児童の性的搾取シナリオ: 66.8%の確率で失敗。
• 性関連犯罪、暴力犯罪、ヘイトコンテンツ: 63.6%の確率で失敗。
• 自殺および自傷行為のプロンプト: 54.8%の確率で失敗。

これらの内部的な失敗は、単独の出来事ではなかった。2025年8月には、ロイター通信が、Metaの内部ポリシー文書を入手し、同社のAIが未成年者とロマンチックまたは官能的な対話を行うことを許可していたことを明らかにした。2026年1月、Metaは内部の安全警告が無視されたと報じられた後、10代のユーザーによるチャットボットへのアクセスを一時的にブロックし、安全対策の再構築を進めた。2025年8月、MetaはTechCrunchに対し、10代のユーザーとの不適切な話題を避けるためにチャットボットのトレーニングルールを更新すると発表したが、これはロイター通信の報道を受けて世間の批判が高まった後だった。

人間のモデレーターをAIに置き換えるメタの計画とケニアでの影響

これらの文書化された安全性の欠如にもかかわらず、Metaは2026年末までに人間のコンテンツモデレーターの90％以上を生成AIに置き換える計画を加速しており、これは広範なコスト削減策の一環である。同社は2026年1月にこの方針転換を確認し、移行はすでに本格化している。

この自動化による人的コストはすでに顕在化している。2026年4月、Metaはナイロビで何百人ものコンテンツモデレーターを雇用していたケニアのアウトソーシング企業Samaとの契約を打ち切った。これを受けてSamaは1,108人の従業員を解雇した。また、別のケニアのアウトソーシング企業も、賃金向上と精神的健康保護のために組織化を試みた直後に、数十人のコンテンツモデレーション担当者を突然解雇した。従業員らは、労働組合への支援とトラウマ的な労働条件に関する懸念を表明したことが標的にされたと主張している。MetaによるSamaとの契約解除だけでも、ケニアで1,100人以上の雇用が失われ、解雇通知はケニアの雇用法に基づいて発行された。

核心的な対比：明白なダブルスタンダード

これらの証拠は、痛烈な矛盾を浮き彫りにしている。Meta自身の内部データは、同社のAIが子供を保護できないケースが大半であることを示しているにもかかわらず、同社は同時に、それらの失敗を発見した人間の労働力を排除し、競合他社のAIがさらに悪いことを証明するために契約社員を投入しているのである。

このダブルスタンダードは、Metaの優先順位に深刻な疑問を投げかけている。同社は、自社の内部テストでAIの児童保護失敗率が70％であることが判明し、その失敗を発見した人間による安全策が解雇され、安全性が証明されていない技術に置き換えられているにもかかわらず、競合他社のチャットボットが未成年者にとって安全でないことを証明するために多額の投資を惜しまないのである。