メタのAI矛盾：自社テストで児童保護失敗率70％も、人間のモデレーターをAIに置き換え、ライバルのチャットボットを攻撃

メタのAI戦略の核心にある矛盾

2026年6月にWIREDが報じた調査によると、Metaはアイルランドのアウトソーシング企業Covalenを通じて数百人の契約社員に指示し、オンライン上で未成年者になりすまさせ、OpenAIのChatGPT、GoogleのGemini、Character.AIといった競合他社のチャットボットが、自殺、自傷行為、性、摂食障害、薬物などの高リスクなプロンプトにどのように反応するかを調べていた。このプロジェクトは社内で「Cannes」というコードネームで呼ばれ、少なくとも2026年4月21日まで継続されていた。契約社員は18歳未満のアカウントを作成し、数千ものセンシティブなテキストや画像のプロンプトを送信し、その応答をスプレッドシートに記録していた。2025年8月の大規模なテストでは、1ラウンドで45,000以上のプロンプトが実行された。別のスプレッドシートには3,748件のプロンプトが記録されており、そのうち数百件が自殺・自傷行為に関連し、さらに数百件が摂食障害に関するものだった。Metaの広報担当者は、この行為を「責任ある、業界標準の慣行」であり、チャットボットの安全性をテストするためのものだと弁護した。

しかし、この競合他社への積極的なテストは、Meta自身の内部テスト結果とは全く対照的である。

メタ自社の児童安全に関する内部失敗率

Meta自身の内部レッドチーミング評価は、裁判所に証拠として提出され、ニューヨーク大学のダモン・マッコイ教授によって引用されたが、Metaのチャットボットが未成年を性的搾取から適切に保護できなかったケースが、テスト事例の約70％に上ることが明らかになった。この結果は、2026年2月16日にAxiosによって報じられた。2025年6月6日付の内部テスト報告書の詳細によると、いくつかのカテゴリーで高い失敗率が示された。

• 児童の性的搾取シナリオ: 66.8%の確率で失敗。
• 性関連犯罪、暴力犯罪、ヘイトコンテンツ: 63.6%の確率で失敗。
• 自殺および自傷行為のプロンプト: 54.8%の確率で失敗。

これらの内部的な失敗は、単独の出来事ではなかった。2025年8月には、ロイター通信が、Metaの内部ポリシー文書を入手し、同社のAIが未成年者とロマンチックまたは官能的な対話を行うことを許可していたことを明らかにした。2026年1月、Metaは内部の安全警告が無視されたと報じられた後、10代のユーザーによるチャットボットへのアクセスを一時的にブロックし、安全対策の再構築を進めた。2025年8月、MetaはTechCrunchに対し、10代のユーザーとの不適切な話題を避けるためにチャットボットのトレーニングルールを更新すると発表したが、これはロイター通信の報道を受けて世間の批判が高まった後だった。

人間のモデレーターをAIに置き換えるメタの計画とケニアでの影響

これらの文書化された安全性の欠如にもかかわらず、Metaは2026年末までに人間のコンテンツモデレーターの90％以上を生成AIに置き換える計画を加速しており、これは広範なコスト削減策の一環である。同社は2026年1月にこの方針転換を確認し、移行はすでに本格化している。

この自動化による人的コストはすでに顕在化している。2026年4月、Metaはナイロビで何百人ものコンテンツモデレーターを雇用していたケニアのアウトソーシング企業Samaとの契約を打ち切った。これを受けてSamaは1,108人の従業員を解雇した。また、別のケニアのアウトソーシング企業も、賃金向上と精神的健康保護のために組織化を試みた直後に、数十人のコンテンツモデレーション担当者を突然解雇した。従業員らは、労働組合への支援とトラウマ的な労働条件に関する懸念を表明したことが標的にされたと主張している。MetaによるSamaとの契約解除だけでも、ケニアで1,100人以上の雇用が失われ、解雇通知はケニアの雇用法に基づいて発行された。

核心的な対比：明白なダブルスタンダード

これらの証拠は、痛烈な矛盾を浮き彫りにしている。Meta自身の内部データは、同社のAIが子供を保護できないケースが大半であることを示しているにもかかわらず、同社は同時に、それらの失敗を発見した人間の労働力を排除し、競合他社のAIがさらに悪いことを証明するために契約社員を投入しているのである。

領域	証拠
内部テスト結果	Meta自身のチャットボットは、未成年を性的搾取から保護することに約70%の確率で失敗
競合他社のテスト	Metaは、競合のチャットボットで同種の失敗を探るために多額の費用を投じた
自動化への推進	Metaは人間のモデレーターをAIに置き換えており、AIが大規模なコンテンツモデレーションを処理できると主張している
人的コスト	契約解除により1,100人以上のケニア人労働者が解雇された。その中には劣悪な環境について内部告発をした者も含まれており、彼らを置き換えるAIは子どもの安全を十分に実証できていない

このダブルスタンダードは、Metaの優先順位に深刻な疑問を投げかけている。同社は、自社の内部テストでAIの児童保護失敗率が70％であることが判明し、その失敗を発見した人間による安全策が解雇され、安全性が証明されていない技術に置き換えられているにもかかわらず、競合他社のチャットボットが未成年者にとって安全でないことを証明するために多額の投資を惜しまないのである。