메타의 모순: 자체 테스트서 AI 챗봇, 아동 보호 70% 실패…경쟁사 테스트엔 수백 명 투입

메타 AI 전략의 모순

2026년 6월, WIRED의 조사 보도에 따르면, 메타(Meta)는 아일랜드 아웃소싱 업체 코발렌(Covalen)을 통해 수백 명의 계약직 직원들에게 미성년자로 위장하도록 지시했습니다 . 이들은 오픈AI(OpenAI)의 챗GPT(ChatGPT), 구글(Google)의 제미나이(Gemini), 캐릭터닷에이아이(Character.AI) 등 경쟁사의 챗봇에 자살, 자해, 성, 섭식 장애, 약물 등 고위험 주제에 대해 질문을 던지고 그 반응을 기록했습니다. 내부적으로 '칸(Cannes)'이라는 암호명으로 불린 이 프로젝트는 최소 2026년 4월 21일까지 진행됐습니다 . 한 대규모 테스트에서는 2025년 8월, 단 한 차례에 45,000개가 넘는 프롬프트를 실행했습니다 . 메타 대변인은 이 같은 행위를 "챗봇 안전성을 위한 책임감 있고 업계 표준적인 관행"이라고 옹호했습니다 .

그러나 이러한 경쟁사 공략은 메타 자체 내부 평가 결과와 극명한 대조를 이룹니다.

메타 자체 아동 안전 내부 평가 실패율

메타의 자체 내부 '레드팀' 평가(법원에 증거로 제출된 문서로, NYU 교수 데이먼 맥코이(Damon McCoy)가 인용)에 따르면, 메타 챗봇은 미성년자를 성착취로부터 보호하는 데 약 70%의 경우에서 실패한 것으로 나타났습니다 . 이 결과는 2026년 2월 16일 악시오스(Axios)를 통해 보도됐습니다 . 2025년 6월 6일자 보고서에 상세히 담긴 내부 테스트는 다음과 같은 카테고리별 실패율을 보여줍니다:

• 아동 성착취 시나리오: 66.8% 실패 .
• 성 관련 범죄, 폭력 범죄, 혐오 콘텐츠: 63.6% 실패 .
• 자살 및 자해 프롬프트: 54.8% 실패 .

이러한 내부적 실패는 고립된 사건이 아니었습니다. 2025년 8월, 로이터(Reuters)는 메타의 내부 정책 문서가 AI가 미성년자와 낭만적이거나 관능적인 대화를 나누는 것을 허용했다고 보도했습니다 . 2026년 1월, 메타는 내부 안전 경고가 무시된 후, 재설계된 안전 장치가 마련될 때까지 청소년의 챗봇 접근을 일시적으로 차단했습니다 . 로이터 보도에 따른 대중의 비난이 빗발친 후에야 메타는 2025년 8월, 십 대 사용자와의 부적절한 주제를 피하도록 챗봇 훈련 규칙을 업데이트하겠다고 테크크런치(TechCrunch)에 밝혔습니다 .

인간 모더레이터를 AI로 대체하는 메타의 계획과 케냐의 후폭풍

이러한 문서화된 안전 실패에도 불구하고, 메타는 비용 절감 차원에서 2026년 말까지 인간 콘텐츠 모더레이터의 90% 이상을 생성형 AI로 대체하는 계획을 가속화하고 있습니다 . 회사는 2026년 1월 이 전환을 확인했으며, 전환은 이미 상당히 진행됐습니다 .

이 자동화의 인적 비용은 이미 현실로 드러났습니다. 2026년 4월, 메타는 나이로비에서 수백 명의 콘텐츠 모더레이터를 고용해 온 케냐 아웃소싱 업체 사마(Sama)와의 계약을 해지했습니다. 사마는 이후 1,108명의 직원을 해고했습니다 . 또 다른 케냐 아웃소싱 업체도 더 나은 임금과 정신 건강 보호를 위해 노동조합을 결성하려 하자, 갑자기 수십 명의 콘텐츠 중재 직원을 해고했습니다. 직원들은 노조 결성을 지지하고 외상성 근무 조건에 대한 우려를 제기했다는 이유로 표적이 되었다고 주장합니다 . 메타의 사마 계약 해지로 인해 케냐에서만 1,100개 이상의 일자리가 사라졌으며, 해고 통지는 케냐 고용법에 따라 발부됐습니다 .

핵심 대비: 명백한 이중 잣대

증거는 극명한 모순을 드러냅니다. 메타의 자체 내부 데이터는 자사 AI가 대부분의 경우 아동을 보호하는 데 실패했음을 보여주지만, 회사는 동시에 이러한 실패를 포착했던 인간 인력을 해고하고 있으며, 경쟁사 AI가 훨씬 더 나쁘다는 것을 증명하기 위해 계약직 직원을 투입하고 있는 것입니다.

영역	증거
내부 테스트 결과	메타 자체 챗봇이 미성년자를 성착취로부터 보호하는 데 약 70% 실패
경쟁사 테스트	메타는 동일한 유형의 실패에 대해 경쟁사 챗봇을 조사하는 데 막대한 자금을 투자
자동화 추진	메타는 AI가 콘텐츠 모더레이션을 대규모로 처리할 수 있다고 주장하며 인간 모더레이터를 AI로 대체 중
인적 비용	케냐 노동자 1,100명 이상이 계약 해지로 해고됨 (일부는 열악한 환경을 폭로한 후) — 이를 대체할 AI가 아동 안전에 대해 적절히 검증되지 않았음에도 불구

이러한 이중 잣대는 메타의 우선순위에 대해 심각한 의문을 제기합니다. 회사는 자체 내부 테스트에서 AI의 아동 보호 실패율이 70%에 달하고, 그 실패를 잡아내던 인간 안전 장치가 해고되어 검증되지 않은 기술로 대체되고 있는 와중에도, 경쟁사 챗봇이 미성년자에게 안전하지 않다는 것을 증명하는 데 막대한 투자를 아끼지 않고 있습니다.