AI가 내린 '잘못된 퇴출'... 메타, 계정 삭제 오류 속출에도 '항소는 불가'

메타의 입장: "인간보다 낫다"

NYT의 질의 이후, 메타는 일부 사례의 오류를 인정하고 계정을 복구했습니다. 그러나 회사는 새로운 AI 중재 도구가 인간 심사관보다 실수를 13% 줄였으며, 위반 사항 적발률은 10% 높아졌다고 주장하며 AI 시스템을 옹호했습니다 .

이는 메타의 광범위한 전략적 전환의 일환입니다. 메타는 2025년 1월, 페이스북, 인스타그램, 왓츠앱에서 정책 위반 콘텐츠 식별 및 제거의 1차 책임을 자동화 시스템에 맡기겠다고 공식 확인했습니다 . 2026년 중반까지 이러한 전환의 일환으로 수천 개의 계약직 심사관 자리가 사라졌습니다 .

메타 감독위원회의 경고

메타의 독립 감독위원회(Oversight Board)도 이 문제에 대해 2026년 6월에 강력한 비판을 제기했습니다:

• 2026년 6월 4일, 위원회는 메타의 계정 비활성화 과정이 적법 절차를 결여하고 있으며, 위반 사항이 명확하게 전달되지 않고, 항소를 위한 고객 지원이 거의 존재하지 않는다고 지적했습니다 .
• 위원회는 처음으로 메타의 계정 영구 비활성화에 대한 전반적인 접근 방식을 검토하겠다고 발표했습니다 .
• 2026년 6월 24일, 살해 위협 관련 사건 판결에서 위원회는 해당 계정 차단은 정당하다고 봤지만, 메타 정책의 불투명성을 다시 한번 비판했습니다 .

위원회의 지적은 핸슨 같은 사용자들의 불만과 정확히 일치합니다. 즉, 시스템은 AI의 결정에 이의를 제기할 의미 있는 경로를 전혀 제공하지 않습니다.

인력 감축과 AI 오류의 악순환

이번 잘못된 계정 삭제는 단순한 시스템 결함이 아닙니다. 이는 메타의 인력 전략이 낳은 예측 가능한 결과입니다:

• 2026년 4월: 메타는 전체 직원의 10%(약 8,000명)를 해고하고 6,000개의 공석을 없애겠다고 발표했으며, 그 목적은 명백히 자원을 AI 개발로 돌리기 위함이었습니다 .
• 2026년 5월: 해고가 시작되었고, 남은 직원들은 AI 중심 역할로 재배치되었습니다 .
• 2025년 10월: 앞서 100명 이상의 리스크 검토 팀 직원이 해고되었는데, 이 팀은 사용자 안전과 프라이버시를 모니터링하는 핵심 부서였습니다 .
• 2026년 6월: 메타가 인간 콘텐츠 심사관을 AI 시스템으로 대체하기 시작하여 수천 개의 계약직 심사관 자리가 사라졌다는 보도가 확인되었습니다 .

해고된 인간 심사관과 리스크 검토관들은 AI 시스템이 체계적으로 실패하는 바로 그 '미묘한 판단'이 필요한 업무를 담당해야 할 인력이었습니다. 메타가 확대하고 있는 바로 그 AI 시스템이 대규모의 시정되지 않은 오류를 양산하며 합법적인 계정을 차단·삭제하고 있는 셈입니다.

결론

NYT의 탐사보도, 메타 감독위원회의 지적, 그리고 기록된 인력 감축은 명확한 그림을 보여줍니다: 메타의 AI 기반 중재 시스템은 광범위한 오탑을 발생시키고 있고, 항소 절차는 기능적으로 마비되었으며, 회사는 이 문제를 해결할 수 있는 유일한 사람들(인간 심사관)을 해고했습니다. 그리고 메타는 'AI가 대체한 인간보다 실수가 적다'는 이유로 이 기술을 계속 옹호하고 있습니다.