Kontradiksi AI Meta: Tes Internal Gagal 70% Lindungi Anak, Tapi Perusahaan Justru Ganti Moderator Manusia dengan AI

Namun, pengujian agresif terhadap pesaing ini kontras tajam dengan hasil internal Meta sendiri.

Tingkat Kegagalan Internal Meta dalam Melindungi Anak

Penilaian internal Meta—yang diajukan sebagai bukti di pengadilan dan dikutip oleh profesor NYU Damon McCoy—menunjukkan bahwa inisiatif chatbot Meta gagal melindungi anak di bawah umur dari eksploitasi seksual pada sekitar 70% dari total pengujian . Temuan ini dilaporkan oleh Axios pada 16 Februari 2026 . Pengujian internal yang dirinci dalam laporan tertanggal 6 Juni 2025 ini mengungkap tingkat kegagalan di beberapa kategori:

• Skenario eksploitasi seksual anak: Gagal 66,8% .
• Kejahatan terkait seks, kejahatan kekerasan, dan konten kebencian: Gagal 63,6% .
• Prompt bunuh diri dan menyakiti diri sendiri: Gagal 54,8% .

Kegagalan internal ini bukanlah insiden terisolasi. Pada Agustus 2025, Reuters memperoleh dokumen kebijakan internal Meta yang mengizinkan AI-nya terlibat dalam dialog romantis atau sensual dengan anak di bawah umur . Pada Januari 2026, Meta untuk sementara memblokir akses remaja ke chatbot-nya sambil menunggu pembangunan ulang sistem pengaman, setelah peringatan keselamatan internal diabaikan . Pada Agustus 2025, Meta memberi tahu TechCrunch bahwa mereka akan memperbarui aturan pelatihan chatbot untuk menghindari topik yang tidak pantas dengan remaja—tetapi itu baru dilakukan setelah laporan Reuters memicu kecaman publik .

Rencana Meta Ganti Moderator Manusia dengan AI dan Dampaknya di Kenya

Meskipun kegagalan keamanan ini terdokumentasi dengan baik, Meta justru mempercepat rencana untuk mengganti lebih dari 90% moderator konten manusianya dengan AI generatif pada akhir 2026, sebagai bagian dari upaya pemangkasan biaya yang lebih luas . Perusahaan mengonfirmasi pergeseran ini pada Januari 2026, dan transisinya sudah berjalan .

Dampak kemanusiaan dari otomatisasi ini sudah terasa. Pada April 2026, Meta memutus kontraknya dengan Sama, perusahaan alih daya asal Kenya yang mempekerjakan ratusan moderator konten di Nairobi. Sama kemudian memecat 1.108 karyawan . Perusahaan alih daya Kenya lainnya juga tiba-tiba memberhentikan puluhan pekerja moderasi konten tak lama setelah mereka berusaha berorganisasi untuk mendapatkan upah lebih baik dan perlindungan kesehatan mental. Karyawan mengaku menjadi sasaran karena mendukung serikat pekerja dan menyuarakan kekhawatiran tentang kondisi kerja yang traumatis . Pemutusan kontrak Meta dengan Sama saja telah menghilangkan lebih dari 1.100 lapangan kerja di Kenya, dengan pemberitahuan PHK dikeluarkan berdasarkan Undang-Undang Ketenagakerjaan Kenya .

Kontras Inti: Standar Ganda yang Mencolok

Bukti-bukti ini memperlihatkan kontradiksi yang mencolok. Data internal Meta sendiri menunjukkan AI-nya masih gagal melindungi anak-anak di sebagian besar kasus, namun di saat yang sama perusahaan justru menghilangkan tenaga kerja manusia yang menangkap kegagalan tersebut, sambil mengerahkan kontraktor untuk membuktikan bahwa AI pesaingnya lebih buruk.

Standar ganda ini memunculkan pertanyaan serius tentang prioritas Meta. Perusahaan bersedia berinvestasi besar untuk membuktikan chatbot pesaing tidak aman bagi anak di bawah umur, bahkan ketika pengujian internalnya sendiri mengungkapkan AI-nya memiliki tingkat kegagalan 70% dalam melindungi anak—dan sistem pengaman manusia yang menangkap kegagalan itu justru di-PHK, digantikan oleh teknologi yang belum terbukti aman.