Apa yang Diungkap Investigasi NYT?

Investigasi menemukan bahwa sistem moderasi otomatis Meta, yang kini menangani sekitar 95% penegakan aturan tahap awal, menghasilkan alarm positif palsu yang mengkhawatirkan :

• Pelanggaran samar tanpa penjelasan: Akun-akun ditandai dengan alasan umum seperti "penipuan dan kecurangan" tanpa menyebut unggahan atau perilaku spesifik mana yang memicu tanda bahaya .
• Kasus Camille Hanson: Salah satu kasus yang disorot adalah Camille Hanson, yang akun Facebook dan Instagram-nya—digunakan bersama suaminya untuk mengajar bahasa Inggris dan memiliki hampir satu juta pengikut—tiba-tiba ditandai untuk dihapus pada Maret 2026. Pemberitahuan datang di tengah malam .
• Lingkaran setan banding: Saat pengguna mengajukan banding, kasus mereka sering kali diputar kembali ke sistem AI yang sama alih-alih mencapai peninjau manusia, menciptakan lingkaran yang tak terputus. Salah satu tanggapan banding hanya menyatakan: "Toda tu información se eliminará de forma permanente. No puedes solicitar otra revisión de esta decisión" .
• Intervensi media diperlukan: Beberapa akun, termasuk milik Hanson, baru dipulihkan setelah jurnalis NYT turun tangan langsung .

Tanggapan Meta: Akui Kesalahan, Bela AI

Setelah penyelidikan NYT, Meta mengakui kesalahan dalam beberapa kasus dan memulihkan akun yang diblokir. Namun, perusahaan berpendapat bahwa alat moderasi AI terbaru mereka melakukan lebih sedikit kesalahan daripada moderator manusia—dengan klaim pengurangan kesalahan sebesar 13% dan peningkatan deteksi pelanggaran sebesar 10% .

Posisi ini adalah bagian dari pergeseran strategis Meta yang lebih luas. Perusahaan mengonfirmasi pada Januari 2025 bahwa sistem otomatis akan mengambil tanggung jawab utama untuk mengidentifikasi dan menghapus konten yang melanggar kebijakan di Facebook, Instagram, dan WhatsApp . Pada pertengahan 2026, ribuan posisi moderator kontraktor telah dihilangkan sebagai bagian dari transisi ini .

Apa Kata Dewan Pengawas Meta?

Dewan Pengawas independen milik Meta sendiri angkat bicara mengenai masalah penonaktifan akun yang lebih luas pada Juni 2026, dan temuannya sangat gamblang:

• Pada 4 Juni 2026, Dewan mengatakan proses penonaktifan akun Meta kurang due process, pelanggaran dikomunikasikan tanpa kejelasan, dan dukungan pelanggan untuk banding hampir tidak ada .
• Dewan mengumumkan akan meninjau, untuk pertama kalinya, pendekatan keseluruhan Meta terhadap penonaktifan akun permanen .
• Dalam putusan terpisah pada 24 Juni 2026 mengenai kasus ancaman pembunuhan, Dewan mendukung larangan spesifik tersebut tetapi sekali lagi mengkritik ketidakjelasan kebijakan Meta .

Temuan Dewan secara langsung menggema keluhan pengguna seperti Hanson—sistem tidak menyediakan jalur yang berarti untuk menantang keputusan yang dihasilkan AI.

Koneksi PHK: Lebih Sedikit Manusia, Lebih Banyak Kesalahan AI

Penghapusan akun yang salah ini bukanlah gangguan sistem yang terisolasi. Ini adalah konsekuensi yang dapat diprediksi dari strategi ketenagakerjaan Meta:

• April 2026: Meta mengumumkan akan memangkas 10% tenaga kerjanya (sekitar 8.000 karyawan) dan menghilangkan 6.000 posisi yang terbuka, secara eksplisit untuk mengalihkan sumber daya ke pengembangan AI .
• Mei 2026: PHK dimulai, dengan pekerja yang tersisa dialihkan ke peran yang berpusat pada AI .
• Oktober 2025: PHK sebelumnya sudah mencakup lebih dari 100 karyawan dari tim tinjau risiko Meta, tim yang bertanggung jawab memantau keselamatan dan privasi pengguna .
• Juni 2026: Laporan mengonfirmasi bahwa Meta telah mulai mengganti moderator konten manusia dengan sistem AI, menghilangkan ribuan pekerjaan moderator kontraktor .

Moderator manusia dan peninjau risiko yang dipecat adalah tenaga kerja yang tepat yang dibutuhkan untuk menangani jenis tinjauan bernuansa yang secara sistematis gagal dilakukan oleh sistem AI. Sistem AI yang sama yang sedang diperluas oleh Meta menghasilkan kesalahan besar-besaran yang tidak terkoreksi—menandai dan menghapus akun sah dengan sedikit jalur banding yang berfungsi.

Intinya

Investigasi NYT, dikombinasikan dengan temuan Dewan Pengawas dan pemotongan tenaga kerja yang terdokumentasi, memberikan gambaran yang jelas: sistem moderasi berbasis AI Meta menghasilkan positif palsu yang meluas, proses banding secara fungsional rusak, dan perusahaan telah memecat orang-orang yang seharusnya bisa memperbaikinya—sementara perusahaan membela teknologi tersebut dengan alasan bahwa teknologi itu membuat lebih sedikit kesalahan daripada manusia yang digantikannya.

Apa yang Diungkap Investigasi NYT?

Investigasi menemukan bahwa sistem moderasi otomatis Meta, yang kini menangani sekitar 95% penegakan aturan tahap awal, menghasilkan alarm positif palsu yang mengkhawatirkan :

• Pelanggaran samar tanpa penjelasan: Akun-akun ditandai dengan alasan umum seperti "penipuan dan kecurangan" tanpa menyebut unggahan atau perilaku spesifik mana yang memicu tanda bahaya .
• Kasus Camille Hanson: Salah satu kasus yang disorot adalah Camille Hanson, yang akun Facebook dan Instagram-nya—digunakan bersama suaminya untuk mengajar bahasa Inggris dan memiliki hampir satu juta pengikut—tiba-tiba ditandai untuk dihapus pada Maret 2026. Pemberitahuan datang di tengah malam .
• Lingkaran setan banding: Saat pengguna mengajukan banding, kasus mereka sering kali diputar kembali ke sistem AI yang sama alih-alih mencapai peninjau manusia, menciptakan lingkaran yang tak terputus. Salah satu tanggapan banding hanya menyatakan: "Toda tu información se eliminará de forma permanente. No puedes solicitar otra revisión de esta decisión" .
• Intervensi media diperlukan: Beberapa akun, termasuk milik Hanson, baru dipulihkan setelah jurnalis NYT turun tangan langsung .

Tanggapan Meta: Akui Kesalahan, Bela AI

Setelah penyelidikan NYT, Meta mengakui kesalahan dalam beberapa kasus dan memulihkan akun yang diblokir. Namun, perusahaan berpendapat bahwa alat moderasi AI terbaru mereka melakukan lebih sedikit kesalahan daripada moderator manusia—dengan klaim pengurangan kesalahan sebesar 13% dan peningkatan deteksi pelanggaran sebesar 10% .

Posisi ini adalah bagian dari pergeseran strategis Meta yang lebih luas. Perusahaan mengonfirmasi pada Januari 2025 bahwa sistem otomatis akan mengambil tanggung jawab utama untuk mengidentifikasi dan menghapus konten yang melanggar kebijakan di Facebook, Instagram, dan WhatsApp . Pada pertengahan 2026, ribuan posisi moderator kontraktor telah dihilangkan sebagai bagian dari transisi ini .

Apa Kata Dewan Pengawas Meta?

Dewan Pengawas independen milik Meta sendiri angkat bicara mengenai masalah penonaktifan akun yang lebih luas pada Juni 2026, dan temuannya sangat gamblang:

• Pada 4 Juni 2026, Dewan mengatakan proses penonaktifan akun Meta kurang due process, pelanggaran dikomunikasikan tanpa kejelasan, dan dukungan pelanggan untuk banding hampir tidak ada .
• Dewan mengumumkan akan meninjau, untuk pertama kalinya, pendekatan keseluruhan Meta terhadap penonaktifan akun permanen .
• Dalam putusan terpisah pada 24 Juni 2026 mengenai kasus ancaman pembunuhan, Dewan mendukung larangan spesifik tersebut tetapi sekali lagi mengkritik ketidakjelasan kebijakan Meta .

Temuan Dewan secara langsung menggema keluhan pengguna seperti Hanson—sistem tidak menyediakan jalur yang berarti untuk menantang keputusan yang dihasilkan AI.

Koneksi PHK: Lebih Sedikit Manusia, Lebih Banyak Kesalahan AI

Penghapusan akun yang salah ini bukanlah gangguan sistem yang terisolasi. Ini adalah konsekuensi yang dapat diprediksi dari strategi ketenagakerjaan Meta:

• April 2026: Meta mengumumkan akan memangkas 10% tenaga kerjanya (sekitar 8.000 karyawan) dan menghilangkan 6.000 posisi yang terbuka, secara eksplisit untuk mengalihkan sumber daya ke pengembangan AI .
• Mei 2026: PHK dimulai, dengan pekerja yang tersisa dialihkan ke peran yang berpusat pada AI .
• Oktober 2025: PHK sebelumnya sudah mencakup lebih dari 100 karyawan dari tim tinjau risiko Meta, tim yang bertanggung jawab memantau keselamatan dan privasi pengguna .
• Juni 2026: Laporan mengonfirmasi bahwa Meta telah mulai mengganti moderator konten manusia dengan sistem AI, menghilangkan ribuan pekerjaan moderator kontraktor .

Moderator manusia dan peninjau risiko yang dipecat adalah tenaga kerja yang tepat yang dibutuhkan untuk menangani jenis tinjauan bernuansa yang secara sistematis gagal dilakukan oleh sistem AI. Sistem AI yang sama yang sedang diperluas oleh Meta menghasilkan kesalahan besar-besaran yang tidak terkoreksi—menandai dan menghapus akun sah dengan sedikit jalur banding yang berfungsi.

Intinya

Investigasi NYT, dikombinasikan dengan temuan Dewan Pengawas dan pemotongan tenaga kerja yang terdokumentasi, memberikan gambaran yang jelas: sistem moderasi berbasis AI Meta menghasilkan positif palsu yang meluas, proses banding secara fungsional rusak, dan perusahaan telah memecat orang-orang yang seharusnya bisa memperbaikinya—sementara perusahaan membela teknologi tersebut dengan alasan bahwa teknologi itu membuat lebih sedikit kesalahan daripada manusia yang digantikannya.