Krisis Moderasi AI Meta: Sekatan Palsu Memusnahkan Akaun Sah, Tiada Rayuan Berkesan

Apa yang Didedahkan Siasatan NYT

Siasatan itu mendapati sistem moderasi automatik Meta, yang kini mengendalikan kira-kira 95% daripada penguatkuasaan pertama, menghasilkan positif palsu yang membimbangkan :

• Pelanggaran samar tanpa penjelasan: Akaun ditanda atas sebab umum seperti "fraud and deception" tanpa spesifikasi siaran atau tingkah laku mana yang mencetuskan tanda tersebut .
• Kes Camille Hanson: Satu kes yang ditonjolkan ialah Camille Hanson, yang akaun Facebook dan Instagramnya — digunakan bersama suami untuk mengajar bahasa Inggeris kepada penutur bukan ibunda dan mempunyai hampir sejuta pengikut — tiba-tiba ditanda untuk dipadam pada Mac 2026. Notis tiba di tengah malam .
• Gelung rayuan buntu: Apabila pengguna merayu, kes mereka sering dipandu semula ke sistem AI yang sama dan bukannya sampai kepada penyemak manusia, mewujudkan gelung yang tidak terlepas. Satu respons rayuan menyatakan: "Toda tu información se eliminará de forma permanente. No puedes solicitar otra revisión de esta decisión" .
• Campur tangan media diperlukan: Sesetengah akaun, termasuk Hanson, hanya dipulihkan selepas wartawan NYT campur tangan secara langsung .

Respons Meta: Akui Kesilapan, Pertahan AI

Berikutan pertanyaan NYT, Meta mengakui kesilapan dalam beberapa kes dan memulihkan akaun yang diharamkan. Walau bagaimanapun, syarikat itu berhujah bahawa alat moderasi AI baharunya melakukan lebih sedikit kesilapan berbanding moderator manusia — mendakwa pengurangan 13% dalam kesilapan dan peningkatan 10% dalam pengesanan pelanggaran .

Pendirian ini adalah sebahagian daripada peralihan strategik Meta yang lebih luas. Syarikat itu mengesahkan pada Januari 2025 bahawa sistem automatik akan memikul tanggungjawab utama untuk mengenal pasti dan mengalih keluar kandungan yang melanggar dasar merentas Facebook, Instagram, dan WhatsApp . Menjelang pertengahan 2026, ribuan jawatan moderator kontraktor telah dihapuskan sebagai sebahagian daripada peralihan ini .

Apa Kata Lembaga Pengawas Meta

Lembaga Pengawas bebas Meta sendiri turut bersuara mengenai isu pelumpuhan akaun yang lebih luas pada Jun 2026, dan penemuannya amat jelas:

• Pada 4 Jun 2026, Lembaga itu berkata proses nyahaktif akaun Meta kekurangan due process, pelanggaran disampaikan tanpa kejelasan, dan sokongan pelanggan untuk rayuan hampir tidak wujud .
• Lembaga mengumumkan akan menyemak, buat pertama kalinya, pendekatan keseluruhan Meta untuk melumpuhkan akaun secara kekal .
• Dalam keputusan berasingan pada 24 Jun 2026 mengenai kes ugutan bunuh, Lembaga mengekalkan larangan khusus tetapi sekali lagi mengkritik kekaburan dasar Meta .

Penemuan Lembaga itu secara langsung menggemakan aduan pengguna seperti Hanson — sistem tidak menyediakan laluan bermakna untuk mencabar keputusan yang dihasilkan AI.

Kaitan dengan Tenaga Kerja: Kurang Manusia, Lebih Banyak Kesilapan AI

Pemadaman yang salah ini bukanlah gangguan sistem yang terpencil. Ia adalah akibat yang boleh diramal daripada strategi tenaga kerja Meta:

• April 2026: Meta mengumumkan akan memotong 10% tenaga kerjanya (kira-kira 8,000 pekerja) dan menghapuskan 6,000 jawatan terbuka, secara jelas untuk mengarahkan semula sumber ke arah pembangunan AI .
• Mei 2026: Pemberhentian bermula, dengan pekerja yang tinggal ditugaskan semula ke peranan berpusatkan AI .
• Oktober 2025: Pemotongan lebih awal sudah termasuk lebih 100 pekerja daripada pasukan semakan risiko Meta, iaitu pasukan yang bertanggungjawab memantau keselamatan dan privasi pengguna .
• Jun 2026: Laporan mengesahkan Meta sudah mula menggantikan moderator kandungan manusia dengan sistem AI, menghapuskan ribuan pekerjaan moderator kontraktor .

Moderator manusia dan penyemak risiko yang dipecat itu adalah tenaga kerja yang diperlukan untuk mengendalikan jenis semakan bernuansa yang sistem AI gagal lakukan secara sistematik. Sistem AI yang sama yang diperluaskan Meta menghasilkan kesilapan besar-besaran yang tidak diperbetulkan — menanda dan memadamkan akaun sah dengan sedikit laluan rayuan yang berkesan.

Kesimpulan

Siasatan NYT, digabungkan dengan penemuan Lembaga Pengawas dan pemotongan tenaga kerja yang didokumenkan, melukis gambaran yang jelas: Sistem moderasi pacuan AI Meta menghasilkan positif palsu yang meluas, proses rayuan tidak berfungsi, dan syarikat telah memecat orang-orang yang sepatutnya boleh memperbaikinya — sementara syarikat itu mempertahankan teknologi atas alasan ia melakukan lebih sedikit kesilapan berbanding manusia yang digantikannya.