TTP Sebut Meta Menayangkan 332 Iklan Bermuatan Dugaan Pelecehan Seksual Anak Berbasis AI

Investigasi Tech Transparency Project (TTP) yang dirilis pada 8 September menyatakan Meta menayangkan 332 iklan berbayar di Facebook dan Instagram yang memuat dugaan materi pelecehan seksual anak (child sexual abuse material atau CSAM) hasil generatif maupun manipulasi kecerdasan buatan (AI). Iklan itu berjalan dari November 2025 sampai Agustus 2026 dan, berdasarkan data yang tersedia, menjangkau lebih dari 29.000 pengguna di sejumlah wilayah. TTP mengingatkan bahwa data publik Ad Library Meta tidak memberikan gambaran lengkap tentang distribusi iklan, terutama di luar wilayah dengan pengungkapan regional. 69

Temuan utama investigasi

Menurut TTP, iklan-iklan tersebut menggunakan gambar buatan atau manipulasi AI untuk menseksualisasi anak. Banyak di antaranya mempromosikan aplikasi “nudify” atau alat bergaya deepfake—aplikasi yang dapat mengubah foto menjadi konten eksplisit. TTP mengatakan beberapa gambar tampak berasal dari foto anak sungguhan, termasuk seorang anggota keluarga kerajaan Eropa yang masih di bawah umur. 910

Iklan itu muncul di Uni Eropa dan Inggris, Amerika Serikat, India, serta Australia. Pelaporan terkait investigasi tersebut menyebut TTP menemukan 84 iklan di India dan 120 iklan yang ditargetkan kepada pengguna Australia; sebagian besar dilaporkan berjalan di Uni Eropa dan Inggris. 112

TTP mengaitkan banyak iklan itu dengan pengembang aplikasi AI dan jaringan penjual kembali iklan Meta di Tiongkok. Dalam laporannya, TTP menyebut penjual kembali seperti GIMC dan BlueFocus, sementara liputan lain menggambarkan banyak iklan tersebut mempromosikan aplikasi deepfake “nudify”. 96

Mengapa statusnya sebagai iklan berbayar menjadi sorotan

Persoalannya bukan hanya konten berbahaya yang muncul di platform media sosial. Materi ini berbentuk iklan berbayar—artinya, menurut temuan TTP, iklan telah masuk ke sistem periklanan Meta, melewati proses penerimaan dan peninjauan, lalu didistribusikan kepada pengguna.

TTP menilai kasus ini menunjukkan kelemahan baik dalam peninjauan materi iklan maupun pengawasan terhadap pengiklan. Kelompok itu melaporkan banyak materi visual bersifat terang-terangan, bukan disamarkan lewat bahasa halus atau petunjuk visual yang ambigu. TTP juga menyebut Meta pada awalnya mengategorikan 113 iklan yang dihapus sebagai pelanggaran konten seksual dewasa atau kebijakan umum, lalu mengubah pemberitahuan tersebut menjadi kategori eksploitasi anak setelah persoalan itu disampaikan oleh TTP. 9

Klasifikasi tersebut penting bagi transparansi dan penegakan aturan. Bila iklan terlarang tidak secara konsisten ditandai sebagai konten eksploitasi anak, data penghapusan yang dipublikasikan dapat tidak memperlihatkan skala maupun sifat masalah secara jelas, menurut TTP. 9

Respons Meta dan penghapusan iklan

Juru bicara Meta, Andy Stone, mengatakan perusahaan melarang aplikasi nudify dan segala bentuk eksploitasi anak, “baik yang nyata maupun yang dibuat dengan AI”. Ia menyatakan pihak yang berupaya menghindari penegakan aturan terus mengubah taktik, sehingga Meta harus terus meningkatkan deteksi dan penindakannya. 3

Meta juga menyatakan banyak iklan tersebut memiliki jangkauan terbatas, sebagian telah dinonaktifkan sebelum pelaporan dari pihak luar, dan sebagian lainnya tayang sebelum penggunaan alat baru yang ditujukan untuk mendeteksi serta memblokir iklan berbasis AI yang melanggar aturan saat diunggah. 11

TTP melaporkan bahwa hingga 1 September, Meta telah menghapus 183 dari 332 iklan tersebut. Setelah TTP membagikan temuannya pada 2 September, Meta menghapus 149 iklan sisanya dan mengklasifikasikan ulang 113 iklan lain berdasarkan aturan eksploitasi anak, menurut kelompok itu. 9

Namun, TTP mengatakan iklan serupa masih muncul pada hari-hari berikutnya, termasuk iklan yang melibatkan anggota keluarga kerajaan Eropa yang masih anak-anak. Dengan demikian, penghapusan iklan yang telah teridentifikasi belum dengan sendirinya membuktikan bahwa masalah mendasar dalam peninjauan iklan sudah teratasi. 9

Tekanan hukum dan politik yang lebih luas

Laporan ini muncul ketika pendekatan Meta terhadap keselamatan pengguna muda tengah mendapat sorotan lebih luas. TTP mengaitkan temuan tersebut dengan potensi penyelesaian perkara senilai US$18 miliar dengan para jaksa agung negara bagian di Amerika Serikat terkait tuduhan bahwa produk Meta merugikan anak muda. 9

Senator Mark Warner sebelumnya meminta penjelasan kepada Meta tentang bagaimana iklan eksploitatif dapat lolos dari sistem perusahaan. Ia juga menyoroti bahwa Ad Library publik Meta tidak menyediakan mekanisme bagi pengguna untuk melaporkan iklan bermasalah. 17

Di India, Komisi Hak Asasi Manusia Nasional meminta tanggapan dari kementerian pemerintah dan kepolisian setelah muncul laporan bahwa iklan berbayar di Instagram mempromosikan atau memfasilitasi akses ke CSAM. 2218

Pelaporan kepada lembaga perlindungan anak

TTP menyatakan telah melaporkan setiap iklan yang mereka identifikasi kepada National Center for Missing & Exploited Children (NCMEC), termasuk melalui CyberTipline. Jalur pelaporan ini penting karena dugaan eksploitasi anak di internet dapat ditelaah lebih lanjut dan, bila diperlukan, diteruskan kepada penegak hukum. 93

Inti persoalan dari laporan ini adalah bahwa pencegahan penyalahgunaan AI tidak cukup dilakukan setelah konten beredar. Untuk iklan berbayar, titik pengendalian yang krusial berada lebih awal: verifikasi pengiklan, peninjauan materi kreatif, deteksi otomatis, klasifikasi pelanggaran yang akurat, serta tindakan cepat ketika penyalahgunaan teridentifikasi.