Kasus: Video Buatan AI yang Meniru Seorang Wanita Tanpa Izin

Seorang pengguna mengajukan banding ke Dewan Pengawas setelah melaporkan sebuah unggahan yang menurutnya adalah video seksual hasil AI yang meniru salah satu temannya tanpa izin dan merusak reputasi orang tersebut . Meta awalnya meninjau konten tersebut dan memutuskan untuk membiarkannya, dengan alasan tidak ada tanda-tanda bahwa unggahan itu bersifat non-konsensual . Dewan membalikkan keputusan itu dan memerintahkan Meta untuk segera menghapus video tersebut .

Perubahan Kebijakan yang Diminta Dewan Pengawas

Putusan Dewan tidak hanya berhenti pada kasus individu. Beberapa rekomendasi—baik yang mengikat maupun tidak—diajukan untuk merombak cara Meta menangani konten seksual hasil AI, terutama untuk non-public figures atau orang biasa . Perubahan utama meliputi:

Anggap Deepfake Sebagai Non-Konsensual Secara Default

Dewan secara eksplisit menyatakan bahwa peniruan identitas (impersonation) hasil AI dalam konteks seksual harus dianggap "non-konsensual secara default" dan merekomendasikan agar ini ditambahkan ke kebijakan Eksploitasi Seksual Dewasa Meta . Ini mengalihkan beban pembuktian dari korban ke platform, yang harusnya sudah sadar bahwa konten semacam itu pada dasarnya berbahaya .

Izinkan Teman atau Keluarga Terpercaya Melapor Atas Nama Korban

Perubahan prosedural signifikan yang direkomendasikan Dewan adalah mengizinkan pengguna menunjuk "akun terhubung"—seperti teman atau anggota keluarga tepercaya—yang dapat melaporkan potensi pelanggaran seperti gambar intim non-konsensual atas nama korban . Ini mengatasi celah besar ketika korban mungkin tidak sadar ada konten tersebut atau tidak mampu melaporkannya sendiri karena trauma atau ketakutan.

Buat Kategori Pelaporan Global untuk Gambar Seksual Hasil AI

Dewan mendesak Meta untuk membuat kategori pelaporan global yang khusus untuk gambar seksual non-konsensual buatan AI, agar tidak lagi diklasifikasikan sebagai bagian dari aturan perundungan dan pelecehan umum yang ada saat ini . Dengan kategori khusus, laporan akan lebih mudah diajukan dan dilacak.

Perbarui Istilah dari "Foto seksual yang merendahkan" Menjadi "Media yang Dimanipulasi Secara Non-Konsensual"

Dewan sebelumnya telah mengkritik istilah usang yang digunakan Meta, seperti "foto seksual yang merendahkan" (derogatory sexualized photoshop) . Dewan merekomendasikan agar aturan Meta diperbarui dengan istilah yang lebih jelas dan akurat yang mencerminkan realitas modern pelecehan berbasis AI, dengan menekankan sifat non-konsensual dari konten tersebut, bukan metode pembuatannya .

Terapkan Sertifikat Konten (Content Credentials) Secara Massal dan Tingkatkan Deteksi

Dalam kasus terkait konten AI lainnya, Dewan juga mendesak Meta untuk mengadopsi standar C2PA Content Credentials—standar ketertelusuran asal-usul dan modifikasi media . Dewan menemukan bahwa sistem Meta saat ini terlalu bergantung pada pengakuan sukarela oleh pengguna dan tidak memiliki deteksi otomatis yang kuat, terutama untuk video dan audio .

Fokus pada Perlindungan Non-Public Figures (Orang Biasa)

Tema sentral dari putusan ini adalah kesenjangan perlindungan bagi orang biasa atau non-public figures. Dewan menekankan bahwa non-public figures yang menjadi sasaran deepfake seksual sangat dirugikan oleh sistem yang mengharuskan mereka membuktikan sendiri bahwa konten tersebut tidak disetujui. Mereka sering kali tidak memiliki visibilitas publik atau dukungan institusional seperti yang dimiliki tokoh publik . Kasus ini sendiri berpusat pada peniruan seksual hasil AI terhadap seorang wanita, yang dilaporkan oleh seorang teman yang menyatakan konten itu non-konsensual dan merusak reputasi .

Mengatasi Kekerasan Berbasis Gender

Putusan Dewan juga mengakui bahwa deepfake semacam ini memberikan dampak yang tidak proporsional terhadap perempuan dan anak perempuan. Dengan menyerukan deteksi otomatis yang lebih kuat, pergeseran beban pembuktian, dan kebijakan yang lebih jelas, Dewan bertujuan untuk mengatasi sifat sistemik dari pelecehan online berbasis gender .

Langkah Selanjutnya untuk Meta

Meta diwajibkan untuk merespons rekomendasi Dewan Pengawas dalam waktu 60 hari . Rekomendasi untuk menghapus video tertentu bersifat mengikat, sementara rekomendasi kebijakan yang lebih luas tidak mengikat tetapi memiliki bobot publik dan reputasi yang signifikan . Putusan ini merupakan lanjutan dari keputusan Dewan sebelumnya pada tahun 2024 dan 2025 yang menyatakan bahwa kebijakan deepfake Meta "tidak koheren" dan "tidak cukup jelas" .

Kasus: Video Buatan AI yang Meniru Seorang Wanita Tanpa Izin

Seorang pengguna mengajukan banding ke Dewan Pengawas setelah melaporkan sebuah unggahan yang menurutnya adalah video seksual hasil AI yang meniru salah satu temannya tanpa izin dan merusak reputasi orang tersebut . Meta awalnya meninjau konten tersebut dan memutuskan untuk membiarkannya, dengan alasan tidak ada tanda-tanda bahwa unggahan itu bersifat non-konsensual . Dewan membalikkan keputusan itu dan memerintahkan Meta untuk segera menghapus video tersebut .

Perubahan Kebijakan yang Diminta Dewan Pengawas

Putusan Dewan tidak hanya berhenti pada kasus individu. Beberapa rekomendasi—baik yang mengikat maupun tidak—diajukan untuk merombak cara Meta menangani konten seksual hasil AI, terutama untuk non-public figures atau orang biasa . Perubahan utama meliputi:

Anggap Deepfake Sebagai Non-Konsensual Secara Default

Dewan secara eksplisit menyatakan bahwa peniruan identitas (impersonation) hasil AI dalam konteks seksual harus dianggap "non-konsensual secara default" dan merekomendasikan agar ini ditambahkan ke kebijakan Eksploitasi Seksual Dewasa Meta . Ini mengalihkan beban pembuktian dari korban ke platform, yang harusnya sudah sadar bahwa konten semacam itu pada dasarnya berbahaya .

Izinkan Teman atau Keluarga Terpercaya Melapor Atas Nama Korban

Perubahan prosedural signifikan yang direkomendasikan Dewan adalah mengizinkan pengguna menunjuk "akun terhubung"—seperti teman atau anggota keluarga tepercaya—yang dapat melaporkan potensi pelanggaran seperti gambar intim non-konsensual atas nama korban . Ini mengatasi celah besar ketika korban mungkin tidak sadar ada konten tersebut atau tidak mampu melaporkannya sendiri karena trauma atau ketakutan.

Buat Kategori Pelaporan Global untuk Gambar Seksual Hasil AI

Dewan mendesak Meta untuk membuat kategori pelaporan global yang khusus untuk gambar seksual non-konsensual buatan AI, agar tidak lagi diklasifikasikan sebagai bagian dari aturan perundungan dan pelecehan umum yang ada saat ini . Dengan kategori khusus, laporan akan lebih mudah diajukan dan dilacak.

Perbarui Istilah dari "Foto seksual yang merendahkan" Menjadi "Media yang Dimanipulasi Secara Non-Konsensual"

Dewan sebelumnya telah mengkritik istilah usang yang digunakan Meta, seperti "foto seksual yang merendahkan" (derogatory sexualized photoshop) . Dewan merekomendasikan agar aturan Meta diperbarui dengan istilah yang lebih jelas dan akurat yang mencerminkan realitas modern pelecehan berbasis AI, dengan menekankan sifat non-konsensual dari konten tersebut, bukan metode pembuatannya .

Terapkan Sertifikat Konten (Content Credentials) Secara Massal dan Tingkatkan Deteksi

Dalam kasus terkait konten AI lainnya, Dewan juga mendesak Meta untuk mengadopsi standar C2PA Content Credentials—standar ketertelusuran asal-usul dan modifikasi media . Dewan menemukan bahwa sistem Meta saat ini terlalu bergantung pada pengakuan sukarela oleh pengguna dan tidak memiliki deteksi otomatis yang kuat, terutama untuk video dan audio .

Fokus pada Perlindungan Non-Public Figures (Orang Biasa)

Tema sentral dari putusan ini adalah kesenjangan perlindungan bagi orang biasa atau non-public figures. Dewan menekankan bahwa non-public figures yang menjadi sasaran deepfake seksual sangat dirugikan oleh sistem yang mengharuskan mereka membuktikan sendiri bahwa konten tersebut tidak disetujui. Mereka sering kali tidak memiliki visibilitas publik atau dukungan institusional seperti yang dimiliki tokoh publik . Kasus ini sendiri berpusat pada peniruan seksual hasil AI terhadap seorang wanita, yang dilaporkan oleh seorang teman yang menyatakan konten itu non-konsensual dan merusak reputasi .

Mengatasi Kekerasan Berbasis Gender

Putusan Dewan juga mengakui bahwa deepfake semacam ini memberikan dampak yang tidak proporsional terhadap perempuan dan anak perempuan. Dengan menyerukan deteksi otomatis yang lebih kuat, pergeseran beban pembuktian, dan kebijakan yang lebih jelas, Dewan bertujuan untuk mengatasi sifat sistemik dari pelecehan online berbasis gender .

Langkah Selanjutnya untuk Meta

Meta diwajibkan untuk merespons rekomendasi Dewan Pengawas dalam waktu 60 hari . Rekomendasi untuk menghapus video tertentu bersifat mengikat, sementara rekomendasi kebijakan yang lebih luas tidak mengikat tetapi memiliki bobot publik dan reputasi yang signifikan . Putusan ini merupakan lanjutan dari keputusan Dewan sebelumnya pada tahun 2024 dan 2025 yang menyatakan bahwa kebijakan deepfake Meta "tidak koheren" dan "tidak cukup jelas" .