Kes: Video Ciptaan AI Menyamar Wanita Tanpa Izin

Seorang pengguna merayu kepada Lembaga Pengawasan selepas melaporkan satu siaran yang didakwa sebagai video seksual tanpa izin ciptaan AI yang menyamar sebagai salah seorang rakan mereka dan merosakkan reputasi orang itu . Meta pada mulanya menyemak kandungan itu dan memutuskan untuk membiarkannya, dengan menyatakan tiada tanda ia tanpa izin . Lembaga membatalkan keputusan itu, mengarahkan Meta untuk membuang video tersebut dengan serta-merta .

Perubahan Dasar Utama yang Diseru Lembaga untuk Diguna Pakai Meta

Keputusan Lembaga melampaui kes individu dan mengeluarkan beberapa syor mengikat dan tidak mengikat untuk mengubah suai cara Meta mengendalikan kandungan seksual ciptaan AI, terutamanya untuk individu bukan awam . Perubahan utama termasuk:

Anggap Pemalsuan Identiti AI sebagai Tanpa Izin Secara Automatik

Lembaga dengan jelas menyatakan bahawa pemalsuan identiti AI dalam konteks seksual harus dianggap "tanpa izin secara automatik" dan mengesyorkan menambah ini ke dalam dasar Eksploitasi Seksual Dewasa Meta . Ini mengalihkan beban daripada mangsa yang perlu membuktikan ketiadaan izin kepada platform untuk menyedari bahaya yang wujud bagi kandungan tersebut .

Benarkan Rakan Dipercayai Melaporkan Bagi Pihak Mangsa

Perubahan prosedur yang ketara yang disyorkan oleh Lembaga ialah membenarkan pengguna menetapkan "akaun berkaitan" — seperti rakan atau ahli keluarga yang dipercayai — yang boleh melaporkan kemungkinan pelanggaran seperti imej intim tanpa izin bagi pihak mangsa . Ini menangani jurang utama di mana mangsa mungkin tidak menyedari kandungan itu atau tidak dapat melaporkannya sendiri akibat trauma atau ketakutan.

Wujudkan Kategori Pelaporan Global untuk Imej Seksual Ciptaan AI

Lembaga menyeru Meta untuk mewujudkan kategori pelaporan global khusus untuk imej seksual tanpa izin ciptaan AI, beralih daripada klasifikasi semasa syarikat di bawah peraturan buli dan gangguan umum . Ini akan memudahkan laporan difailkan dan dijejaki.

Kemas Kini Terminologi daripada "Photoshop Seksual yang Menghina" kepada Media Manipulasi "Tanpa Izin"

Lembaga sebelum ini telah mengkritik terminologi lapuk Meta, yang menggunakan bahasa seperti "photoshop seksual yang menghina" . Lembaga mengesyorkan mengemas kini peraturan Meta untuk menggunakan istilah yang lebih jelas dan tepat yang mencerminkan realiti moden penyalahgunaan AI, menekankan sifat tanpa izin kandungan tersebut dan bukannya kaedah penciptaan .

Laksanakan Kredensial Kandungan pada Skala Besar dan Perbaiki Pengesanan

Dalam kes berkaitan kandungan AI, Lembaga juga menyeru Meta untuk melaksanakan alat berskala untuk mengenal pasti kandungan ciptaan AI, termasuk mengguna pakai standard Kredensial Kandungan C2PA — standard provenans untuk menjejaki asal usul dan pengubahsuaian media . Lembaga mendapati sistem semasa Meta terlalu bergantung pada pendedahan sendiri oleh pengguna dan kekurangan pengesanan automatik yang mantap, terutamanya untuk video dan audio .

Fokus Melindungi Individu Bukan Awam

Tema utama keputusan itu ialah jurang perlindungan untuk orang biasa yang bukan tokoh awam. Lembaga menegaskan bahawa individu bukan awam yang disasarkan oleh deepfake seksual amat terjejas oleh sistem yang memerlukan mereka membuktikan ketiadaan izin sendiri, kerana mereka sering kekurangan keterlihatan awam atau sokongan institusi yang tersedia untuk tokoh awam . Kes itu sendiri berkisar pada pemalsuan identiti seksual ciptaan AI seorang wanita, yang dilaporkan oleh seorang rakan yang menyatakan kandungan itu adalah tanpa izin dan merosakkan reputasi .

Menangani Kemudaratan Berasaskan Jantina

Keputusan Lembaga juga mengakui kemudaratan tidak seimbang yang disebabkan oleh deepfake ini kepada wanita dan kanak-kanak perempuan. Dengan menyeru pengesanan automatik yang lebih kukuh, peralihan beban bukti, dan dasar yang lebih jelas, Lembaga menyasarkan untuk menangani sifat sistemik penyalahgunaan dalam talian berasaskan jantina .

Langkah Seterusnya untuk Meta

Meta dikehendaki memberikan respons kepada syor Lembaga Pengawasan dalam tempoh 60 hari . Walaupun syor Lembaga untuk membuang video khusus adalah mengikat, syor dasar yang lebih luas tidak mengikat tetapi membawa berat awam dan reputasi yang ketara . Keputusan itu dibina berdasarkan keputusan Lembaga sebelum ini pada 2024 dan 2025 yang mendapati dasar deepfake Meta "tidak koheren" dan "tidak cukup jelas" .

Kes: Video Ciptaan AI Menyamar Wanita Tanpa Izin

Seorang pengguna merayu kepada Lembaga Pengawasan selepas melaporkan satu siaran yang didakwa sebagai video seksual tanpa izin ciptaan AI yang menyamar sebagai salah seorang rakan mereka dan merosakkan reputasi orang itu . Meta pada mulanya menyemak kandungan itu dan memutuskan untuk membiarkannya, dengan menyatakan tiada tanda ia tanpa izin . Lembaga membatalkan keputusan itu, mengarahkan Meta untuk membuang video tersebut dengan serta-merta .

Perubahan Dasar Utama yang Diseru Lembaga untuk Diguna Pakai Meta

Keputusan Lembaga melampaui kes individu dan mengeluarkan beberapa syor mengikat dan tidak mengikat untuk mengubah suai cara Meta mengendalikan kandungan seksual ciptaan AI, terutamanya untuk individu bukan awam . Perubahan utama termasuk:

Anggap Pemalsuan Identiti AI sebagai Tanpa Izin Secara Automatik

Lembaga dengan jelas menyatakan bahawa pemalsuan identiti AI dalam konteks seksual harus dianggap "tanpa izin secara automatik" dan mengesyorkan menambah ini ke dalam dasar Eksploitasi Seksual Dewasa Meta . Ini mengalihkan beban daripada mangsa yang perlu membuktikan ketiadaan izin kepada platform untuk menyedari bahaya yang wujud bagi kandungan tersebut .

Benarkan Rakan Dipercayai Melaporkan Bagi Pihak Mangsa

Perubahan prosedur yang ketara yang disyorkan oleh Lembaga ialah membenarkan pengguna menetapkan "akaun berkaitan" — seperti rakan atau ahli keluarga yang dipercayai — yang boleh melaporkan kemungkinan pelanggaran seperti imej intim tanpa izin bagi pihak mangsa . Ini menangani jurang utama di mana mangsa mungkin tidak menyedari kandungan itu atau tidak dapat melaporkannya sendiri akibat trauma atau ketakutan.

Wujudkan Kategori Pelaporan Global untuk Imej Seksual Ciptaan AI

Lembaga menyeru Meta untuk mewujudkan kategori pelaporan global khusus untuk imej seksual tanpa izin ciptaan AI, beralih daripada klasifikasi semasa syarikat di bawah peraturan buli dan gangguan umum . Ini akan memudahkan laporan difailkan dan dijejaki.

Kemas Kini Terminologi daripada "Photoshop Seksual yang Menghina" kepada Media Manipulasi "Tanpa Izin"

Lembaga sebelum ini telah mengkritik terminologi lapuk Meta, yang menggunakan bahasa seperti "photoshop seksual yang menghina" . Lembaga mengesyorkan mengemas kini peraturan Meta untuk menggunakan istilah yang lebih jelas dan tepat yang mencerminkan realiti moden penyalahgunaan AI, menekankan sifat tanpa izin kandungan tersebut dan bukannya kaedah penciptaan .

Laksanakan Kredensial Kandungan pada Skala Besar dan Perbaiki Pengesanan

Dalam kes berkaitan kandungan AI, Lembaga juga menyeru Meta untuk melaksanakan alat berskala untuk mengenal pasti kandungan ciptaan AI, termasuk mengguna pakai standard Kredensial Kandungan C2PA — standard provenans untuk menjejaki asal usul dan pengubahsuaian media . Lembaga mendapati sistem semasa Meta terlalu bergantung pada pendedahan sendiri oleh pengguna dan kekurangan pengesanan automatik yang mantap, terutamanya untuk video dan audio .

Fokus Melindungi Individu Bukan Awam

Tema utama keputusan itu ialah jurang perlindungan untuk orang biasa yang bukan tokoh awam. Lembaga menegaskan bahawa individu bukan awam yang disasarkan oleh deepfake seksual amat terjejas oleh sistem yang memerlukan mereka membuktikan ketiadaan izin sendiri, kerana mereka sering kekurangan keterlihatan awam atau sokongan institusi yang tersedia untuk tokoh awam . Kes itu sendiri berkisar pada pemalsuan identiti seksual ciptaan AI seorang wanita, yang dilaporkan oleh seorang rakan yang menyatakan kandungan itu adalah tanpa izin dan merosakkan reputasi .

Menangani Kemudaratan Berasaskan Jantina

Keputusan Lembaga juga mengakui kemudaratan tidak seimbang yang disebabkan oleh deepfake ini kepada wanita dan kanak-kanak perempuan. Dengan menyeru pengesanan automatik yang lebih kukuh, peralihan beban bukti, dan dasar yang lebih jelas, Lembaga menyasarkan untuk menangani sifat sistemik penyalahgunaan dalam talian berasaskan jantina .

Langkah Seterusnya untuk Meta

Meta dikehendaki memberikan respons kepada syor Lembaga Pengawasan dalam tempoh 60 hari . Walaupun syor Lembaga untuk membuang video khusus adalah mengikat, syor dasar yang lebih luas tidak mengikat tetapi membawa berat awam dan reputasi yang ketara . Keputusan itu dibina berdasarkan keputusan Lembaga sebelum ini pada 2024 dan 2025 yang mendapati dasar deepfake Meta "tidak koheren" dan "tidak cukup jelas" .