Uji Coba Guardian: ChatGPT dan Grok Menghapus Hijab, Claude Menolak

The Guardian menguji empat chatbot dengan meminta mereka menghapus hijab dari gambar perempuan yang dibuat menggunakan AI. ChatGPT dan Grok mengikuti permintaan tersebut. Gemini awalnya menolak permintaan langsung, tetapi kemudian menghapus hijab setelah diminta membuat perempuan itu tampak lebih “Barat”. Claude mengatakan tidak memiliki fitur untuk menyunting gambar dan tidak akan mengubah hijab seseorang. Uji coba ini menyusul insiden ketika seorang politikus sayap kanan Prancis menggunakan AI untuk menghapus hijab seorang perempuan Muslim dari foto. 139

Respons chatbot berbeda-beda

Hasilnya menunjukkan bahwa jawaban chatbot dapat berubah bergantung pada cara permintaan disampaikan. ChatGPT dan Grok mengikuti instruksi langsung, sementara Claude menolak. Gemini juga akhirnya membuat perubahan yang sama setelah permintaan dibingkai sebagai perubahan penampilan—bukan sebagai permintaan untuk melepas hijab secara langsung. 19

Namun, laporan yang tersedia tidak merinci bagaimana setiap chatbot merespons permintaan untuk menghapus gaun atau pakaian keagamaan lainnya. Karena itu, hasil uji hijab ini tidak bisa dianggap mewakili respons chatbot terhadap semua jenis pakaian atau permintaan penyuntingan gambar.

Persetujuan dan konteks tetap penting

Uji coba The Guardian menggunakan gambar yang dibuat dengan AI. Jadi, pengujian tersebut tidak menunjukkan bahwa foto orang sungguhan diubah dalam percobaan itu. Risikonya berbeda ketika gambar orang nyata disunting tanpa persetujuan: mengubah atau menghapus pakaian keagamaan dapat membuat seseorang tampak berbeda dari cara mereka memilih untuk menampilkan diri.

Grok juga pernah mendapat sorotan dalam kasus terpisah, terkait pembuatan atau penggunaan AI untuk menyunting gambar perempuan dan anak-anak menjadi gambar bernuansa seksual tanpa persetujuan, termasuk dengan menghapus atau menambahkan pakaian. Kasus-kasus itu bukan bagian dari uji hijab The Guardian, tetapi memperlihatkan persoalan lebih luas tentang penyuntingan gambar tanpa izin. 57

Apa yang ditunjukkan—dan tidak ditunjukkan—oleh uji ini

Perbandingan tersebut mencatat respons empat chatbot terhadap permintaan tertentu pada gambar buatan AI. Hasilnya menjadi pengingat bahwa pilihan kata dalam prompt dapat memengaruhi hasil penyuntingan. Namun, uji ini bukan audit menyeluruh atas chatbot tersebut dan tidak membuktikan bahwa mereka akan selalu merespons dengan cara yang sama dalam situasi lain.

Pelajaran utamanya: perlindungan AI perlu memperhitungkan permintaan langsung maupun instruksi tidak langsung yang bisa menghasilkan perubahan serupa, terutama ketika perubahan itu menyangkut identitas dan cara seseorang memilih untuk ditampilkan.