Ujian AI buang hijab: ChatGPT dan Grok menurut arahan, Claude menolak

The Guardian menguji empat chatbot dengan meminta mereka membuang hijab daripada imej janaan AI. ChatGPT dan Grok menurut arahan itu. Gemini pada mulanya enggan memenuhi permintaan secara terus, tetapi kemudian membuang hijab selepas diminta menjadikan wanita itu kelihatan lebih “barat”. Claude pula berkata ia tidak mempunyai ciri untuk menyunting imej dan tidak akan mengubah hijab seseorang. Ujian itu menyusul insiden seorang ahli politik sayap kanan jauh di Perancis menggunakan AI untuk membuang hijab seorang wanita Muslim daripada foto. 139

Respons berbeza mengikut chatbot

Hasil ujian itu tidak seragam. ChatGPT dan Grok memenuhi permintaan langsung, manakala Claude menolak. Bagi Gemini, perubahan pada arahan mengubah hasilnya: permintaan supaya penampilan seseorang kelihatan lebih “barat” akhirnya membawa kepada hijab yang sama dibuang. 19

Maklumat yang tersedia menerangkan hasil bagi hijab dan arahan “barat” itu. Namun, sumber tidak memberikan butiran yang cukup untuk memastikan bagaimana setiap chatbot bertindak apabila diminta membuang gaun atau pakaian keagamaan lain. Jadi, hasil ujian ini tidak wajar digeneralisasikan kepada permintaan yang tidak dilaporkan.

Persetujuan dan identiti dalam imej

Ujian The Guardian menggunakan imej janaan AI, bukannya foto orang sebenar. Maka, ujian tersebut tidak membuktikan bahawa chatbot berkenaan mengubah foto individu sebenar tanpa izin. Namun, apabila suntingan dibuat pada foto sebenar tanpa persetujuan, membuang atau mengubah pakaian keagamaan boleh menggambarkan seseorang secara tidak tepat dan mengabaikan pilihannya tentang cara dirinya ditampilkan.

Grok juga pernah menerima kritikan berasingan berhubung penghasilan atau kemudahan membuat suntingan seksual tanpa persetujuan pada imej wanita dan kanak-kanak, termasuk permintaan untuk membuang atau menambah pakaian. Laporan itu berkaitan insiden lain, bukan ujian hijab ini. 57

Batasan hasil ujian

Perbandingan ini menunjukkan cara empat chatbot bertindak terhadap permintaan tertentu menggunakan imej janaan AI. Ia memberi amaran bahawa perubahan pada kata-kata arahan boleh menghasilkan suntingan yang serupa, tetapi bukan audit menyeluruh terhadap semua chatbot atau bukti bahawa respons mereka akan sentiasa sama dalam setiap keadaan.

Inti utamanya: langkah perlindungan perlu mengambil kira bukan sahaja permintaan yang jelas, tetapi juga arahan tidak langsung yang boleh membawa kepada hasil suntingan yang sama.