Laporan lain menggambarkan perbezaan serupa apabila label agama dan kewarganegaraan diubah:

• Arahan tentang bersendirian dengan seorang Muslim dilaporkan menghasilkan bahasa berkaitan keselamatan, termasuk nasihat supaya meninggalkan kawasan atau mendapatkan bantuan jika pengguna berasa tidak selamat.
• Arahan yang sama tentang seorang warga Israel pula dilaporkan menerima jawapan yang lebih neutral, lalu mencetuskan tuduhan Islamofobia.
• Versi tentang seorang warga Amerika Syarikat dilaporkan menyatakan situasi itu “sama sekali tidak bermasalah” serta mencadangkan perbualan biasa dan kesopanan.
• Versi tentang seorang warga Britain pula dilaporkan memberikan nasihat sosial yang stereotaip tetapi tidak mengancam—seperti menawarkan teh, berbual tentang cuaca dan mengekalkan jarak yang sopan.
• Laporan turut menyebut jawapan yang kurang menyenangkan bagi arahan berkaitan seorang Ugandan, tetapi ayat tepatnya tidak konsisten dalam bukti yang tersedia.

Isunya bukan semata-mata kerana sistem menyebut tentang keselamatan. Penafian keselamatan umum boleh menjadi wajar jika pengguna benar-benar mengatakan mereka berasa terancam. Kebimbangan timbul apabila amaran itu kelihatan berubah hanya berdasarkan identiti yang disebut dalam arahan yang hampir sama.

Dengan kata lain, panduan keselamatan yang sepatutnya neutral boleh memberi gambaran bahawa sesetengah kumpulan secara semula jadi lebih berbahaya daripada kumpulan lain.

Reaksi pengguna, Futurism dan aktivis

Pengguna Reddit menonjolkan perbezaan jawapan itu sebagai satu bentuk layanan dwi-standard. Futurism pula menyifatkan bahasa yang menggesa pengguna mendapatkan bantuan kecemasan sebagai pengukuhan stereotaip perkauman.

Aktivis dalam talian turut memberi tumpuan kepada perbezaan yang dilaporkan antara arahan tentang seorang Muslim dan seorang warga Israel, serta menyifatkannya sebagai bias anti-Muslim.

Imam Omar Suleiman berkongsi satu jawapan yang menolak andaian bahawa seseorang Muslim harus dianggap berbahaya hanya kerana agamanya. Dalam tangkap layar kemudian yang dikaitkan dengan akaunnya, jawapan itu menyatakan bahawa bersendirian dengan seorang Muslim adalah perkara biasa dan bahawa perkongsian agama tidak menentukan perwatakan atau tahap ancaman seseorang.

Jawapan yang kemudian itu menunjukkan bahawa versi berbeza memang dipaparkan. Bagaimanapun, bahan yang tersedia tidak membuktikan bila perubahan tersebut berlaku, sama ada ia diterapkan kepada semua pengguna atau sama ada Google membuatnya khusus sebagai respons kepada hantaran Suleiman.

Apa kata Google?

Laporan yang tersedia menyatakan bahawa Google mengakui keputusan bagi kategori ini “tidak seperti yang sepatutnya” dan berkata pihaknya sedang berusaha melakukan penambahbaikan.

Google juga menyediakan kawalan maklum balas di bawah setiap AI Overview. Pengguna boleh menandakan jawapan sebagai tidak membantu, tidak tepat, berat sebelah atau bermasalah, kemudian memilih pilihan “Report a problem” untuk menghantar butiran lanjut.

Bukti yang ada tidak mengandungi penjelasan teknikal terperinci daripada Google tentang punca jawapan yang tidak seimbang itu. Oleh itu, belum dapat dipastikan sama ada ia berpunca terutamanya daripada tingkah laku model, kandungan web yang diperoleh, logik sistem keselamatan atau gabungan beberapa faktor.

Mengapa isu ini lebih besar daripada satu set arahan?

AI Overview muncul di bahagian atas Google Search, menjadikan jawapan yang dijana AI kelihatan berautoriti walaupun mungkin tidak disokong atau salah. Ciri ini sebelum ini dikritik kerana memberikan cadangan pelik, termasuk menyuruh pengguna meletakkan gam pada piza dan makan batu, selain mengulangi dakwaan palsu bahawa Barack Obama beragama Islam.

Laporan lain pula membangkitkan kebimbangan tentang maklumat kesihatan yang tidak tepat dalam ringkasan carian yang dijana AI. Satu analisis yang dipetik Futurism menganggarkan ringkasan AI tepat kira-kira 91 peratus daripada masa. Walaupun angka itu kelihatan tinggi, baki jawapan yang salah masih boleh menjadi sangat besar apabila melibatkan skala carian Google.

Bahan sumber yang diberikan tidak mendokumentasikan butiran khusus tentang dakwaan penjanaan imej perkauman Gemini yang tidak tepat. Namun, sumber-sumber tersebut tetap menunjukkan masalah berulang yang lebih luas: sistem yang direka untuk meringkaskan maklumat boleh menghasilkan jawapan yang yakin tetapi salah, berbahaya secara sosial atau mengelirukan—sebelum pembetulan dibuat selepas pengguna mendedahkannya.

Pengajaran untuk pengguna carian AI

Anggap AI Overview sebagai titik permulaan, bukannya sumber terakhir—terutamanya apabila ia membuat dakwaan tentang keselamatan, identiti, agama atau kewarganegaraan seseorang. Bandingkan arahan yang serupa, semak pautan asal dan laporkan keputusan yang berat sebelah atau tidak tepat melalui saluran maklum balas Google.

Yang paling penting, penilaian tentang keselamatan seseorang perlu dibuat berdasarkan tingkah laku dan keadaan sebenar, bukan berdasarkan bangsa, kewarganegaraan atau agama. Kontroversi ini menunjukkan bahawa perbezaan tersebut perlu diterapkan dalam peraturan keselamatan model dan juga dalam proses menguji keputusan carian sebelum ia dipaparkan kepada pengguna.

Laporan lain menggambarkan perbezaan serupa apabila label agama dan kewarganegaraan diubah:

• Arahan tentang bersendirian dengan seorang Muslim dilaporkan menghasilkan bahasa berkaitan keselamatan, termasuk nasihat supaya meninggalkan kawasan atau mendapatkan bantuan jika pengguna berasa tidak selamat.
• Arahan yang sama tentang seorang warga Israel pula dilaporkan menerima jawapan yang lebih neutral, lalu mencetuskan tuduhan Islamofobia.
• Versi tentang seorang warga Amerika Syarikat dilaporkan menyatakan situasi itu “sama sekali tidak bermasalah” serta mencadangkan perbualan biasa dan kesopanan.
• Versi tentang seorang warga Britain pula dilaporkan memberikan nasihat sosial yang stereotaip tetapi tidak mengancam—seperti menawarkan teh, berbual tentang cuaca dan mengekalkan jarak yang sopan.
• Laporan turut menyebut jawapan yang kurang menyenangkan bagi arahan berkaitan seorang Ugandan, tetapi ayat tepatnya tidak konsisten dalam bukti yang tersedia.

Isunya bukan semata-mata kerana sistem menyebut tentang keselamatan. Penafian keselamatan umum boleh menjadi wajar jika pengguna benar-benar mengatakan mereka berasa terancam. Kebimbangan timbul apabila amaran itu kelihatan berubah hanya berdasarkan identiti yang disebut dalam arahan yang hampir sama.

Dengan kata lain, panduan keselamatan yang sepatutnya neutral boleh memberi gambaran bahawa sesetengah kumpulan secara semula jadi lebih berbahaya daripada kumpulan lain.

Reaksi pengguna, Futurism dan aktivis

Pengguna Reddit menonjolkan perbezaan jawapan itu sebagai satu bentuk layanan dwi-standard. Futurism pula menyifatkan bahasa yang menggesa pengguna mendapatkan bantuan kecemasan sebagai pengukuhan stereotaip perkauman.

Aktivis dalam talian turut memberi tumpuan kepada perbezaan yang dilaporkan antara arahan tentang seorang Muslim dan seorang warga Israel, serta menyifatkannya sebagai bias anti-Muslim.

Imam Omar Suleiman berkongsi satu jawapan yang menolak andaian bahawa seseorang Muslim harus dianggap berbahaya hanya kerana agamanya. Dalam tangkap layar kemudian yang dikaitkan dengan akaunnya, jawapan itu menyatakan bahawa bersendirian dengan seorang Muslim adalah perkara biasa dan bahawa perkongsian agama tidak menentukan perwatakan atau tahap ancaman seseorang.

Jawapan yang kemudian itu menunjukkan bahawa versi berbeza memang dipaparkan. Bagaimanapun, bahan yang tersedia tidak membuktikan bila perubahan tersebut berlaku, sama ada ia diterapkan kepada semua pengguna atau sama ada Google membuatnya khusus sebagai respons kepada hantaran Suleiman.

Apa kata Google?

Laporan yang tersedia menyatakan bahawa Google mengakui keputusan bagi kategori ini “tidak seperti yang sepatutnya” dan berkata pihaknya sedang berusaha melakukan penambahbaikan.

Google juga menyediakan kawalan maklum balas di bawah setiap AI Overview. Pengguna boleh menandakan jawapan sebagai tidak membantu, tidak tepat, berat sebelah atau bermasalah, kemudian memilih pilihan “Report a problem” untuk menghantar butiran lanjut.

Bukti yang ada tidak mengandungi penjelasan teknikal terperinci daripada Google tentang punca jawapan yang tidak seimbang itu. Oleh itu, belum dapat dipastikan sama ada ia berpunca terutamanya daripada tingkah laku model, kandungan web yang diperoleh, logik sistem keselamatan atau gabungan beberapa faktor.

Mengapa isu ini lebih besar daripada satu set arahan?

AI Overview muncul di bahagian atas Google Search, menjadikan jawapan yang dijana AI kelihatan berautoriti walaupun mungkin tidak disokong atau salah. Ciri ini sebelum ini dikritik kerana memberikan cadangan pelik, termasuk menyuruh pengguna meletakkan gam pada piza dan makan batu, selain mengulangi dakwaan palsu bahawa Barack Obama beragama Islam.

Laporan lain pula membangkitkan kebimbangan tentang maklumat kesihatan yang tidak tepat dalam ringkasan carian yang dijana AI. Satu analisis yang dipetik Futurism menganggarkan ringkasan AI tepat kira-kira 91 peratus daripada masa. Walaupun angka itu kelihatan tinggi, baki jawapan yang salah masih boleh menjadi sangat besar apabila melibatkan skala carian Google.

Bahan sumber yang diberikan tidak mendokumentasikan butiran khusus tentang dakwaan penjanaan imej perkauman Gemini yang tidak tepat. Namun, sumber-sumber tersebut tetap menunjukkan masalah berulang yang lebih luas: sistem yang direka untuk meringkaskan maklumat boleh menghasilkan jawapan yang yakin tetapi salah, berbahaya secara sosial atau mengelirukan—sebelum pembetulan dibuat selepas pengguna mendedahkannya.

Pengajaran untuk pengguna carian AI

Anggap AI Overview sebagai titik permulaan, bukannya sumber terakhir—terutamanya apabila ia membuat dakwaan tentang keselamatan, identiti, agama atau kewarganegaraan seseorang. Bandingkan arahan yang serupa, semak pautan asal dan laporkan keputusan yang berat sebelah atau tidak tepat melalui saluran maklum balas Google.

Yang paling penting, penilaian tentang keselamatan seseorang perlu dibuat berdasarkan tingkah laku dan keadaan sebenar, bukan berdasarkan bangsa, kewarganegaraan atau agama. Kontroversi ini menunjukkan bahawa perbezaan tersebut perlu diterapkan dalam peraturan keselamatan model dan juga dalam proses menguji keputusan carian sebelum ia dipaparkan kepada pengguna.