รายงานและภาพหน้าจอที่เผยแพร่ยังอ้างถึงความแตกต่างระหว่างคำถามเกี่ยวกับอัตลักษณ์ต่าง ๆ ดังนี้

• คำถามเกี่ยวกับการอยู่ตามลำพังกับชาวมุสลิมมีรายงานว่าได้รับคำตอบเชิงความปลอดภัย เช่น ให้ออกจากพื้นที่หรือขอความช่วยเหลือหากรู้สึกไม่ปลอดภัย
• คำถามที่ใช้คำว่า “ชาวอิสราเอล” ในลักษณะคู่ขนานกัน reportedly ได้คำตอบที่เป็นกลางกว่า จนนำไปสู่ข้อกล่าวหาว่าระบบมีอคติต่อชาวมุสลิม
• คำตอบสำหรับคำถามเกี่ยวกับชาวอเมริกันมีรายงานว่า ระบุว่าการอยู่ตามลำพังกับคนจากสหรัฐฯ เป็นเรื่อง “ยอมรับได้อย่างสมบูรณ์” และแนะนำให้พูดคุยตามปกติ ตั้งคำถามทั่วไป และสุภาพต่อกัน
• คำถามเกี่ยวกับชาวอังกฤษ reportedly ได้คำแนะนำเชิงเหมารวมแต่ไม่สื่อถึงอันตราย เช่น เสนอชา ชวนคุยเรื่องสภาพอากาศ และรักษาระยะห่างอย่างสุภาพ
• ยังมีรายงานว่าคำถามเกี่ยวกับชาวอูกันดาได้รับคำตอบในทางลบกว่า แต่หลักฐานที่มีอยู่ไม่ได้แสดงถ้อยคำฉบับเต็มอย่างสอดคล้องกัน

ประเด็นไม่ได้อยู่ที่การพูดถึงความปลอดภัยเพียงอย่างเดียว เพราะคำเตือนทั่วไปย่อมเหมาะสมได้หากผู้ใช้บอกว่ากำลังถูกคุกคาม สิ่งที่ทำให้เกิดข้อกังวลคือคำเตือนดูเหมือนเปลี่ยนไปตามอัตลักษณ์ที่ถูกระบุ ทั้งที่โครงสร้างคำถามแทบเหมือนกัน หากเป็นเช่นนั้น นโยบายด้านความปลอดภัยอาจถูกตีความจนกลายเป็นนัยว่า คนจากบางกลุ่มมีอันตรายโดยเนื้อแท้

ผู้ใช้ นักเคลื่อนไหว และอิหม่ามโอมาร์ สุไลมานตอบโต้อย่างไร

ผู้ใช้ Reddit ชี้ว่าคำตอบเหล่านี้สะท้อนมาตรฐานสองแบบ ขณะที่ Futurism ระบุว่าภาษาที่แนะนำให้รับมือราวกับเกิดเหตุฉุกเฉินอาจช่วยตอกย้ำภาพเหมารวมทางเชื้อชาติ นักเคลื่อนไหวบนโลกออนไลน์ยังให้ความสนใจเป็นพิเศษกับความแตกต่างระหว่างคำถามเกี่ยวกับชาวมุสลิมและชาวอิสราเอล โดยมองว่าเป็นอคติต่อชาวมุสลิม

อิหม่ามโอมาร์ สุไลมานเผยแพร่คำตอบที่โต้แย้งแนวคิดว่าคนมุสลิมควรถูกมองว่าเป็นภัยเพียงเพราะศาสนาของตน ในภาพหน้าจออีกชุดหนึ่งซึ่งระบุว่าเกี่ยวข้องกับบัญชีของเขา คำตอบระบุว่าการอยู่ตามลำพังกับชาวมุสลิมเป็นเรื่องปกติ และการนับถือศาสนาเดียวกันไม่ได้เป็นตัวกำหนดอุปนิสัยหรือระดับภัยคุกคามของบุคคล

ถ้อยคำในภายหลังเป็นหลักฐานว่ามีการแสดงคำตอบที่แตกต่างออกไป แต่ข้อมูลที่มีอยู่ยังไม่ยืนยันว่าเปลี่ยนแปลงเมื่อใด การเปลี่ยนแปลงครอบคลุมผู้ใช้ทั้งหมดหรือไม่ หรือ Google ปรับคำตอบโดยเฉพาะเพื่อตอบสนองต่อโพสต์ของสุไลมานหรือไม่

Googleยอมรับปัญหาและระบุว่ากำลังปรับปรุงระบบ

รายงานที่มีอยู่ระบุว่า Google ยอมรับว่าผลลัพธ์ในหมวดคำถามลักษณะนี้ “ไม่ควรเป็นเช่นนั้น” และกำลังทำงานเพื่อปรับปรุงระบบ ท่าทีดังกล่าวสอดคล้องกับแนวทางของ Google ที่เปิดให้ผู้ใช้รายงาน AI Overview เมื่อพบข้อมูลไม่ถูกต้อง มีอคติ หรือมีปัญหาในรูปแบบอื่น ผ่านปุ่มแสดงความคิดเห็นใต้คำตอบ

อย่างไรก็ดี หลักฐานที่มีไม่ได้รวมคำอธิบายทางเทคนิคโดยละเอียดจาก Google จึงยังสรุปไม่ได้ว่าคำตอบที่ไม่เท่าเทียมกันเกิดจากพฤติกรรมของโมเดล เนื้อหาจากเว็บไซต์ที่ระบบนำมาอ้างอิง กลไกความปลอดภัย หรือการทำงานร่วมกันของหลายปัจจัย

ทำไมเรื่องนี้จึงสำคัญกว่าคำถามไม่กี่ประโยค

AI Overview ปรากฏเด่นอยู่ด้านบนของ Google Search ทำให้คำตอบที่ระบบสร้างขึ้นดูน่าเชื่อถือ แม้บางครั้งจะไม่มีหลักฐานรองรับหรือผิดพลาดก็ตาม ฟีเจอร์นี้เคยถูกวิจารณ์จากคำแนะนำประหลาด เช่น บอกให้ใส่กาวบนพิซซ่าและกินก้อนหิน รวมถึงการทำซ้ำข้อมูลเท็จว่าอดีตประธานาธิบดีบารัก โอบามาเป็นชาวมุสลิม

ยังมีรายงานอื่นที่ตั้งคำถามเกี่ยวกับข้อมูลสุขภาพที่ไม่ถูกต้องในสรุปผลการค้นหาซึ่งสร้างโดย AI ขณะเดียวกัน การวิเคราะห์ที่ Futurism อ้างถึงประเมินว่าสรุปผลที่สร้างโดย AI มีความถูกต้องประมาณ 91% แม้ตัวเลขดังกล่าวจะฟังดูสูง แต่ในระดับการค้นหาจำนวนมหาศาลของ Google ก็ยังหมายถึงคำตอบผิดพลาดจำนวนมาก

แหล่งข้อมูลที่มีไม่ได้บันทึกรายละเอียดเฉพาะของข้อกล่าวหาเรื่องการสร้างภาพบุคคลตามเชื้อชาติที่ไม่ถูกต้องของ Gemini จึงไม่ควรถือว่าข้อกล่าวหานั้นได้รับการยืนยันในบทความนี้ แต่หลักฐานที่มีสะท้อนปัญหาที่เกิดขึ้นซ้ำในวงกว้าง นั่นคือ ระบบที่ถูกออกแบบมาเพื่อสรุปข้อมูลอาจสร้างคำตอบที่ฟังดูมั่นใจ แต่กลับเป็นอันตรายต่อสังคมหรือไม่ตรงกับข้อเท็จจริง และมักต้องรอให้ผู้ใช้พบเห็นแล้วจึงได้รับการแก้ไข

บทเรียนสำหรับผู้ใช้ AI Search

AI Overview ควรถูกมองว่าเป็นจุดเริ่มต้นของการค้นคว้า ไม่ใช่คำตอบสุดท้าย โดยเฉพาะเมื่อระบบพูดถึงความปลอดภัย อัตลักษณ์ ศาสนา หรือสัญชาติของบุคคล ควรเปรียบเทียบคำถามที่มีโครงสร้างใกล้เคียงกัน ตรวจสอบลิงก์ต้นทาง และรายงานผลลัพธ์ที่มีอคติหรือไม่ถูกต้องผ่านเครื่องมือแสดงความคิดเห็นของ Google

ที่สำคัญ การประเมินความปลอดภัยควรพิจารณาจากพฤติกรรมและสถานการณ์จริง ไม่ใช่สรุปจากสัญชาติ เชื้อชาติ หรือศาสนาของใคร เหตุการณ์นี้จึงเป็นบททดสอบว่า กฎความปลอดภัยของโมเดลและกระบวนการตรวจสอบก่อนนำคำตอบขึ้นแสดง จะป้องกันไม่ให้ภาพเหมารวมถูกนำเสนอในฐานะคำแนะนำที่ดูน่าเชื่อถือได้หรือไม่

รายงานและภาพหน้าจอที่เผยแพร่ยังอ้างถึงความแตกต่างระหว่างคำถามเกี่ยวกับอัตลักษณ์ต่าง ๆ ดังนี้

• คำถามเกี่ยวกับการอยู่ตามลำพังกับชาวมุสลิมมีรายงานว่าได้รับคำตอบเชิงความปลอดภัย เช่น ให้ออกจากพื้นที่หรือขอความช่วยเหลือหากรู้สึกไม่ปลอดภัย
• คำถามที่ใช้คำว่า “ชาวอิสราเอล” ในลักษณะคู่ขนานกัน reportedly ได้คำตอบที่เป็นกลางกว่า จนนำไปสู่ข้อกล่าวหาว่าระบบมีอคติต่อชาวมุสลิม
• คำตอบสำหรับคำถามเกี่ยวกับชาวอเมริกันมีรายงานว่า ระบุว่าการอยู่ตามลำพังกับคนจากสหรัฐฯ เป็นเรื่อง “ยอมรับได้อย่างสมบูรณ์” และแนะนำให้พูดคุยตามปกติ ตั้งคำถามทั่วไป และสุภาพต่อกัน
• คำถามเกี่ยวกับชาวอังกฤษ reportedly ได้คำแนะนำเชิงเหมารวมแต่ไม่สื่อถึงอันตราย เช่น เสนอชา ชวนคุยเรื่องสภาพอากาศ และรักษาระยะห่างอย่างสุภาพ
• ยังมีรายงานว่าคำถามเกี่ยวกับชาวอูกันดาได้รับคำตอบในทางลบกว่า แต่หลักฐานที่มีอยู่ไม่ได้แสดงถ้อยคำฉบับเต็มอย่างสอดคล้องกัน

ประเด็นไม่ได้อยู่ที่การพูดถึงความปลอดภัยเพียงอย่างเดียว เพราะคำเตือนทั่วไปย่อมเหมาะสมได้หากผู้ใช้บอกว่ากำลังถูกคุกคาม สิ่งที่ทำให้เกิดข้อกังวลคือคำเตือนดูเหมือนเปลี่ยนไปตามอัตลักษณ์ที่ถูกระบุ ทั้งที่โครงสร้างคำถามแทบเหมือนกัน หากเป็นเช่นนั้น นโยบายด้านความปลอดภัยอาจถูกตีความจนกลายเป็นนัยว่า คนจากบางกลุ่มมีอันตรายโดยเนื้อแท้

ผู้ใช้ นักเคลื่อนไหว และอิหม่ามโอมาร์ สุไลมานตอบโต้อย่างไร

ผู้ใช้ Reddit ชี้ว่าคำตอบเหล่านี้สะท้อนมาตรฐานสองแบบ ขณะที่ Futurism ระบุว่าภาษาที่แนะนำให้รับมือราวกับเกิดเหตุฉุกเฉินอาจช่วยตอกย้ำภาพเหมารวมทางเชื้อชาติ นักเคลื่อนไหวบนโลกออนไลน์ยังให้ความสนใจเป็นพิเศษกับความแตกต่างระหว่างคำถามเกี่ยวกับชาวมุสลิมและชาวอิสราเอล โดยมองว่าเป็นอคติต่อชาวมุสลิม

อิหม่ามโอมาร์ สุไลมานเผยแพร่คำตอบที่โต้แย้งแนวคิดว่าคนมุสลิมควรถูกมองว่าเป็นภัยเพียงเพราะศาสนาของตน ในภาพหน้าจออีกชุดหนึ่งซึ่งระบุว่าเกี่ยวข้องกับบัญชีของเขา คำตอบระบุว่าการอยู่ตามลำพังกับชาวมุสลิมเป็นเรื่องปกติ และการนับถือศาสนาเดียวกันไม่ได้เป็นตัวกำหนดอุปนิสัยหรือระดับภัยคุกคามของบุคคล

ถ้อยคำในภายหลังเป็นหลักฐานว่ามีการแสดงคำตอบที่แตกต่างออกไป แต่ข้อมูลที่มีอยู่ยังไม่ยืนยันว่าเปลี่ยนแปลงเมื่อใด การเปลี่ยนแปลงครอบคลุมผู้ใช้ทั้งหมดหรือไม่ หรือ Google ปรับคำตอบโดยเฉพาะเพื่อตอบสนองต่อโพสต์ของสุไลมานหรือไม่

Googleยอมรับปัญหาและระบุว่ากำลังปรับปรุงระบบ

รายงานที่มีอยู่ระบุว่า Google ยอมรับว่าผลลัพธ์ในหมวดคำถามลักษณะนี้ “ไม่ควรเป็นเช่นนั้น” และกำลังทำงานเพื่อปรับปรุงระบบ ท่าทีดังกล่าวสอดคล้องกับแนวทางของ Google ที่เปิดให้ผู้ใช้รายงาน AI Overview เมื่อพบข้อมูลไม่ถูกต้อง มีอคติ หรือมีปัญหาในรูปแบบอื่น ผ่านปุ่มแสดงความคิดเห็นใต้คำตอบ

อย่างไรก็ดี หลักฐานที่มีไม่ได้รวมคำอธิบายทางเทคนิคโดยละเอียดจาก Google จึงยังสรุปไม่ได้ว่าคำตอบที่ไม่เท่าเทียมกันเกิดจากพฤติกรรมของโมเดล เนื้อหาจากเว็บไซต์ที่ระบบนำมาอ้างอิง กลไกความปลอดภัย หรือการทำงานร่วมกันของหลายปัจจัย

ทำไมเรื่องนี้จึงสำคัญกว่าคำถามไม่กี่ประโยค

AI Overview ปรากฏเด่นอยู่ด้านบนของ Google Search ทำให้คำตอบที่ระบบสร้างขึ้นดูน่าเชื่อถือ แม้บางครั้งจะไม่มีหลักฐานรองรับหรือผิดพลาดก็ตาม ฟีเจอร์นี้เคยถูกวิจารณ์จากคำแนะนำประหลาด เช่น บอกให้ใส่กาวบนพิซซ่าและกินก้อนหิน รวมถึงการทำซ้ำข้อมูลเท็จว่าอดีตประธานาธิบดีบารัก โอบามาเป็นชาวมุสลิม

ยังมีรายงานอื่นที่ตั้งคำถามเกี่ยวกับข้อมูลสุขภาพที่ไม่ถูกต้องในสรุปผลการค้นหาซึ่งสร้างโดย AI ขณะเดียวกัน การวิเคราะห์ที่ Futurism อ้างถึงประเมินว่าสรุปผลที่สร้างโดย AI มีความถูกต้องประมาณ 91% แม้ตัวเลขดังกล่าวจะฟังดูสูง แต่ในระดับการค้นหาจำนวนมหาศาลของ Google ก็ยังหมายถึงคำตอบผิดพลาดจำนวนมาก

แหล่งข้อมูลที่มีไม่ได้บันทึกรายละเอียดเฉพาะของข้อกล่าวหาเรื่องการสร้างภาพบุคคลตามเชื้อชาติที่ไม่ถูกต้องของ Gemini จึงไม่ควรถือว่าข้อกล่าวหานั้นได้รับการยืนยันในบทความนี้ แต่หลักฐานที่มีสะท้อนปัญหาที่เกิดขึ้นซ้ำในวงกว้าง นั่นคือ ระบบที่ถูกออกแบบมาเพื่อสรุปข้อมูลอาจสร้างคำตอบที่ฟังดูมั่นใจ แต่กลับเป็นอันตรายต่อสังคมหรือไม่ตรงกับข้อเท็จจริง และมักต้องรอให้ผู้ใช้พบเห็นแล้วจึงได้รับการแก้ไข

บทเรียนสำหรับผู้ใช้ AI Search

AI Overview ควรถูกมองว่าเป็นจุดเริ่มต้นของการค้นคว้า ไม่ใช่คำตอบสุดท้าย โดยเฉพาะเมื่อระบบพูดถึงความปลอดภัย อัตลักษณ์ ศาสนา หรือสัญชาติของบุคคล ควรเปรียบเทียบคำถามที่มีโครงสร้างใกล้เคียงกัน ตรวจสอบลิงก์ต้นทาง และรายงานผลลัพธ์ที่มีอคติหรือไม่ถูกต้องผ่านเครื่องมือแสดงความคิดเห็นของ Google

ที่สำคัญ การประเมินความปลอดภัยควรพิจารณาจากพฤติกรรมและสถานการณ์จริง ไม่ใช่สรุปจากสัญชาติ เชื้อชาติ หรือศาสนาของใคร เหตุการณ์นี้จึงเป็นบททดสอบว่า กฎความปลอดภัยของโมเดลและกระบวนการตรวจสอบก่อนนำคำตอบขึ้นแสดง จะป้องกันไม่ให้ภาพเหมารวมถูกนำเสนอในฐานะคำแนะนำที่ดูน่าเชื่อถือได้หรือไม่