บั๊ก “Disregard” ของ Google ทำไม AI Overviews ถึงตีความคำค้นเป็นคำสั่งแทนความหมายคำศัพท์

Google ระบุว่าระบบ AI Overviews กำลัง “ตีความคำค้นที่เกี่ยวกับการกระทำบางคำผิดพลาด” แต่ยังไม่ได้เปิดเผยรายละเอียดทางเทคนิคทั้งหมดของบั๊กนี้

สิ่งที่สังเกตได้คือ โมเดลภาษา (Large Language Models) ถูกฝึกมาให้ตีความคำสั่งของผู้ใช้ เช่นคำว่า

• ignore previous instructions
• disregard the prompt

ดังนั้นเมื่อคำค้นมีเพียงคำกริยาที่ดูเหมือนคำสั่ง ระบบอาจ จัดหมวดหมู่คำค้นผิด ว่าเป็นคำสั่งที่ต้องปฏิบัติ แทนที่จะเป็นคำที่ต้องอธิบายความหมาย

ลักษณะนี้คล้ายกับปัญหาด้านความปลอดภัยของ AI ที่เรียกว่า prompt injection ซึ่งเกิดขึ้นเมื่อโมเดลทำตามคำสั่งที่ฝังอยู่ในข้อมูลอินพุต แทนที่จะทำงานตามวัตถุประสงค์เดิมของระบบ

ในกรณีนี้คำค้นไม่ได้มีเจตนาร้าย แต่ความกำกวมของภาษาเพียงคำเดียวก็ทำให้ระบบตีความผิดได้

ทำไมจึงเห็นช่องว่างหรือคำตอบแบบแชตบอต

AI Overviews ถูกออกแบบให้ ครอบพื้นที่ด้านบนของหน้าผลการค้นหา หากระบบคิดว่าสามารถสร้างสรุปคำตอบให้ผู้ใช้ได้

เมื่อระบบเข้าใจคำค้นผิดว่าเป็นคำสั่ง มันจึงสร้างข้อความตอบสนองแบบสนทนาแทนข้อมูลจริง ทำให้กล่อง AI มีเนื้อหาน้อยหรือดูเหมือนว่างเปล่า และผลลัพธ์พจนานุกรมถูกดันลงไปด้านล่างของหน้า

สำหรับผู้ใช้จึงดูเหมือนว่า Google “ลืมวิธีให้คำจำกัดความคำศัพท์” ทั้งที่ข้อมูลจริงยังอยู่ในหน้าเดียวกัน

นี่ไม่ใช่ครั้งแรกที่ AI Overviews ให้คำตอบแปลก ๆ

ตั้งแต่เริ่มเปิดใช้ในวงกว้าง ฟีเจอร์นี้เคยมีตัวอย่างคำตอบที่ผิดพลาดจนกลายเป็นไวรัลหลายครั้ง

เช่น

• แนะนำให้ใส่ กาวที่ไม่เป็นพิษลงในซอสพิซซ่า เพื่อให้ชีสติดดีขึ้น
• บอกว่ามนุษย์ควร กินหินวันละก้อน เพื่อรับแร่ธาตุ

Google ยอมรับภายหลังว่าบางคำตอบของ AI Overviews อาจ “แปลก ไม่ถูกต้อง หรือไม่เป็นประโยชน์” และอธิบายว่าปัญหาบางส่วนเกิดจากการตีความคำค้นผิด เนื้อหาล้อเลียนบนอินเทอร์เน็ต หรือกรณีที่มีข้อมูลคุณภาพสูงบนเว็บไม่เพียงพอ

บั๊ก “disregard” จึงถือเป็นอีกตัวอย่างของความท้าทายในการนำ AI มาผสานกับระบบค้นหา

วิธีแก้ชั่วคราวก่อนที่ Google จะปล่อยแพตช์

จนกว่าบริษัทจะอัปเดตระบบ ผู้ใช้สามารถเลี่ยงปัญหาได้ด้วยวิธีง่าย ๆ เช่น

1. เปลี่ยนไปใช้แท็บ Web
เลือกตัวกรอง Web ใต้ช่องค้นหา เพื่อตัดองค์ประกอบ AI และแสดงลิงก์เว็บแบบดั้งเดิมแทน

2. เพิ่มคำว่า “-ai” ต่อท้ายการค้นหา
โอเปอเรเตอร์ลบ (-) สามารถช่วยลดโอกาสที่ AI Overview จะปรากฏในผลลัพธ์

3. เลื่อนลงผ่านกล่อง AI
คำจำกัดความจริงมักยังอยู่ด้านล่าง เพียงแต่ถูกดันลงไปใต้กล่อง AI

4. ใช้คำค้นที่ชัดเจนขึ้น
เช่น “define disregard” หรือ “disregard meaning” เพื่อช่วยให้ระบบเข้าใจว่าเป็นการค้นหาคำจำกัดความ

บทเรียนสำหรับการค้นหายุค AI

เหตุการณ์นี้สะท้อนปัญหาพื้นฐานของการผสาน AI เข้ากับระบบค้นหา

• แชตบอตถูกออกแบบมาให้ ตีความคำสั่ง
• เสิร์ชเอนจินถูกออกแบบมาให้ ค้นหาข้อมูล

เมื่อสองแนวคิดนี้รวมกัน ความกำกวมของภาษา—even แค่คำเดียว—ก็อาจทำให้ระบบเข้าใจเจตนาของผู้ใช้ผิดได้

Google ระบุว่ากำลังทำงานเพื่อแก้ไขปัญหานี้ แต่กรณี “disregard” ก็เป็นตัวอย่างชัดเจนว่า แม้แต่ฟีเจอร์ AI ในระบบค้นหาระดับโลก ก็ยังมีจุดที่ต้องปรับปรุงอีกมาก