AI Search Engines ตรวจสอบและอ้างอิงแหล่งที่มาอย่างไร? เปิดขั้นตอน 6 ข้อ และอัตราความล้มเหลว 60%

เมื่อคุณถามคำถามกับ AI Search Engine มันไม่ได้เดาคำตอบแบบสุ่ม ๆ เบื้องหลังคือระบบท่อส่ง (pipeline) หลายขั้นตอนที่ซับซ้อน — ถึงแม้จะไม่สมบูรณ์แบบ — เพื่อตัดสินใจว่าจะอ้างอิงแหล่งข้อมูลใดและข้อมูลนั้นน่าเชื่อถือหรือไม่ มาดูกันว่ากระบวนการนี้ทำงานอย่างไร และมันพลาดตรงไหนบ้าง

กระบวนการตรวจสอบ 6 ขั้นตอน

1. การดึงข้อมูลและประเมินผลหลายขั้นตอน (Multi-Stage Retrieval and Evaluation)

ระบบจะเริ่มต้นด้วยการดึงหน้าเว็บที่อาจเกี่ยวข้อง (candidate pages) ตามความเกี่ยวข้องกับคำถาม จากนั้นจะประเมินความน่าเชื่อถือของแหล่งที่มา (authority) ความถูกต้องตามข้อเท็จจริง (factual accuracy) และความสมบูรณ์ของบริบท ก่อนจะเลือกเนื้อหามาอ้างอิง ขั้นตอนการประเมินนี้เกิดขึ้น ก่อน ที่แหล่งข้อมูลใดจะปรากฏในคำตอบ กระบวนการนี้ไม่ได้เกิดขึ้นเพียงรอบเดียว: AI จะตีความคำถามในเชิงความหมาย (semantically interpret) แยกส่วนประกอบของความตั้งใจ (intent components) ดึงข้อมูลผู้สมัคร ประเมินผล และจากนั้นจึงอ้างอิงเฉพาะข้อมูลที่ตรงกันมากที่สุด

2. การให้คะแนนความน่าเชื่อถือและอำนาจ (Authority and Credibility Scoring)

แพลตฟอร์ม AI จะประเมินความน่าเชื่อถือของแหล่งข้อมูลผ่านอัลกอริทึมแบบหลายชั้น พวกเขาให้ความสำคัญกับเนื้อหาจากสำนักพิมพ์ที่มีชื่อเสียงและมีความน่าเชื่อถือด้านบรรณาธิการ (เช่น Forbes, Harvard Business Review, TechCrunch, Wired) และเนื้อหาที่เขียนโดยผู้เขียนที่สามารถระบุตัวตนได้และมีเครดิต แบรนด์ที่ถูกกล่าวถึงในเชิงบวกในบทความของ Forbes จะส่งสัญญาณความน่าเชื่อถือที่แตกต่างกันโดยสิ้นเชิง เมื่อเทียบกับการกล่าวอ้างเดียวกันบนบล็อกของบริษัทเอง จากหลายแพลตฟอร์ม แบรนด์ที่ถูกกล่าวถึงในเชิงบวกในแหล่งข่าวที่ไม่เกี่ยวข้องกันอย่างน้อย 4 แห่ง มีแนวโน้มที่จะปรากฏในคำตอบของ ChatGPT มากกว่า 2.8 เท่า

3. การตรวจสอบความสามารถในการยืนยัน (Verifiability Checks)

AI จะอ่านแหล่งที่มาทั้งหมด — ไม่ใช่แค่พาดหัวหรือบทคัดย่อ — และตรวจสอบว่าแหล่งที่มานั้นสนับสนุน ขัดแย้ง หรือไม่เกี่ยวข้องกับข้อความที่อ้างหรือไม่ มันสามารถตรวจจับการบิดเบือน การอ้างอิงแบบเลือกเฉพาะ หรือการละเว้นบริบทได้ ระบบจะชอบเนื้อหาที่อ้างอิงข้อมูลปฐมภูมิ (primary data) พร้อมชื่อแหล่งที่มา และมีลิงก์ไปยังและจากเว็บไซต์ที่น่าเชื่อถืออื่น ๆ เนื้อหาที่เขียนโดยผู้เขียนนิรนามที่อ้างถึง "ผู้เชี่ยวชาญในอุตสาหกรรม" ที่ไม่มีชื่อ ไม่มีการอ้างอิงภายนอก โดยพื้นฐานแล้วไม่สามารถตรวจสอบได้ และมีแนวโน้มที่จะถูกอ้างอิงน้อยมาก

4. การตรวจสอบข้ามแหล่งข้อมูลและตรวจสอบข้อเท็จจริงอัตโนมัติ (Cross-Referencing and Automated Fact-Checking)

ระบบตรวจสอบข้อเท็จจริงอัตโนมัติจะตรวจสอบข้ามข้อความอ้างกับแหล่งข้อมูลอิสระหลายแห่ง หากข้อความอ้างได้รับการสนับสนุนจากแหล่งข้อมูลที่มีอำนาจหลายแห่ง ก็มีแนวโน้มที่จะถูกอ้างอิงมากขึ้น หากแหล่งข้อมูลขัดแย้งกัน ระบบอาจลดระดับความน่าเชื่อถือ นี่ไม่ใช่เรื่องของการ "ถูกต้อง" ในเชิงสัมบูรณ์ — แต่มันคือเรื่องของฉันทามติระหว่างแหล่งข้อมูลที่ AI ถือว่าน่าเชื่อถือ ระบบจะมองหาความซ้ำซ้อน ความสอดคล้อง และข้อตกลงระหว่างแหล่งข้อมูล โดยตรวจสอบว่าแนวคิดเดียวกันปรากฏในที่อื่นในรูปแบบที่คล้ายคลึงกันหรือไม่

5. เกณฑ์การเลือกแหล่งอ้างอิง (Citation Selection Criteria)

ระบบจะนำหน้าผู้สมัครทุกหน้าผ่านการตรวจสอบ 5 ข้อเดียวกัน: เข้าถึงหน้าเว็บได้ อ่านเนื้อหา ดึงคำตอบที่ชัดเจนออกมาได้ ชั่งน้ำหนักว่าแหล่งข้อมูลนั้นน่าเชื่อถือในหัวข้อนั้นหรือไม่ ตรวจสอบว่ามีความเฉพาะเจาะจงพอที่จะยืนยันข้อความอ้าง และยืนยันว่าข้อมูลทันสมัยพอสำหรับคำถาม หน้าหนึ่งจะต้องตรงกับคำถามเฉพาะที่กำลังตอบอย่างใกล้ชิด ไม่ใช่แค่หัวข้อทั่วไป เนื้อหาที่เน้นแนวคิดเดียวที่ชัดเจนนั้น AI จะดึงข้อมูลและนำกลับมาใช้ซ้ำได้ง่ายกว่าหน้าที่มีหัวข้อกว้างหรือผสม หน้าผ่านการตรวจสอบทุกข้อก็จะได้การอ้างอิง หน้าล้มเหลวข้อใดข้อหนึ่งก็จะถูกดึงข้อมูล พิจารณา แล้วก็ถูกทิ้งไปอย่างเงียบ ๆ

6. การยึดโยง (Grounding) เพื่อลดภาพหลอน (Hallucination)

เมื่อระบบมีเอกสารที่ถูกต้องแล้ว มันจะใช้เอกสารเหล่านั้นในการยึดโยงคำตอบ (grounding) — หมายความว่ามันสร้างคำตอบโดยอิงจากเนื้อหาที่ดึงมา แทนที่จะพึ่งพาข้อมูลจากการฝึกสอน (training data) เพียงอย่างเดียว ขั้นตอนการยึดโยงนี้มีเป้าหมายเพื่อลดข้อความอ้างที่ไม่ได้รับการสนับสนุนและภาพหลอน

ปัญหาการอ้างอิง 60%

แม้จะมีการตรวจสอบมากมายขนาดนี้ ความแม่นยำของ AI Search Engine ในการอ้างอิงแหล่งที่มาก็ยังห่างไกลจากความสมบูรณ์แบบ การศึกษาของ Columbia Journalism Review ได้ทดสอบ AI Search Engine 8 ตัว และพบว่าพวกมันอ้างอิงแหล่งที่มาที่ไม่ถูกต้องในอัตราที่น่าตกใจ — ประมาณ 60% บางครั้งเครื่องมือเหล่านี้ก็สร้างการอ้างอิงปลอมขึ้นมาล้วน ๆ หรือดึงข้อเท็จจริงจากส่วนที่ไม่เกี่ยวข้องของแหล่งข้อมูล ดังที่การวิเคราะห์ในอุตสาหกรรมหนึ่งกล่าวไว้ กลไกการตรวจสอบนั้น "ไม่มีอะไรที่ไร้ที่ติ"

สิ่งนี้หมายถึงอะไรสำหรับผู้ใช้

การทำความเข้าใจท่อส่งนี้ช่วยอธิบายได้ว่าเหตุใดแหล่งข้อมูลบางแห่งจึงถูกอ้างอิง ในขณะที่บางแห่งไม่ถูกอ้างอิง ระบบให้ความสำคัญกับฉันทามติมากกว่าความแปลกใหม่ ความน่าเชื่อถือมากกว่าการไม่เปิดเผยตัวตน และความสามารถในการตรวจสอบได้มากกว่าความสะดวก แต่อัตราความผิดพลาดที่สูงหมายความว่าผู้ใช้ควรตรวจสอบข้อความที่ AI อ้างอีกครั้งกับแหล่งที่มาต้นทาง — โดยเฉพาะอย่างยิ่งสำหรับข่าว สถิติ และข้อมูลที่อ่อนไหวต่อเวลา AI สามารถค้นหาข้อมูลได้อย่างรวดเร็ว แต่การตัดสินใจว่าปลอดภัยที่จะนำไปพูดต่อหรือไม่นั่นคือส่วนที่ยาก