كيف تتحقق محركات البحث بالذكاء الاصطناعي من المصادر وتستشهد بها

عندما تطرح سؤالاً على محرك بحث يعمل بالذكاء الاصطناعي، فإنه لا يخمن الإجابة فقط. بل يشغل خط أنابيب متطورًا — لكنه غير كامل — متعدد المراحل ليقرر أي المصادر سيستشهد بها وما إذا كانت المعلومات جديرة بالثقة. إليك كيف تعمل هذه العملية بالفعل، وأين تقصر.

خط أنابيب التحقق المكون من ست خطوات

1. الاسترداد والتقييم متعدد المراحل

يسترد النظام أولاً الصفحات المرشحة بناءً على مدى ملاءمتها للاستعلام، ثم يقيم سلطة المصدر ودقته الواقعية واكتماله السياقي قبل اختيار المحتوى للاستشهاد به . يحدث هذا التقييم قبل ظهور أي مصدر في الإجابة . العملية ليست تمريرة واحدة: فالذكاء الاصطناعي يفسر الاستعلام دلاليًا، ويحلله إلى مكونات نية، ويسترد المرشحين، ويقيمهم، ثم يستشهد فقط بأقوى التطابقات .

2. تسجيل السلطة والمصداقية

تقوم منصات الذكاء الاصطناعي بتقييم جدارة المصادر بالثقة من خلال خوارزميات متعددة الطبقات. إنها تعطي الأولوية للمحتوى من المنشورات الراسخة ذات المصداقية التحريرية (مثل فوربس، هارفارد بزنس ريفيو، تك كرانش، وايرد) والمحتوى الذي كتبه مؤلفون معروفون ومعتمدون . العلامة التجارية المذكورة بشكل إيجابي في مقال بفوربس تحمل إشارة ثقة مختلفة جوهريًا عن نفس الادعاء على مدونة الشركة الخاصة . عبر منصات متعددة، كانت العلامات التجارية المذكورة بشكل إيجابي في أربعة مصادر مختلفة غير تابعة على الأقل أكثر عرضة للظهور في ردود ChatGPT بمقدار 2.8 مرة .

3. فحوصات قابلية التحقق

يقرأ الذكاء الاصطناعي المصدر كاملًا — وليس فقط العناوين الرئيسية أو الملخصات — ويتحقق مما إذا كان المصدر يدعم الادعاء بشكل مباشر، أو يتعارض معه، أو لا علاقة له به. يكتشف التحريف أو الاقتباس الانتقائي أو السياق المحذوف . تفضل الأنظمة المحتوى الذي يستشهد ببيانات أولية بمصادر مسماة والذي يرتبط بمواقع أخرى موثوقة ومنها . المحتوى من قبل مؤلفين مجهولين يستشهدون بـ "خبراء في الصناعة" بدون أسماء وبدون مراجع خارجية هو غير قابل للتحقق وظيفيًا ومن غير المرجح أن يتم الاستشهاد به .

4. المرجعية التبادلية والتدقيق الواقعي الآلي

تقوم أنظمة التدقيق الواقعي الآلي بمرجعية تبادلية للادعاءات مقابل مصادر مستقلة متعددة. إذا كان الادعاء مدعومًا من قبل عدة مصادر موثوقة، فمن المرجح أن يتم الاستشهاد به. إذا كانت المصادر تتعارض مع بعضها البعض، فقد يخفض النظام من موثوقيتها . هذا لا يتعلق بأن تكون "على صواب" بالمعنى المطلق — إنه يتعلق بالإجماع بين المصادر التي يعتبرها الذكاء الاصطناعي موثوقة . يبحث النظام عن التداخل والاتساق والاتفاق عبر المصادر، ويتحقق مما إذا كانت الفكرة نفسها تظهر في مكان آخر بشكل مماثل .

5. معايير اختيار الاستشهاد

يشغل النظام كل صفحة مرشحة من خلال نفس الفحوصات الخمسة: الوصول إلى الصفحة، قراءتها، استخراج إجابة واضحة منها، الموازنة فيما إذا كان المصدر جديرًا بالثقة في الموضوع المحدد، التحقق مما إذا كان محددًا بما يكفي للتحقق من الادعاء، والتأكد من أنه حديث بما يكفي للسؤال . يجب أن تتطابق الصفحة بشكل وثيق مع السؤال المحدد الذي تتم الإجابة عليه، وليس فقط الموضوع العام . المحتوى الذي يركز على مفهوم واحد واضح يسهل على الذكاء الاصطناعي استرداده وإعادة استخدامه من الصفحات الواسعة أو متعددة المواضيع . الصفحة التي تجتاز كل فحص تكسب الاستشهاد؛ الصفحة التي تفشل في أي واحد منها يتم استردادها ودراستها ثم إسقاطها بهدوء .

6. التثبيت يقلل من الهلوسة

بمجرد أن يحصل النظام على المستندات الصحيحة، يستخدمها لتثبيت رده — مما يعني أنه يولد إجابات بناءً على المحتوى المسترد بدلاً من الاعتماد فقط على بيانات التدريب الخاصة به. تهدف خطوة التثبيت هذه إلى تقليل الادعاءات غير المدعومة والهلوسة .

مشكلة الاستشهاد بنسبة 60%

على الرغم من كل هذه الفحوصات، فإن دقة محركات البحث بالذكاء الاصطناعي عند الاستشهاد بالمصادر بعيدة كل البعد عن الكمال. درست دراسة من مجلة كولومبيا للصحافة ثمانية محركات بحث بالذكاء الاصطناعي ووجدت أنها تستشهد بمصادر غير صحيحة بمعدل ينذر بالخطر — حوالي 60% . أحيانًا تختلق المحركات الاستشهادات بالكامل أو تسحب الحقائق من أقسام غير ذات صلة من المصدر. كما يصفه أحد التحليلات الصناعية، فإن آليات التحقق "ليست مضمونة" .

ماذا يعني هذا للمستخدمين

يساعد فهم خط الأنابيب هذا في شرح سبب استشهاد بعض المصادر بينما لا يتم استشهاد البعض الآخر. يعطي النظام الأولوية للإجماع على الجدة، والسلطة على عدم الكشف عن الهوية، وإمكانية التحقق على الملاءمة. لكن معدل الخطأ المرتفع يعني أنه يجب على المستخدمين التحقق من الادعاءات التي ينشئها الذكاء الاصطناعي مقابل المصدر الأصلي — خاصة بالنسبة للأخبار والإحصاءات والمعلومات الحساسة للوقت. يستطيع الذكاء الاصطناعي العثور على المعلومات بسرعة، لكن تحديد ما إذا كان من الآمن تكرارها هو الجزء الصعب .