ما مدى موثوقية إجابات الذكاء الاصطناعي؟

فإجابة عامة عن مفهوم علمي ليست مثل تلخيص نص قدمته للنموذج. والبحث القانوني ليس مثل اقتراح أفكار لمقال. والسؤال الذي قد يؤثر في صحة شخص أو ماله أو وضعه القانوني ليس مساحة مناسبة للتساهل.

ماذا تقول بيانات «الهلوسة»؟

في عالم الذكاء الاصطناعي، تعني «الهلوسة» أن النظام يقدم معلومة خاطئة أو غير مدعومة وكأنها حقيقة. المشكلة أنها غالبًا تأتي بصياغة مرتبة وواثقة، فيسهل تصديقها.

دراسة نشرتها ستانفورد عام 2025 عن أدوات بحث قانونية رائدة تعمل بالذكاء الاصطناعي وجدت أن معدلات الهلوسة تراوحت بين 17% و33% بحسب النظام المستخدم. وفي الدراسة نفسها، كان أفضل نظام مختبر صحيحًا في 65% من الحالات، بينما حقق نظام آخر دقة بلغت 42%، وقدم نظام ثالث إجابات غير مكتملة في أكثر من 60% من الطلبات.

هذه الأرقام لا تعني أن كل روبوتات الدردشة تخطئ بهذه النسب في كل موضوع. لكنها رسالة واضحة: حتى الأدوات المتخصصة والمبنية على مصادر قد تنتج إجابات خاطئة أو ناقصة.

لماذا لا تكفي عبارة «المصدر موجود»؟

في البحث التقليدي على الويب، ترى عدة نتائج وتقارن بينها. أما في إجابة الذكاء الاصطناعي، فقد تُختصر هذه العملية كلها في فقرة واحدة جاهزة. هذا يوفر الوقت، لكنه ينقل عبء التحقق إليك.

وجود رابط أو اسم مصدر لا يعني أن الادعاء صحيح. المهم أن يكون المصدر يدعم النقطة المحددة التي ذكرها النموذج. لذلك، عند ظهور رقم أو اقتباس أو تاريخ أو حكم قانوني أو خبر حديث، افتح المصدر وابحث عن الموضع الذي يثبت الكلام فعلًا.

إذا كان المصدر يتحدث عن الموضوع عمومًا لكنه لا يثبت الجملة نفسها، فالإجابة لم تُتحقق بعد.

ما الذي يقلق الشركات والمؤسسات؟

بحسب تقرير Stanford AI Index 2025، كانت «عدم الدقة» من أبرز المخاوف في استخدام الذكاء الاصطناعي داخل الشركات؛ إذ ذكرها 64% من المديرين التنفيذيين المشاركين في الاستطلاع بوصفها مشكلة.

ويشير التقرير أيضًا إلى قاعدة بيانات حوادث الذكاء الاصطناعي AI Incidents Database، حيث سُجلت 233 حادثة مرتبطة بالذكاء الاصطناعي في عام 2024، بزيادة قدرها 56.4% مقارنة بعام 2023.

هذه الأرقام لا تقيس مباشرة عدد المرات التي يخطئ فيها روبوت دردشة عند إجابة سؤال عادي. لكنها تشرح لماذا تحتاج المؤسسات إلى ضوابط واضحة، ومسؤوليات محددة، ومراجعة بشرية عند استخدام مخرجات الذكاء الاصطناعي.

متى يكون الذكاء الاصطناعي مفيدًا؟

أفضل استخدام للذكاء الاصطناعي هو أن يكون بداية الطريق لا نهايته. من الاستخدامات المناسبة:

• ترتيب موضوع معقد إلى محاور واضحة.
• شرح مصطلحات أولية بلغة أبسط.
• اقتراح كلمات بحث وأسئلة متابعة.
• تلخيص نص طويل قمت أنت بتزويده.
• ترتيب الحجج والاعتراضات.
• إعداد مسودة أولى تحتاج إلى مراجعة لاحقة.

في هذه الحالات، القيمة الحقيقية هي السرعة والتنظيم. أما التحقق من الحقيقة فيبقى خطوة منفصلة.

متى لا ينبغي الاعتماد على الإجابة كما هي؟

تعامل بحذر خاص إذا كانت الإجابة:

• تذكر أرقامًا دقيقة أو تصنيفات أو تواريخ.
• تنسب كلامًا إلى دراسة أو تقرير أو شخص.
• تتعلق بالقانون أو الطب أو المال أو السلامة.
• تفسر أحداثًا حديثة أو متغيرة.
• تبدو واثقة جدًا لكنها لا تعرض دليلًا قابلًا للفحص.
• تجيب جزئيًا وتغفل قيودًا أو استثناءات مهمة.

المجال القانوني يقدم مثالًا مهمًا من البيانات المتاحة: حتى أدوات البحث القانوني المتخصصة التي درستها ستانفورد هلوسَت أو قدمت إجابات غير مكتملة في عدد ملحوظ من الحالات.

فحص سريع في 30 ثانية

قبل أن تعتمد على إجابة ذكاء اصطناعي، اسأل نفسك:

1. هل يوجد مصدر؟ من دون مصدر قابل للفحص، الإجابة مجرد إشارة أولية.
2. هل فتحت المصدر؟ لا تكتفِ بوجود الرابط؛ تأكد أن المصدر يثبت الادعاء نفسه.
3. هل المصدر أولي؟ الدراسات الأصلية والوثائق الرسمية وقواعد البيانات المباشرة أقوى من الملخصات.
4. هل التاريخ مهم؟ في القوانين والأسعار والإحصاءات والتصنيفات، قد تصبح المعلومة قديمة بسرعة.
5. هل الإجابة كاملة؟ المعلومة الصحيحة جزئيًا قد تضلل إذا حذفت شرطًا أو استثناءً.
6. ما عواقب الخطأ؟ إذا كان الخطأ قد يسبب ضررًا قانونيًا أو صحيًا أو ماليًا أو أمنيًا، فلا يكفي الذكاء الاصطناعي وحده.

الخلاصة: اسأل الذكاء الاصطناعي، لكن لا تسلمه الحكم النهائي

إجابات الذكاء الاصطناعي قادرة على جعل البحث أسرع وأسهل، لكنها ليست بديلًا آمنًا عن التحقق. البيانات المتاحة لا تدعم الثقة العمياء: لا توجد نسبة عالمية للموثوقية، والأدوات المتخصصة قد تهلوس، وعدم الدقة ما زال خطرًا عمليًا مهمًا في الاستخدام المؤسسي.

القاعدة العملية الأبسط: استخدم الذكاء الاصطناعي للتوجيه، واطلب المصادر، وافتح الادعاءات الحساسة، وتحقق منها. أما القرارات ذات العواقب الكبيرة، فتحتاج إلى مصادر أولية ورأي مختص مؤهل.