7 طرق مثبتة لمنع ChatGPT من اختلاق الحقائق (دليل الهلوسة)

3. طلب الاستشهادات وإمكانية التتبع

اطلب من ChatGPT الاستشهاد بمصادر محددة لكل معلومة، بما في ذلك عنوان URL أو المستند المرجعي . لاحظ أن الاستشهادات نفسها قد تكون مهلوسة، لذا تعامل معها كادعاءات يجب التحقق منها وليس كدليل . ومع ذلك، فإن طلب إمكانية التتبع يدفع الإجابات نحو تنسيق أكثر تنظيماً واستناداً إلى المصادر .

4. قسم الأسئلة المعقدة إلى أسئلة صغيرة ومباشرة

بدلاً من سؤال واسع واحد، اطرح سلسلة من الأسئلة الفرعية الضيقة . تضييق نطاق المهمة يقلل من درجات حرية النموذج، مما يجعله أقل عرضة لتوليد محتوى غير مدعوم . على سبيل المثال، استبدل "ما هي آثار تغير المناخ؟" بثلاثة أسئلة محددة حول درجة الحرارة ومستوى سطح البحر والزراعة.

5. استخدام الهوية والقيود الصريحة

حدد دورًا واضحًا وحظر المصطلحات الغامضة . مثال: "أنت مساعد بحث. استخدم فقط المعلومات من المستند الذي قدمته. إذا لم تكن الإجابة في المستند، فقل 'غير محدد'." تحدد الحواجز السلوكية الصارمة النموذج ضمن السياق المقدم .

6. طلب التحقق متعدد الخطوات

أضف تعليمات وصفية (meta-prompt): "قبل الرد، تحقق من كل معلومة واقعية مقابل المصادر المقدمة وحدد أي شيء لا يمكنك التحقق منه." يدفع هذا النموذج إلى المراجعة الذاتية قبل إخراج النص . يمكن أن يساعدك طلب إظهار المنطق أو المصادر في فحص ادعاءاته، لكن لا يجب أن يحل محل تحققك الشخصي .

7. تحقق دائمًا من المعلومات الحساسة بنفسك

تعامل مع كل مخرجات واقعية محددة - التواريخ والإحصائيات والأسماء والقوانين والتفاصيل الطبية أو المالية - كفرضية يجب التحقق منها، وليس كاستنتاج يجب الوثوق به . استخدم مصادر مستقلة لتأكيد الادعاءات عالية المخاطر قبل العمل بها. أعد طرح السؤال نفسه بطريقة مختلفة قليلاً وفي وقت مختلف؛ الإجابات غير المتسقة هي إشارة قوية على الهلوسة .

ما لا يعمل بشكل موثوق

• مجرد السؤال "هل أنت متأكد؟" أضعف من طلب المصادر أو الأدلة أو الامتناع أو خطوات التحقق الصريحة .
• الاعتماد على الاستشهادات دون التحقق منها أمر محفوف بالمخاطر - يجب التعامل مع الاستشهادات نفسها كادعاءات يجب التحقق منها .

التنبيه الرئيسي

لا يمكن إيقاف الهلوسة بشكل كامل؛ الهدف هو تقليل الضرر وليس القضاء عليه . الجمع بين تقنيات متعددة - التأسيس على المستندات، ومطالبات الامتناع، ومتطلبات الاستشهاد، والتحقق اليدوي - يمنحك دفاعًا أقوى بكثير من الاعتماد على أي طريقة فردية .