7 דרכים מוכחות למנוע מ-ChatGPT להמציא עובדות (מדריך הזיות)

ChatGPT יכול לתת תשובות שנשמעות בטוחות במיוחד אבל שגויות לחלוטין – תופעה שנקראת הזיה (Hallucination). אמנם אי אפשר לחסל לגמרי את ההתנהגות הזו, שהיא חלק מהותי ממודלי שפה גדולים, אבל אפשר לצמצם דרמטית את השפעתה . הטכניקות הבאות, מדורגות בערך לפי מידת האפקטיביות שלהן, נותנות לכם ערכת כלים מעשית לקבלת תשובות אמינות יותר.

1. תנו ל-ChatGPT גישה למסמכים שלכם (RAG)

הכלי היעיל ביותר הוא RAG – Retrieval-Augmented Generation – לתת למודל את המסמכים האמיתיים שלכם לעבוד איתם . העלו קבצים או השתמשו במצב Data Analysis של ChatGPT כדי שיענה מתוכן שסיפקתם ולא רק מהידע הפנימי שלו. כשאתם מגבילים את המודל לענות רק מהטקסט שסופק, אתם מצמצמים בחדות יצירת מידע שאינו נתמך .

2. כפו הימנעות מתשובה

הוסיפו כלל לכל בקשה עובדתית: "אם אינך יכול לאמת זאת מהמידע שסופק, אמור 'אני לא בטוח' או 'לא צוין'." כפיית הימנעות כאשר חסרות ראיות היא אסטרטגיה מומלצת . הגדרת "מסנן מציאות" (Reality Filter) בהוראות מותאמות אישית – שאוסרת הצגת תוכן מוסק או ספקולטיבי כעובדה – אפשר להגדיר בהגדרות ChatGPT כך שתחול על כל שיחה .

3. דרשו ציטוטים ומעקב אחר מקורות

בקשו מ-ChatGPT לצטט מקורות ספציפיים לכל טענה, כולל קישור או מסמך הפניה . שימו לב: גם ציטוטים יכולים להיות מוזים, אז התייחסו אליהם כאל טענות לאימות . עם זאת, דרישת מעקב דוחפת את התשובות לכיוון מובנה ומבוסס יותר .

4. פרקו שאלות מורכבות לשאלות קטנות וישירות

במקום שאלה אחת רחבה, שאלו סדרה של שאלות משנה צרות . צמצום המשימה מקטין את דרגות החופש של המודל ומוריד את הסיכוי ליצירת תוכן לא נתמך . למשל, במקום "מהן ההשפעות של שינויי האקלים?", שאלו שלוש שאלות ספציפיות על טמפרטורה, פני ים וחקלאות.

5. השתמשו בדמות (Persona) ובאילוצים מפורשים

הגדירו תפקיד ברור ואסרו על מונחים מעורפלים . לדוגמה: "אתה עוזר מחקר. השתמש רק במידע מהמסמך שסיפקתי. אם התשובה לא נמצאת במסמך, אמור 'לא צוין'." מחסומי התנהגות קפדניים משאירים את המודל מעוגן בהקשר שסופק .

6. דרשו אימות רב-שלבי

הוסיפו הוראת-על: "לפני שאתה עונה, אמת כל טענה עובדתית מול המקורות שסופקו וסמן כל דבר שאינך יכול לאמת." זה דוחף את המודל לבדוק את עצמו לפני הפלט . בקשה להראות נימוקים או מקורות מאפשרת לבדוק את הטענות, אבל לא מחליפה אימות עצמי .

7. תמיד אמתו בעצמכם טענות קריטיות

התייחסו לכל פלט עובדתי ספציפי – תאריכים, סטטיסטיקות, שמות, חוקים, פרטים רפואיים או פיננסיים – כאל השערה שצריך לבדוק, לא מסקנה סופית . השתמשו במקורות בלתי תלויים כדי לאשר טענות בעלות חשיבות גבוהה לפני שאתם פועלים על פיהן. שאלו שוב את אותה שאלה בניסוח קצת שונה בזמן אחר; תשובות סותרות הן סימן חזק להזיה .

מה לא עובד בצורה אמינה

• פשוט לשאול "אתה בטוח?" חלש יותר מלבקש מקורות, ראיות, הימנעות או שלבי אימות מפורשים .
• להסתמך על ציטוטים בלי לבדוק אותם מסוכן – גם הציטוטים עצמם צריכים להיבדק .

האזהרה החשובה

אי אפשר לעצור הזיות לחלוטין; המטרה היא צמצום נזקים, לא חיסול מוחלט . שילוב של מספר טכניקות – קרקוע במסמכים, הוראות הימנעות, דרישת ציטוטים ואימות ידני – נותן לכם הגנה חזקה הרבה יותר מאשר הסתמכות על שיטה בודדת .