כך מנועי חיפוש AI מאמתים ומצטטים מקורות: הצינור בן 6 השלבים ושיעור הכישלון של 60%

3. בדיקות אימות

ה-AI קורא את המקור המלא — לא רק כותרות או תקצירים — ובודק אם המקור תומך ישירות בטענה, סותר אותה, או לא רלוונטי. הוא מזהה הצגה מסולפת, ציטוט סלקטיבי או הקשר חסר . המערכות מעדיפות תוכן המצטט נתונים ראשוניים עם מקורות בעלי שם, ומקשר אל ומאתרים אמינים אחרים . תוכן של כותבים אלמונים המצטטים "מומחי תעשייה" לא ידועים ללא הפניות חיצוניות הוא למעשה בלתי ניתן לאימות, והסיכוי שיצוטט נמוך .

4. הצלבה ואימות עובדות אוטומטי

מערכות אימות עובדות אוטומטיות מצליבות טענות מול מספר מקורות בלתי תלויים. אם טענה נתמכת על ידי כמה מקורות סמכותיים, סביר יותר שהיא תצוטט. אם מקורות סותרים זה את זה, המערכת עלולה להנמיך את דירוג המהימנות . זה לא קשור ל"צדק" במובן מוחלט — אלא לקונצנזוס בין המקורות שה-AI מחשיב לאמינים . המערכת מחפשת חפיפה, עקביות והסכמה בין מקורות, ובודקת אם אותו רעיון מופיע במקום אחר בצורה דומה .

5. קריטריוני בחירת ציטוט

המערכת מריצה כל דף מועמד דרך חמש בדיקות זהות: הגעה לדף, קריאתו, שליפת תשובה ברורה מתוכו, הערכת מהימנות המקור בנושא הספציפי, בדיקת התאמתו לאימות הטענה, ואישור עדכניותו לשאלה . דף חייב להתאים במדויק לשאלה הספציפית שנשאלה, לא רק לנושא הכללי . תוכן הממוקד במושג אחד ברור קל יותר ל-AI לשלוף ולעשות בו שימוש חוזר מאשר דפים רחבים או מעורבי נושאים . דף שעובר את כל הבדיקות זוכה בציטוט; דף שנכשל באחת מהן נשלף, נשקל, ולאחר מכן נזנח בשקט .

6. עיגון מפחית הזיות

לאחר שהמערכת אוספת את המסמכים הנכונים, היא משתמשת בהם כדי לעגן את תשובתה — כלומר, היא יוצרת תשובות על סמך התוכן שנשלף במקום להסתמך רק על נתוני האימון שלה. שלב העיגון נועד להפחית טענות לא מבוססות והזיות .

בעיית הציטוטים: 60% שגויים

למרות כל הבדיקות הללו, דיוק הציטוטים במנועי חיפוש מבוססי AI רחוק מלהיות מושלם. מחקר של מכון טאו באוניברסיטת קולומביה (Columbia Journalism Review) בחן שמונה מנועי חיפוש AI ומצא שהם מצטטים מקורות שגויים בשיעור מדאיג של כ-60% . המנועים לעיתים ממציאים ציטוטים לחלוטין או שולפים עובדות מחלקים לא רלוונטיים של המקור. כפי שמנתח תעשייה אחד מסכם: מנגנוני האימות "אינם חסינים לחלוטין" .

מה זה אומר עבור משתמשים

הבנת הצינור הזה מסבירה מדוע מקורות מסוימים מצוטטים ואחרים לא. המערכת נותנת עדיפות לקונצנזוס על פני חידוש, לסמכות על פני אנונימיות, ולאימות על פני נוחות. אבל שיעור השגיאות הגבוה אומר שמשתמשים עדיין צריכים לאמת טענות ממקורות AI מול המקור המקורי — במיוחד עבור חדשות, סטטיסטיקות ומידע רגיש לזמן. ה-AI יכול למצוא מידע במהירות, אבל ההחלטה אם בטוח לחזור עליו היא החלק הקשה .