האירוניה הגדולה של עולם ה-AI: דו"ח נלהב על בינה מלאכותית התגלה כמלא בהזיות

אלא שאז הגיעה GPTZero, חברת מחקר המתמחה בזיהוי תוכן AI, וניתחה את 45 הציטוטים בדו"ח. הממצאים היו מפלילים :

• 5 ציטוטים בלבד (כ-11%) היו מדויקים והובילו למקור הנכון.
• 28 ציטוטים הכילו תוכן מומצא לחלוטין או כותרות מסולפות שלא תאמו לשום מקור אמיתי.
• 12 ציטוטים היו מעורפלים או פגומים מכדי שניתן יהיה לקבוע אם המקור בכלל קיים.
• כמחצית מהטענות העובדתיות ב-45 הציטוטים הללו נראו כשגויות או משויכות למקור שגוי.

דוגמה בולטת אחת טענה שחברת East Japan Railway משתמשת ב-AI יוזם לשירות לקוחות. המקור שצוטט היה הודעה לעיתונות מ-2019 – שנים לפני שהמונח "AI יוזם" בכלל היה מוכר . בדוגמה אחרת, הדו"ח ציטט נתון לפיו 55% מהמנכ"לים דירגו AI כעדיפות ההשקעה הגבוהה ביותר – נתון שסתר את הסקר הציבורי של KPMG עצמה בקרב מנכ"לים .

הארגונים שלא נשארו אדישים

כאשר ה"פייננשל טיימס" יצר קשר עצמאי עם הארגונים המוזכרים בדו"ח, התגובות היו נחרצות. על פי הדיווחים, הארגונים שהכחישו את המתואר כללו :

• UBS – הדו"ח תיאר את הבנק השווייצרי כמי שהטמיע סוכני AI לרוחב תחומי הייעוץ, ניהול סיכונים ובקרת ציות. UBS דחתה זאת מכל וכל, וכינתה את הטענות "שגויות עובדתית" .
• שירות הבריאות הלאומי הבריטי (NHS) – הדו"ח ייחס לגופי NHS הטמעות משמעותיות של AI יוזם, טענות שהופרכו באימות חיצוני .
• רכבת שווייץ (SBB) – KPMG טענה כי SBB הפכה ל"מתזמרת ניידות הוליסטית" המופעלת ב-AI. SBB אישרה שהתיאור "אינו מדויק" .
• Transport for London (TfL) – גוף התחבורה הלונדוני נמנה גם הוא בין הארגונים שאפיונם בדו"ח הופרך .

בעקבות הפניות, KPMG הסירה את הדו"ח והודיעה כי היא חוקרת את הטענות .

GPTZero קובעת: הזיות AI, לא סתם רשלנות עריכתית

GPTZero לא התייחסה לטעויות כאל שגיאות עריכה גרידא. החברה ייחסה את הציטוטים הכוזבים ותיאורי המקרה המפוברקים לתופעת ההזיות של בינה מלאכותית יוצרת – מצב שבו המודל מייצר מידע שנשמע אמין אך הוא שגוי עובדתית או מומצא לגמרי .

GPTZero אף טבעה מונח המתאר את מה שכנראה קרה מאחורי הקלעים: "Vibe Citing" (ציטוט על פי תחושה). הרעיון הוא שכלי AI, כש"התבקשו" לתמוך בנרטיב מסוים, פשוט ייצרו ציטוטים ש"הרגישו נכונים" במקום להצביע על מקורות אמיתיים . במקרה של KPMG, פירוש הדבר היה אזכורים ביבליוגרפיים שנשמעו אקדמיים ומשכנעים, אך בבדיקה התברר שאין מאחוריהם כלום.

מסקנת חקירת החברה הייתה שהרכב הדו"ח אופייני לסיוע AI כבד שלא עבר אימות אנושי מספק. השילוב של הערות שוליים מוזות, סטטיסטיקות שגויות ותיאורי מקרה בדויים צייר תהליך עבודה שבו הפלט של ה-AI פורסם בפיקוח מינימלי .

התמונה הרחבה: EY קנדה הקדימה בחודש אחד

התקרית של KPMG לא התרחשה בוואקום. במאי 2026, שבועות ספורים לפני כן, EY קנדה משכה דו"ח אבטחת סייבר בשם "Points of Attack: Uncovering Cyber Threats and Fraud in Loyalty Systems", וזאת לאחר ש-GPTZero סימנה בעיות הזיה AI נרחבות גם שם .

בדו"ח EY נמצא כי 16 מתוך 27 ההפניות – בערך 60% – היו מפוברקות. הדוגמה הבולטת ביותר הייתה ציטוט של מסמך שלא קיים מחברת מקינזי בשם "Loyalty Economics Report" . GPTZero העריכה ש-72% מתוכן הדו"ח נוצר על ידי AI .

EY קנדה הסירה מיד את המסמך מאתרה והצהירה כי היא בוחנת את הנסיבות שהובילו לפרסומו . כמו במקרה של KPMG, ההסרה העלתה שאלות נוקבות: כיצד אחד ממשרדי השירותים המקצועיים הגדולים בעולם יכול לפרסם תוכן שיווקי ובו מידע כוזב בעליל מבלי שאיש הבחין בכך בתהליך הביקורת?

שתי התקריות חשפו פגיעות מבנית בקרב ארבע הפירמות הגדולות (Big Four): בעודן מתחרות ביניהן על הפקת תובנות "מובילות שוק" בנושאי AI, הן נשענות יותר ויותר על אותם כלים עצמם שעליהם הן כותבות – לעיתים עם תוצאות מביכות ופוגעות מוניטין .

מה המשמעות עבור שירותים מקצועיים ומחקר נתמך AI?

ההסרות הרצופות של EY ו-KPMG בשנת 2026 אינן רק בעיות יח"צ נקודתיות. הן תמרור אזהרה לכל תעשייה עתירת ידע, שבה אמינות היא מטבע עובר לסוחר.

פירמות שירותים מקצועיים העבירו שנים בייעוץ ללקוחותיהן "לאמץ AI באופן אחראי" . כשהן עצמן נתפסות מפרסמות מחקר מוזה-על-ידי-AI על... AI עצמו, הסתירה שוחקת את סמכותן כיועצות מהימנות. הדו"ח של KPMG לא היה טיוטה פנימית או פוסט בלוג זניח, אלא מחקר דגל גלובלי שנועד להפגין את מומחיות הפירמה בחוויית לקוח וטכנולוגיה מתקדמת .

האירוע ממחיש אסימטריה הולכת וגוברת: AI יוצר יכול להפיק דו"חות מחקר מלוטשים ועמוסי ציטוטים בתוך דקות, אך אימות של כל טענה ואיתור כל הערת שוליים למקור שלה עדיין דורשים שעות של עבודה אנושית מיומנת. המתודולוגיה של GPTZero בשני המקרים – בדיקה ידנית של כל ציטוט מול המקור הנטען – הראתה שפער האימות הזה הוא בדיוק המקום שבו מחלחלות השגיאות הקטסטרופליות .

עבור ארגונים שמפרסמים מחקרים ב-2026 ואילך, הלקח חד וברור: AI יכול להאיץ ניסוח וטיוטות, אך לעולם לא יחליף את שלב האימות. המחיר התדמיתי של דו"ח שמוסר, במיוחד כזה שנתפס מצטט מקורות שאינם קיימים, עולה בהרבה על הזמן ש"נחסך" בדילוג על שלב בדיקת העובדות.