איך קבוצת Reddit בת 45,000 חברים הצליחה לשטות בבינה המלאכותית של DuckDuckGo ו-Brave ולדווח שטראמפ מת מכלבת

ב-25 וב-26 ביוני 2026, תת-הפורום r/poisonai ב-Reddit – קהילה המונה כ-45,000 חברים – ביצע מבצע מתואם שחשף חולשה יסודית במנועי חיפוש המונעים על ידי בינה מלאכותית . חברי הקבוצה שתלו סיפור בדוי לפיו הנשיא דונלד טראמפ מת מכלבת לאחר שננשך על ידי סגן הנשיא ג'יי.די ואנס, שגם הוא מת לכאורה מהמחלה . ההטעיה הצליחה לשטות ב-Duck.ai של DuckDuckGo (המופעל על ידי המודלים Claude של Anthropic ו-GPT של OpenAI) ובמנוע החיפוש המופעל על ידי AI של Brave, שהציגו את הנרטיב השקרי כעובדה . זה לא היה סתם מתיחה אינטרנטית – זו הייתה הדגמה בעולם האמיתי של פגיעות שחוקרי Cornell Tech תיעדו לאחרונה במחקר מקדים .

איך נבנתה ההטעיה

מערכת ההטעיה של r/poisonai בנתה שלוש שכבות של ראיות כוזבות שעוצבו להיראות כאירוע חדשותי לגיטימי:

• עשרות פוסטי אבל מזויפים ב-Reddit בכמה שרשורים, שיצרו מראה של דיון ואבל נרחבים .
• צילומי מסך מזויפים של Truth Social של טראמפ, שעוצבו להיראות כפוסטים רשמיים מחשבון הנשיא .
• WKNA News, אתר "סליים ורוד" (Pink Slime) שהתחזה לשדרן מקומי לגיטימי במערב וירג'יניה . האתר פרסם מספר מאמרים מפוברקים מתוארכים ל-9-22 ביוני 2026, עם כותרות כגון "מודעות לכלבת מודגשת לאחר מותו של ג'יי.די ואנס" ו"שאלות סביב מותו של ג'יי.די ואנס ומחלה בבית הלבן" . הבינה המלאכותית ציטטה דפים אלה כמקורות מהימנים .

אילו מערכות AI הוטעו

תכונת AI Search Assist של DuckDuckGo (Duck.ai) סיפרה למשתמשים בביטחון שטראמפ מת מכלבת ב-7 ביוני 2026, וכי ואנס מת לפניו . היא הפיקה תיבת תשובה מלאה ובטוחה שציטטה את המאמרים המזויפים של WKNA News לצד מאמר אמיתי ולא קשור של ABC News על קורבן כלבת באוהיו כ"ראיה" . גם מנוע החיפוש המופעל על ידי AI של Brave נפל לאותה מתיחה וחזר על הנרטיב המפוברק .

שתי מערכות ה-AI בלעו את התוכן השתול מ-Reddit ומאתר החדשות המזויף, ואז הציגו אותו כאמת מכיוון שהנרטיב נראה מאומת על פני מספר מקורות ממופתחים .

למה זה עבד: מתקפת ה-WARP של Cornell Tech

מחקר מקדים מ-חוקרי Cornell Tech (Tingwei Zhang, Harold Trieu ועמיתיהם), שפורסם ב-arXiv במאי 2026, מסביר ישירות את הפגיעות שנוצלה על ידי r/poisonai . המאמר – שכותרתו "ניתן להרעיל סוכני מחקר עמוקים באמצעות תוכן גולשים" (Deep-Research Agents Can Be Poisoned via User-Generated Content) – הציג מתקפה בשם WARP (Web Agent Retrieval Poisoning) .

ממצאים מרכזיים מהמחקר כוללים:

• קטע מורעל יחיד בן כ-13 מילים השתול בדף תוכן גולשים (Reddit, ויקיפדיה, Quora) מספיק כדי לכוון סוכן AI למחקר עמוק לעבר תוכן שנבחר על ידי התוקף .
• מוצרים בדיוניים הופיעו ב-38% עד 62% מתגובות ה-AI כאשר הטקסט המורעל פוזר במספר שרשורים . בניסוי אחד, משפט בן 15 מילים שקידם מטבע קריפטוגרפי פיקטיבי בשם "BananaCoin" שהוחדר לשרשור Reddit בודד גרם לסוכני AI להמליץ עליו כאמיתי, תוך ציטוט הפוסט המניפולטיבי עצמו כמקור .
• סוכני מחקר עמוקים שולפים 17% עד 23% מכל דפי האינטרנט מאתרי תוכן גולשים, מה שיוצר משטח תקיפה מרוכז . יריב שירעיל דף UGC בודד שנשלף לעתים קרובות יכול להשפיע על שאילתות קשורות רבות .

הקשר הישיר

מסע הפרסום של r/poisonai הוא הדגמה בעולם האמיתי של הפגיעות המדויקת שמתאר המאמר של Cornell Tech. תת-הפורום ניצל את אותו מנגנון – סוכני חיפוש AI שבולעים באופן נרחב ובוטחים בתוכן גולשים מבלי להבחין בינו לבין מקורות סמכותיים . מכיוון שסוכני מחקר AI מגרדים את Reddit, אתרים בעלי אמינות נמוכה ופורומים כמקורות בכמחצית מכל השאילתות, קמפיין זריעה מתואם על פני מספר שרשורים יצר מראה של קונצנזוס, שה-AI התייחס אליו כאישוש .

האירוע מוכיח שהממצא של Cornell Tech אינו תוצר מעבדה: אותה טכניקת הרעלה בת 13 מילים, שהוגברה עם שרשורים מרובים ואתר סליים ורוד, פגעה בהצלחה במערכות AI ייצוריות שבהן משתמשים מיליוני אנשים .

הבעיה המתמשכת

המתיחה הצליחה מכיוון שכלי חיפוש AI אינם יכולים להבחין באופן אמין בין דיון אמיתי של משתמשים לבין קמפיינים מתואמים של מידע כוזב, במיוחד כאשר תוכן שקרי מוצלב במספר מקורות שנראים בלתי תלויים . אתר WKNA News עדיין מארח את המאמרים המפוברקים, מה שמוכיח עד כמה תוכן מורעל זה מתמיד באינטרנט הממופתח . גם DuckDuckGo וגם Brave הודו באירוע, אך הפגיעות הבסיסית – סוכני AI המתייחסים ל-UGC כאל סמכותי – נותרה ללא תיקון ברמה הארכיטקטונית .