كيف تم بناء الخدعة

بنيت حملة r/poisonai ثلاث طبقات من الأدلة المزيفة المصممة لتبدو وكأنها حدث إخباري حقيقي:

• عشرات منشورات العزاء المزيفة على Reddit عبر مواضيع متعددة، مما خلق وهم وجود نقاش واسع وحزن عام .
• لقطات شاشة مزيفة من Truth Social الخاصة بترامب، مصممة لتبدو كمنشورات رسمية من حساب الرئيس .
• موقع WKNA News، وهو موقع "pink slime" يتظاهر بأنه هيئة إذاعية محلية شرعية في ولاية فرجينيا الغربية . نشر الموقع مقالات مزيفة متعددة بتاريخ 9-22 يونيو 2026، بعناوين مثل "التوعية بداء الكلب بعد وفاة جي دي فانس" و"أسئلة تحيط بوفاة جي دي فانس ومرض البيت الأبيض" . وقد استشهد الذكاء الاصطناعي بهذه الصفحات كمصادر موثوقة .

أي أنظمة الذكاء الاصطناعي تم خداعها

أخبرت ميزة AI Search Assist من DuckDuckGo (Duck.ai) المستخدمين بثقة أن ترامب توفي بداء الكلب في 7 يونيو 2026، وأن فانس توفي قبله . أنتجت الأداة مربع إجابة كاملًا وواثقًا يستشهد بمقالات موقع WKNA News المزيفة إلى جانب مقال حقيقي غير ذي صلة من ABC News عن ضحية داء الكلب في ولاية أوهايو كـ "دليل" . كما وقع بحث Brave في نفس الخدعة، وأعاد إنتاج الرواية الملفقة .

قام كلا نظامي الذكاء الاصطناعي بابتلاع المحتوى المزروع من Reddit والموقع الإخباري المزيف، ثم عرضاه كحقيقة لأن الرواية بدت مدعومة عبر مصادر متعددة مفهرسة .

لماذا نجحت الخدعة: هجوم WARP من كورنيل

دراسة أولية من باحثي معهد كورنيل للتكنولوجيا (Tingwei Zhang، Harold Trieu، وزملاؤهم)، نُشرت على arXiv في مايو 2026، تشرح بشكل مباشر الثغرة التي استغلها مجتمع r/poisonai . الورقة البحثية بعنوان "وكلاء البحث العميق يمكن تسميمهم عبر المحتوى الذي ينشئه المستخدمون" قدمت هجومًا يسمى WARP (تسميم استرجاع وكلاء الويب) .

النتائج الرئيسية من الدراسة تشمل:

• نص مسموم مكون من حوالي 13 كلمة يتم وضعه في صفحة محتوى من إنشاء المستخدم (Reddit، ويكيبيديا، Quora) يكفي لتوجيه وكيل ذكاء اصطناعي عميق نحو محتوى يختاره المهاجم .
• منتجات وهمية ظهرت في 38-62% من ردود الذكاء الاصطناعي عندما تم نشر النص المسموم عبر مواضيع متعددة . في أحد الاختبارات، جملة من 15 كلمة تروّج لعملة رقمية مزيفة تُدعى "BananaCoin" تم إدراجها في موضوع واحد على Reddit، مما جعل وكلاء الذكاء الاصطناعي يوصون بها على أنها حقيقية، مستشهدين بالمنشور الملفق نفسه كمصدر .
• وكلاء البحث العميق يسحبون 17-23% من جميع صفحات الويب من مواقع المحتوى الذي ينشئه المستخدمون، مما يخلق سطح هجوم مركز . يمكن للخصم الذي يسمم صفحة UGC واحدة يتم استرجاعها بشكل متكرر أن يؤثر على العديد من الاستفسارات ذات الصلة .

الرابط المباشر

حملة r/poisonai هي تطبيق عملي للثغرة التي تصفها ورقة كورنيل. استخدم المجتمع نفس الآلية — وكلاء البحث بالذكاء الاصطناعي الذين يبتلعون ويثقون في المحتوى الذي ينشئه المستخدمون دون تمييزه عن المصادر الموثوقة . نظرًا لأن وكلاء البحث بالذكاء الاصطناعي يجمعون المعلومات من Reddit والمواقع منخفضة المصداقية والمنتديات كمصادر في حوالي نصف جميع الاستفسارات، فإن حملة البذر المنسقة عبر مواضيع متعددة خلقت وهمًا بالإجماع، والذي تعامل معه الذكاء الاصطناعي كدليل .

يثبت الحادث أن نتيجة كورنيل ليست مجرد نتاج معملي: نفس تقنية التسميم بـ 13 كلمة، موسعة بمواضيع متعددة وموقع "pink slime"، نجحت في اختراق أنظمة الذكاء الاصطناعي الإنتاجية التي يستخدمها الملايين .

المشكلة المستمرة

نجحت الخدعة لأن أدوات البحث بالذكاء الاصطناعي لا تستطيع التمييز بشكل موثوق بين نقاش المستخدم الحقيقي وحملات التضليل المنسقة، خاصة عندما يتم نشر المحتوى الكاذب عبر مصادر متعددة تبدو مستقلة . لا يزال موقع WKNA News يستضيف المقالات الملفقة، مما يدل على مدى استمرارية هذا المحتوى المسموم في الويب المفهرس . اعترفت كل من DuckDuckGo و Brave بالحادث، لكن الثغرة الأساسية — وكلاء الذكاء الاصطناعي الذين يتعاملون مع UGC كمصدر موثوق — لا تزال دون تصحيح على المستوى المعماري .

كيف تم بناء الخدعة

بنيت حملة r/poisonai ثلاث طبقات من الأدلة المزيفة المصممة لتبدو وكأنها حدث إخباري حقيقي:

• عشرات منشورات العزاء المزيفة على Reddit عبر مواضيع متعددة، مما خلق وهم وجود نقاش واسع وحزن عام .
• لقطات شاشة مزيفة من Truth Social الخاصة بترامب، مصممة لتبدو كمنشورات رسمية من حساب الرئيس .
• موقع WKNA News، وهو موقع "pink slime" يتظاهر بأنه هيئة إذاعية محلية شرعية في ولاية فرجينيا الغربية . نشر الموقع مقالات مزيفة متعددة بتاريخ 9-22 يونيو 2026، بعناوين مثل "التوعية بداء الكلب بعد وفاة جي دي فانس" و"أسئلة تحيط بوفاة جي دي فانس ومرض البيت الأبيض" . وقد استشهد الذكاء الاصطناعي بهذه الصفحات كمصادر موثوقة .

أي أنظمة الذكاء الاصطناعي تم خداعها

أخبرت ميزة AI Search Assist من DuckDuckGo (Duck.ai) المستخدمين بثقة أن ترامب توفي بداء الكلب في 7 يونيو 2026، وأن فانس توفي قبله . أنتجت الأداة مربع إجابة كاملًا وواثقًا يستشهد بمقالات موقع WKNA News المزيفة إلى جانب مقال حقيقي غير ذي صلة من ABC News عن ضحية داء الكلب في ولاية أوهايو كـ "دليل" . كما وقع بحث Brave في نفس الخدعة، وأعاد إنتاج الرواية الملفقة .

قام كلا نظامي الذكاء الاصطناعي بابتلاع المحتوى المزروع من Reddit والموقع الإخباري المزيف، ثم عرضاه كحقيقة لأن الرواية بدت مدعومة عبر مصادر متعددة مفهرسة .

لماذا نجحت الخدعة: هجوم WARP من كورنيل

دراسة أولية من باحثي معهد كورنيل للتكنولوجيا (Tingwei Zhang، Harold Trieu، وزملاؤهم)، نُشرت على arXiv في مايو 2026، تشرح بشكل مباشر الثغرة التي استغلها مجتمع r/poisonai . الورقة البحثية بعنوان "وكلاء البحث العميق يمكن تسميمهم عبر المحتوى الذي ينشئه المستخدمون" قدمت هجومًا يسمى WARP (تسميم استرجاع وكلاء الويب) .

النتائج الرئيسية من الدراسة تشمل:

• نص مسموم مكون من حوالي 13 كلمة يتم وضعه في صفحة محتوى من إنشاء المستخدم (Reddit، ويكيبيديا، Quora) يكفي لتوجيه وكيل ذكاء اصطناعي عميق نحو محتوى يختاره المهاجم .
• منتجات وهمية ظهرت في 38-62% من ردود الذكاء الاصطناعي عندما تم نشر النص المسموم عبر مواضيع متعددة . في أحد الاختبارات، جملة من 15 كلمة تروّج لعملة رقمية مزيفة تُدعى "BananaCoin" تم إدراجها في موضوع واحد على Reddit، مما جعل وكلاء الذكاء الاصطناعي يوصون بها على أنها حقيقية، مستشهدين بالمنشور الملفق نفسه كمصدر .
• وكلاء البحث العميق يسحبون 17-23% من جميع صفحات الويب من مواقع المحتوى الذي ينشئه المستخدمون، مما يخلق سطح هجوم مركز . يمكن للخصم الذي يسمم صفحة UGC واحدة يتم استرجاعها بشكل متكرر أن يؤثر على العديد من الاستفسارات ذات الصلة .

الرابط المباشر

حملة r/poisonai هي تطبيق عملي للثغرة التي تصفها ورقة كورنيل. استخدم المجتمع نفس الآلية — وكلاء البحث بالذكاء الاصطناعي الذين يبتلعون ويثقون في المحتوى الذي ينشئه المستخدمون دون تمييزه عن المصادر الموثوقة . نظرًا لأن وكلاء البحث بالذكاء الاصطناعي يجمعون المعلومات من Reddit والمواقع منخفضة المصداقية والمنتديات كمصادر في حوالي نصف جميع الاستفسارات، فإن حملة البذر المنسقة عبر مواضيع متعددة خلقت وهمًا بالإجماع، والذي تعامل معه الذكاء الاصطناعي كدليل .

يثبت الحادث أن نتيجة كورنيل ليست مجرد نتاج معملي: نفس تقنية التسميم بـ 13 كلمة، موسعة بمواضيع متعددة وموقع "pink slime"، نجحت في اختراق أنظمة الذكاء الاصطناعي الإنتاجية التي يستخدمها الملايين .

المشكلة المستمرة

نجحت الخدعة لأن أدوات البحث بالذكاء الاصطناعي لا تستطيع التمييز بشكل موثوق بين نقاش المستخدم الحقيقي وحملات التضليل المنسقة، خاصة عندما يتم نشر المحتوى الكاذب عبر مصادر متعددة تبدو مستقلة . لا يزال موقع WKNA News يستضيف المقالات الملفقة، مما يدل على مدى استمرارية هذا المحتوى المسموم في الويب المفهرس . اعترفت كل من DuckDuckGo و Brave بالحادث، لكن الثغرة الأساسية — وكلاء الذكاء الاصطناعي الذين يتعاملون مع UGC كمصدر موثوق — لا تزال دون تصحيح على المستوى المعماري .