कैसे रचा गया यह धोखा?

r/poisonai अभियान ने एक वैध समाचार घटना की तरह दिखने के लिए तीन परतों में झूठे सबूत तैयार किए:

• Reddit पर दर्जनों मनगढ़ंत शोक पोस्ट कई थ्रेड्स में, जिससे व्यापक चर्चा और शोक का आभास हुआ ।
• नकली ट्रंप Truth Social स्क्रीनशॉट, जो राष्ट्रपति के आधिकारिक खाते से पोस्ट दिखने के लिए डिज़ाइन किए गए थे ।
• WKNA News , एक 'पिंक स्लाइम' साइट जो पश्चिम वर्जीनिया के एक वैध स्थानीय प्रसारक के रूप में दिखती है। इस साइट ने 9-22 जून 2026 की तारीखों के साथ कई मनगढ़ंत लेख प्रकाशित किए, जिनके शीर्षक थे "जे.डी. वेंस की मृत्यु के बाद रेबीज़ जागरूकता पर जोर" और "जे.डी. वेंस की मृत्यु और व्हाइट हाउस की बीमारी को लेकर सवाल" । AI ने इन पेजों को विश्वसनीय स्रोतों के रूप में उद्धृत किया ।

कौन से AI सिस्टम बेवकूफ बने?

DuckDuckGo की AI सर्च असिस्ट फीचर (Duck.ai) ने आत्मविश्वास से उपयोगकर्ताओं को बताया कि ट्रंप की 7 जून 2026 को रेबीज़ से मौत हो गई और वेंस उनसे पहले मर चुके थे । इसने नकली WKNA News लेखों के साथ-साथ ओहायो में रेबीज़ के एक शिकार के बारे में एक असंबंधित वास्तविक ABC News लेख को 'सबूत' के रूप में उद्धृत करते हुए एक पूर्ण, आत्मविश्वासपूर्ण आंसर बॉक्स तैयार किया । Brave का AI सर्च भी उसी धोखे में फंस गया और उसने मनगढ़ंत कहानी को दोहराया ।

दोनों AI सिस्टम ने Reddit और नकली समाचार साइट से लगाए गए कंटेंट को ग्रहण किया, और फिर इसे सच के रूप में प्रस्तुत किया क्योंकि कहानी कई अनुक्रमित स्रोतों पर एक जैसी दिख रही थी ।

यह क्यों काम कर गया: कॉर्नेल टेक का WARP अटैक

मई 2026 में arXiv पर पोस्ट किए गए कॉर्नेल टेक शोधकर्ताओं (टिंगवेई झांग, हेरोल्ड ट्रियू और सहयोगी) के एक प्रीप्रिंट में सीधे तौर पर उस कमजोरी को समझाया गया है जिसका r/poisonai ने फायदा उठाया । पेपर का शीर्षक है "डीप-रिसर्च एजेंट्स कैन बी पॉइज़न्ड विया यूज़र-जनरेटेड कंटेंट" ।

अध्ययन के मुख्य निष्कर्ष:

• यूज़र-जनरेटेड कंटेंट पेज (Reddit, Wikipedia, Quora) पर लगाए गए सिर्फ ~13 शब्दों का एक जहरीला अंश एक डीप-रिसर्च AI एजेंट को हमलावर द्वारा चुनी गई सामग्री की ओर मोड़ने के लिए पर्याप्त है ।
• जब जहरीला टेक्स्ट कई थ्रेड्स में फैलाया गया, तो 38-62% AI-जनरेटेड प्रतिक्रियाओं में काल्पनिक उत्पाद दिखाई दिए । एक परीक्षण में, क्रिप्टोकरेंसी के एक थ्रेड में 15 शब्दों का एक वाक्य डाला गया जिसमें 'बनानाकॉइन' नामक एक मनगढ़ंत क्रिप्टोकरेंसी का प्रचार किया गया। इसके कारण AI एजेंटों ने इसे वास्तविक बताकर सिफारिश की, और उसी हेरफेर की गई पोस्ट को अपने स्रोत के रूप में उद्धृत किया ।
• डीप-रिसर्च एजेंट अपने सभी वेब पेजों का 17-23% यूज़र-जनरेटेड कंटेंट साइटों से खींचते हैं, जिससे हमले का एक केंद्रित सतह बनता है । एक प्रतिद्वंद्वी जो एक बार बार पुनर्प्राप्त किए गए UGC पेज को जहरीला बना देता है, वह कई संबंधित प्रश्नों को प्रभावित कर सकता है ।

सीधा संबंध

r/poisonai अभियान उसी कमजोरी का एक वास्तविक प्रदर्शन है जिसका वर्णन कॉर्नेल टेक पेपर में किया गया है। सबरेडिट ने उसी तंत्र को हथियार बनाया — AI सर्च एजेंट जो यूज़र-जनरेटेड कंटेंट को बड़े पैमाने पर ग्रहण करते हैं और उस पर भरोसा करते हैं, बिना इसे आधिकारिक स्रोतों से अलग किए । क्योंकि AI रिसर्च एजेंट लगभग आधे प्रश्नों में Reddit, कम विश्वसनीयता वाली साइटों और फ़ोरम को स्रोत के रूप में स्क्रैप करते हैं, एक समन्वित सीडिंग अभियान ने कई थ्रेड्स में सहमति का आभास पैदा किया, जिसे AI ने पुष्टि के रूप में माना ।

यह घटना साबित करती है कि कॉर्नेल टेक का निष्कर्ष सिर्फ एक प्रयोगशाला प्रयोग नहीं है: वही 13-शब्द जहर देने की तकनीक, जिसे कई थ्रेड्स और एक पिंक स्लाइम साइट के साथ बढ़ाया गया, ने लाखों लोगों द्वारा उपयोग किए जाने वाले प्रोडक्शन AI सिस्टम को सफलतापूर्वक समझौता कर लिया ।

लगातार बनी हुई समस्या

यह धोखा इसलिए सफल हुआ क्योंकि AI सर्च टूल्स वास्तविक उपयोगकर्ता चर्चा और समन्वित दुष्प्रचार अभियानों के बीच विश्वसनीय रूप से अंतर नहीं कर सकते, खासकर जब झूठी सामग्री को कई प्रतीत होने वाले स्वतंत्र स्रोतों पर क्रॉस-पोस्ट किया जाता है । WKNA News साइट अभी भी मनगढ़ंत लेखों को होस्ट करती है, जो दर्शाता है कि यह जहरीली सामग्री अनुक्रमित वेब में कितनी स्थायी है । DuckDuckGo और Brave दोनों ने इस घटना को स्वीकार किया है, लेकिन अंतर्निहित कमजोरी — AI एजेंट जो UGC को आधिकारिक मानते हैं — आर्किटेक्चरल स्तर पर अनपैच बनी हुई है ।

कैसे रचा गया यह धोखा?

r/poisonai अभियान ने एक वैध समाचार घटना की तरह दिखने के लिए तीन परतों में झूठे सबूत तैयार किए:

• Reddit पर दर्जनों मनगढ़ंत शोक पोस्ट कई थ्रेड्स में, जिससे व्यापक चर्चा और शोक का आभास हुआ ।
• नकली ट्रंप Truth Social स्क्रीनशॉट, जो राष्ट्रपति के आधिकारिक खाते से पोस्ट दिखने के लिए डिज़ाइन किए गए थे ।
• WKNA News , एक 'पिंक स्लाइम' साइट जो पश्चिम वर्जीनिया के एक वैध स्थानीय प्रसारक के रूप में दिखती है। इस साइट ने 9-22 जून 2026 की तारीखों के साथ कई मनगढ़ंत लेख प्रकाशित किए, जिनके शीर्षक थे "जे.डी. वेंस की मृत्यु के बाद रेबीज़ जागरूकता पर जोर" और "जे.डी. वेंस की मृत्यु और व्हाइट हाउस की बीमारी को लेकर सवाल" । AI ने इन पेजों को विश्वसनीय स्रोतों के रूप में उद्धृत किया ।

कौन से AI सिस्टम बेवकूफ बने?

DuckDuckGo की AI सर्च असिस्ट फीचर (Duck.ai) ने आत्मविश्वास से उपयोगकर्ताओं को बताया कि ट्रंप की 7 जून 2026 को रेबीज़ से मौत हो गई और वेंस उनसे पहले मर चुके थे । इसने नकली WKNA News लेखों के साथ-साथ ओहायो में रेबीज़ के एक शिकार के बारे में एक असंबंधित वास्तविक ABC News लेख को 'सबूत' के रूप में उद्धृत करते हुए एक पूर्ण, आत्मविश्वासपूर्ण आंसर बॉक्स तैयार किया । Brave का AI सर्च भी उसी धोखे में फंस गया और उसने मनगढ़ंत कहानी को दोहराया ।

दोनों AI सिस्टम ने Reddit और नकली समाचार साइट से लगाए गए कंटेंट को ग्रहण किया, और फिर इसे सच के रूप में प्रस्तुत किया क्योंकि कहानी कई अनुक्रमित स्रोतों पर एक जैसी दिख रही थी ।

यह क्यों काम कर गया: कॉर्नेल टेक का WARP अटैक

मई 2026 में arXiv पर पोस्ट किए गए कॉर्नेल टेक शोधकर्ताओं (टिंगवेई झांग, हेरोल्ड ट्रियू और सहयोगी) के एक प्रीप्रिंट में सीधे तौर पर उस कमजोरी को समझाया गया है जिसका r/poisonai ने फायदा उठाया । पेपर का शीर्षक है "डीप-रिसर्च एजेंट्स कैन बी पॉइज़न्ड विया यूज़र-जनरेटेड कंटेंट" ।

अध्ययन के मुख्य निष्कर्ष:

• यूज़र-जनरेटेड कंटेंट पेज (Reddit, Wikipedia, Quora) पर लगाए गए सिर्फ ~13 शब्दों का एक जहरीला अंश एक डीप-रिसर्च AI एजेंट को हमलावर द्वारा चुनी गई सामग्री की ओर मोड़ने के लिए पर्याप्त है ।
• जब जहरीला टेक्स्ट कई थ्रेड्स में फैलाया गया, तो 38-62% AI-जनरेटेड प्रतिक्रियाओं में काल्पनिक उत्पाद दिखाई दिए । एक परीक्षण में, क्रिप्टोकरेंसी के एक थ्रेड में 15 शब्दों का एक वाक्य डाला गया जिसमें 'बनानाकॉइन' नामक एक मनगढ़ंत क्रिप्टोकरेंसी का प्रचार किया गया। इसके कारण AI एजेंटों ने इसे वास्तविक बताकर सिफारिश की, और उसी हेरफेर की गई पोस्ट को अपने स्रोत के रूप में उद्धृत किया ।
• डीप-रिसर्च एजेंट अपने सभी वेब पेजों का 17-23% यूज़र-जनरेटेड कंटेंट साइटों से खींचते हैं, जिससे हमले का एक केंद्रित सतह बनता है । एक प्रतिद्वंद्वी जो एक बार बार पुनर्प्राप्त किए गए UGC पेज को जहरीला बना देता है, वह कई संबंधित प्रश्नों को प्रभावित कर सकता है ।

सीधा संबंध

r/poisonai अभियान उसी कमजोरी का एक वास्तविक प्रदर्शन है जिसका वर्णन कॉर्नेल टेक पेपर में किया गया है। सबरेडिट ने उसी तंत्र को हथियार बनाया — AI सर्च एजेंट जो यूज़र-जनरेटेड कंटेंट को बड़े पैमाने पर ग्रहण करते हैं और उस पर भरोसा करते हैं, बिना इसे आधिकारिक स्रोतों से अलग किए । क्योंकि AI रिसर्च एजेंट लगभग आधे प्रश्नों में Reddit, कम विश्वसनीयता वाली साइटों और फ़ोरम को स्रोत के रूप में स्क्रैप करते हैं, एक समन्वित सीडिंग अभियान ने कई थ्रेड्स में सहमति का आभास पैदा किया, जिसे AI ने पुष्टि के रूप में माना ।

यह घटना साबित करती है कि कॉर्नेल टेक का निष्कर्ष सिर्फ एक प्रयोगशाला प्रयोग नहीं है: वही 13-शब्द जहर देने की तकनीक, जिसे कई थ्रेड्स और एक पिंक स्लाइम साइट के साथ बढ़ाया गया, ने लाखों लोगों द्वारा उपयोग किए जाने वाले प्रोडक्शन AI सिस्टम को सफलतापूर्वक समझौता कर लिया ।

लगातार बनी हुई समस्या

यह धोखा इसलिए सफल हुआ क्योंकि AI सर्च टूल्स वास्तविक उपयोगकर्ता चर्चा और समन्वित दुष्प्रचार अभियानों के बीच विश्वसनीय रूप से अंतर नहीं कर सकते, खासकर जब झूठी सामग्री को कई प्रतीत होने वाले स्वतंत्र स्रोतों पर क्रॉस-पोस्ट किया जाता है । WKNA News साइट अभी भी मनगढ़ंत लेखों को होस्ट करती है, जो दर्शाता है कि यह जहरीली सामग्री अनुक्रमित वेब में कितनी स्थायी है । DuckDuckGo और Brave दोनों ने इस घटना को स्वीकार किया है, लेकिन अंतर्निहित कमजोरी — AI एजेंट जो UGC को आधिकारिक मानते हैं — आर्किटेक्चरल स्तर पर अनपैच बनी हुई है ।