Il buco nero dell'IA: quando Reddit fa credere ai motori di ricerca che Trump è morto di rabbia
La community r/poisonai (circa 45.000 membri) ha ingannato Duck.ai e Brave AI con una storia falsa sulla morte di Trump e Vance per rabbia, utilizzando post inventati, screenshot falsi e un sito di 'pink slime journal... L'attacco ha sfruttato una vulnerabilità descritta in uno studio della Cornell Tech: bastano cir...
Pubblicato daModificato con DeepSeek-V4-FlashImmagini generate con GPT Image 1.5
La community r/poisonai (circa 45.000 membri) ha ingannato Duck.ai e Brave AI con una storia falsa sulla morte di Trump e Vance per rabbia, utilizzando post inventati, screenshot falsi e un sito di 'pink slime journal...
L'attacco ha sfruttato una vulnerabilità descritta in uno studio della Cornell Tech: bastano circa 13 parole 'avvelenate' su una pagina web (Reddit, Wikipedia, Quora) per manipolare gli agenti di ricerca basati sull'IA.
Nei test di laboratorio, prodotti fittizi sono apparsi nel 38 62% delle risposte generate dall'IA quando il contenuto avvelenato era diffuso su più thread.
Search & fact-check with cited sources for What does the recent r/poisonai Reddit campaign exposing AI search vulnerabilities reveal about hA conceptual depiction of how AI search tools can be manipulated through planted content on user-generated platforms like Reddit.
AI Prompt
Create a landscape editorial hero image for this Studio Global article: Search & fact-check with cited sources for What does the recent r/poisonai Reddit campaign exposing AI search vulnerabilities reveal about h. Article summary: Here is the full fact-checked breakdown of both incidents and their connection.. Topic tags: general, general web, user generated, academic. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, charts with fake numbers, clickbait thumbnails, icons, and tiny thumbnail layouts. Make it useful as an illustrative visual, not as factual evide
openai.com
Come una campagna di 45.000 utenti di Reddit ha ingannato DuckDuckGo e Brave facendo credere che Trump fosse morto di rabbia
Il 25 e 26 giugno 2026, il subreddit r/poisonai, una community di circa 45.000 membri, ha eseguito un'operazione coordinata che ha messo in luce una debolezza fondamentale della ricerca basata sull'IA . I membri hanno piantato una storia inventata secondo cui il presidente Donald Trump sarebbe morto di rabbia dopo essere stato morso dal vicepresidente JD Vance, anch'egli deceduto a causa della malattia . La bufala è riuscita a ingannare Duck.ai di DuckDuckGo (alimentato da Claude di Anthropic e GPT di OpenAI) e la ricerca AI di Brave, che hanno presentato la falsa narrazione come un dato di fatto . Non si è trattato solo di uno scherzo online, ma di una dimostrazione pratica di una vulnerabilità che i ricercatori della Cornell Tech avevano recentemente documentato in uno studio preliminare .
Studio Global AI
Continue your research
This page includes a source-backed answer you can continue inside Studio Global.
What is the short answer to "Il buco nero dell'IA: quando Reddit fa credere ai motori di ricerca che Trump è morto di rabbia"?
La community r/poisonai (circa 45.000 membri) ha ingannato Duck.ai e Brave AI con una storia falsa sulla morte di Trump e Vance per rabbia, utilizzando post inventati, screenshot falsi e un sito di 'pink slime journal...
What are the key points to validate first?
La community r/poisonai (circa 45.000 membri) ha ingannato Duck.ai e Brave AI con una storia falsa sulla morte di Trump e Vance per rabbia, utilizzando post inventati, screenshot falsi e un sito di 'pink slime journal... L'attacco ha sfruttato una vulnerabilità descritta in uno studio della Cornell Tech: bastano circa 13 parole 'avvelenate' su una pagina web (Reddit, Wikipedia, Quora) per manipolare gli agenti di ricerca basati sull'IA.
What should I do next in practice?
Nei test di laboratorio, prodotti fittizi sono apparsi nel 38 62% delle risposte generate dall'IA quando il contenuto avvelenato era diffuso su più thread.
Il buco nero dell'IA: quando Reddit fa credere ai motori di ricerca che Trump è morto di rabbia
La community r/poisonai (circa 45.000 membri) ha ingannato Duck.ai e Brave AI con una storia falsa sulla morte di Trump e Vance per rabbia, utilizzando post inventati, screenshot falsi e un sito di 'pink slime journal... L'attacco ha sfruttato una vulnerabilità descritta in uno studio della Cornell Tech: bastano cir...
Pubblicato daModificato con DeepSeek-V4-FlashImmagini generate con GPT Image 1.5
La community r/poisonai (circa 45.000 membri) ha ingannato Duck.ai e Brave AI con una storia falsa sulla morte di Trump e Vance per rabbia, utilizzando post inventati, screenshot falsi e un sito di 'pink slime journal...
L'attacco ha sfruttato una vulnerabilità descritta in uno studio della Cornell Tech: bastano circa 13 parole 'avvelenate' su una pagina web (Reddit, Wikipedia, Quora) per manipolare gli agenti di ricerca basati sull'IA.
Nei test di laboratorio, prodotti fittizi sono apparsi nel 38 62% delle risposte generate dall'IA quando il contenuto avvelenato era diffuso su più thread.
Search & fact-check with cited sources for What does the recent r/poisonai Reddit campaign exposing AI search vulnerabilities reveal about hA conceptual depiction of how AI search tools can be manipulated through planted content on user-generated platforms like Reddit.
AI Prompt
Create a landscape editorial hero image for this Studio Global article: Search & fact-check with cited sources for What does the recent r/poisonai Reddit campaign exposing AI search vulnerabilities reveal about h. Article summary: Here is the full fact-checked breakdown of both incidents and their connection.. Topic tags: general, general web, user generated, academic. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, charts with fake numbers, clickbait thumbnails, icons, and tiny thumbnail layouts. Make it useful as an illustrative visual, not as factual evide
openai.com
Come una campagna di 45.000 utenti di Reddit ha ingannato DuckDuckGo e Brave facendo credere che Trump fosse morto di rabbia
Il 25 e 26 giugno 2026, il subreddit r/poisonai, una community di circa 45.000 membri, ha eseguito un'operazione coordinata che ha messo in luce una debolezza fondamentale della ricerca basata sull'IA . I membri hanno piantato una storia inventata secondo cui il presidente Donald Trump sarebbe morto di rabbia dopo essere stato morso dal vicepresidente JD Vance, anch'egli deceduto a causa della malattia . La bufala è riuscita a ingannare Duck.ai di DuckDuckGo (alimentato da Claude di Anthropic e GPT di OpenAI) e la ricerca AI di Brave, che hanno presentato la falsa narrazione come un dato di fatto . Non si è trattato solo di uno scherzo online, ma di una dimostrazione pratica di una vulnerabilità che i ricercatori della Cornell Tech avevano recentemente documentato in uno studio preliminare .
Studio Global AI
Continue your research
This page includes a source-backed answer you can continue inside Studio Global.
What is the short answer to "Il buco nero dell'IA: quando Reddit fa credere ai motori di ricerca che Trump è morto di rabbia"?
La community r/poisonai (circa 45.000 membri) ha ingannato Duck.ai e Brave AI con una storia falsa sulla morte di Trump e Vance per rabbia, utilizzando post inventati, screenshot falsi e un sito di 'pink slime journal...
What are the key points to validate first?
La community r/poisonai (circa 45.000 membri) ha ingannato Duck.ai e Brave AI con una storia falsa sulla morte di Trump e Vance per rabbia, utilizzando post inventati, screenshot falsi e un sito di 'pink slime journal... L'attacco ha sfruttato una vulnerabilità descritta in uno studio della Cornell Tech: bastano circa 13 parole 'avvelenate' su una pagina web (Reddit, Wikipedia, Quora) per manipolare gli agenti di ricerca basati sull'IA.
What should I do next in practice?
Nei test di laboratorio, prodotti fittizi sono apparsi nel 38 62% delle risposte generate dall'IA quando il contenuto avvelenato era diffuso su più thread.
La campagna di r/poisonai ha costruito tre livelli di false prove progettate per sembrare un evento di cronaca legittimo:
Decine di falsi post di cordoglio su Reddit in molteplici thread, creando l'illusione di una discussione e di un dolore diffusi .
Screenshot falsi di Trump Truth Social, progettati per sembrare post ufficiali dell'account del Presidente .
WKNA News, un sito di "pink slime" che si mascherava da emittente locale del West Virginia . Il sito ha pubblicato molti articoli inventati datati 9-22 giugno 2026, con titoli come "Enfasi sulla consapevolezza della rabbia dopo la morte di JD Vance" e "Domande sulla morte di J.D. Vance e sulla malattia alla Casa Bianca" . L'IA ha citato queste pagine come fonti attendibili .
Quali sistemi di IA sono stati ingannati
La funzione AI Search Assist di DuckDuckGo (Duck.ai) ha detto con sicurezza agli utenti che Trump era morto di rabbia il 7 giugno 2026 e che Vance era morto prima di lui . Ha prodotto una risposta completa e sicura, citando i falsi articoli di WKNA News insieme a un articolo reale non correlato della ABC News su una vittima della rabbia in Ohio come "prova" . Anche la ricerca AI di Brave è caduta nella stessa trappola, riproponendo la narrazione inventata .
Entrambi i sistemi di IA hanno assorbito il contenuto piantato da Reddit e dal sito di notizie false, per poi presentarlo come verità perché la narrazione sembrava confermata da molteplici fonti indicizzate .
Perché ha funzionato: l'attacco WARP della Cornell Tech
Uno studio preliminare dei ricercatori della Cornell Tech (Tingwei Zhang, Harold Trieu e colleghi), pubblicato su arXiv nel maggio 2026, spiega direttamente la vulnerabilità sfruttata da r/poisonai . L'articolo, intitolato "Gli agenti di deep research possono essere avvelenati tramite contenuti generati dagli utenti", ha introdotto un attacco chiamato WARP (Web Agent Retrieval Poisoning).
Risultati chiave dello studio:
Un singolo passaggio avvelenato di circa 13 parole inserito in una pagina di contenuti generati dagli utenti (Reddit, Wikipedia, Quora) è sufficiente per orientare un agente di deep research dell'IA verso contenuti scelti dall'attaccante .
I prodotti fittizi sono apparsi nel 38-62% delle risposte generate dall'IA quando il testo avvelenato era diffuso su più thread . In un test, una frase di 15 parole che promuoveva una criptovaluta inventata chiamata "BananaCoin", inserita in un singolo thread di Reddit, ha indotto gli agenti di IA a raccomandarla come reale, citando il post manipolato stesso come fonte .
Gli agenti di deep research attingono il 17-23% di tutte le pagine web da siti di contenuti generati dagli utenti, creando una superficie di attacco concentrata . Un avversario che avvelena una singola pagina UGC frequentemente recuperata può influenzare molte query correlate .
Il collegamento diretto
La campagna di r/poisonai è una dimostrazione reale dell'esatta vulnerabilità descritta nello studio della Cornell Tech. Il subreddit ha armato lo stesso meccanismo: agenti di ricerca IA che ingeriscono e si fidano ampiamente dei contenuti generati dagli utenti senza distinguerli dalle fonti autorevoli . Poiché gli agenti di ricerca IA raschiano Reddit, siti a bassa credibilità e forum come fonti in circa la metà di tutte le query, una campagna di seeding coordinata su più thread ha creato l'apparenza di consenso, che l'IA ha trattato come corroborazione .
L'incidente dimostra che il risultato della Cornell Tech non è un artefatto di laboratorio: la stessa tecnica di avvelenamento da 13 parole, ampliata con più thread e un sito di "pink slime", ha compromesso con successo i sistemi di IA in produzione utilizzati da milioni di persone .
Il problema persistente
La bufala ha avuto successo perché gli strumenti di ricerca basati sull'IA non sono in grado di distinguere in modo affidabile tra discussioni genuine degli utenti e campagne di disinformazione coordinate, specialmente quando i contenuti falsi vengono pubblicati in modo incrociato su più fonti apparentemente indipendenti . Il sito WKNA News ospita ancora gli articoli inventati, dimostrando quanto questo contenuto avvelenato sia persistente nel web indicizzato . Sia DuckDuckGo che Brave hanno riconosciuto l'incidente, ma la vulnerabilità sottostante — agenti di IA che trattano i contenuti generati dagli utenti come autorevoli — rimane non risolta a livello architetturale .
La campagna di r/poisonai ha costruito tre livelli di false prove progettate per sembrare un evento di cronaca legittimo:
Decine di falsi post di cordoglio su Reddit in molteplici thread, creando l'illusione di una discussione e di un dolore diffusi .
Screenshot falsi di Trump Truth Social, progettati per sembrare post ufficiali dell'account del Presidente .
WKNA News, un sito di "pink slime" che si mascherava da emittente locale del West Virginia . Il sito ha pubblicato molti articoli inventati datati 9-22 giugno 2026, con titoli come "Enfasi sulla consapevolezza della rabbia dopo la morte di JD Vance" e "Domande sulla morte di J.D. Vance e sulla malattia alla Casa Bianca" . L'IA ha citato queste pagine come fonti attendibili .
Quali sistemi di IA sono stati ingannati
La funzione AI Search Assist di DuckDuckGo (Duck.ai) ha detto con sicurezza agli utenti che Trump era morto di rabbia il 7 giugno 2026 e che Vance era morto prima di lui . Ha prodotto una risposta completa e sicura, citando i falsi articoli di WKNA News insieme a un articolo reale non correlato della ABC News su una vittima della rabbia in Ohio come "prova" . Anche la ricerca AI di Brave è caduta nella stessa trappola, riproponendo la narrazione inventata .
Entrambi i sistemi di IA hanno assorbito il contenuto piantato da Reddit e dal sito di notizie false, per poi presentarlo come verità perché la narrazione sembrava confermata da molteplici fonti indicizzate .
Perché ha funzionato: l'attacco WARP della Cornell Tech
Uno studio preliminare dei ricercatori della Cornell Tech (Tingwei Zhang, Harold Trieu e colleghi), pubblicato su arXiv nel maggio 2026, spiega direttamente la vulnerabilità sfruttata da r/poisonai . L'articolo, intitolato "Gli agenti di deep research possono essere avvelenati tramite contenuti generati dagli utenti", ha introdotto un attacco chiamato WARP (Web Agent Retrieval Poisoning).
Risultati chiave dello studio:
Un singolo passaggio avvelenato di circa 13 parole inserito in una pagina di contenuti generati dagli utenti (Reddit, Wikipedia, Quora) è sufficiente per orientare un agente di deep research dell'IA verso contenuti scelti dall'attaccante .
I prodotti fittizi sono apparsi nel 38-62% delle risposte generate dall'IA quando il testo avvelenato era diffuso su più thread . In un test, una frase di 15 parole che promuoveva una criptovaluta inventata chiamata "BananaCoin", inserita in un singolo thread di Reddit, ha indotto gli agenti di IA a raccomandarla come reale, citando il post manipolato stesso come fonte .
Gli agenti di deep research attingono il 17-23% di tutte le pagine web da siti di contenuti generati dagli utenti, creando una superficie di attacco concentrata . Un avversario che avvelena una singola pagina UGC frequentemente recuperata può influenzare molte query correlate .
Il collegamento diretto
La campagna di r/poisonai è una dimostrazione reale dell'esatta vulnerabilità descritta nello studio della Cornell Tech. Il subreddit ha armato lo stesso meccanismo: agenti di ricerca IA che ingeriscono e si fidano ampiamente dei contenuti generati dagli utenti senza distinguerli dalle fonti autorevoli . Poiché gli agenti di ricerca IA raschiano Reddit, siti a bassa credibilità e forum come fonti in circa la metà di tutte le query, una campagna di seeding coordinata su più thread ha creato l'apparenza di consenso, che l'IA ha trattato come corroborazione .
L'incidente dimostra che il risultato della Cornell Tech non è un artefatto di laboratorio: la stessa tecnica di avvelenamento da 13 parole, ampliata con più thread e un sito di "pink slime", ha compromesso con successo i sistemi di IA in produzione utilizzati da milioni di persone .
Il problema persistente
La bufala ha avuto successo perché gli strumenti di ricerca basati sull'IA non sono in grado di distinguere in modo affidabile tra discussioni genuine degli utenti e campagne di disinformazione coordinate, specialmente quando i contenuti falsi vengono pubblicati in modo incrociato su più fonti apparentemente indipendenti . Il sito WKNA News ospita ancora gli articoli inventati, dimostrando quanto questo contenuto avvelenato sia persistente nel web indicizzato . Sia DuckDuckGo che Brave hanno riconosciuto l'incidente, ma la vulnerabilità sottostante — agenti di IA che trattano i contenuti generati dagli utenti come autorevoli — rimane non risolta a livello architetturale .
futurism.comDuckDuckGo's AI Feature Is Telling Users That Trump Died of ...
analyticsinsight.netReddit Trolls Create Fake Trump Death Narrative, Raise Questions Over AI Reliability
watson.chSuchmaschinen-KI behauptet, Trump sei an Tollwut gestorben – nach Biss durch Vize
linkedin.com#duckduckgo #ai #misinformation #reddit | Gen AI Spotlight - LinkedIn