Il buco nero dell'IA: quando Reddit fa credere ai motori di ricerca che Trump è morto di rabbia

Come una campagna di 45.000 utenti di Reddit ha ingannato DuckDuckGo e Brave facendo credere che Trump fosse morto di rabbia

Il 25 e 26 giugno 2026, il subreddit r/poisonai, una community di circa 45.000 membri, ha eseguito un'operazione coordinata che ha messo in luce una debolezza fondamentale della ricerca basata sull'IA . I membri hanno piantato una storia inventata secondo cui il presidente Donald Trump sarebbe morto di rabbia dopo essere stato morso dal vicepresidente JD Vance, anch'egli deceduto a causa della malattia . La bufala è riuscita a ingannare Duck.ai di DuckDuckGo (alimentato da Claude di Anthropic e GPT di OpenAI) e la ricerca AI di Brave, che hanno presentato la falsa narrazione come un dato di fatto . Non si è trattato solo di uno scherzo online, ma di una dimostrazione pratica di una vulnerabilità che i ricercatori della Cornell Tech avevano recentemente documentato in uno studio preliminare .

Come è stata costruita la bufala

La campagna di r/poisonai ha costruito tre livelli di false prove progettate per sembrare un evento di cronaca legittimo:

• Decine di falsi post di cordoglio su Reddit in molteplici thread, creando l'illusione di una discussione e di un dolore diffusi .
• Screenshot falsi di Trump Truth Social, progettati per sembrare post ufficiali dell'account del Presidente .
• WKNA News, un sito di "pink slime" che si mascherava da emittente locale del West Virginia . Il sito ha pubblicato molti articoli inventati datati 9-22 giugno 2026, con titoli come "Enfasi sulla consapevolezza della rabbia dopo la morte di JD Vance" e "Domande sulla morte di J.D. Vance e sulla malattia alla Casa Bianca" . L'IA ha citato queste pagine come fonti attendibili .

Quali sistemi di IA sono stati ingannati

La funzione AI Search Assist di DuckDuckGo (Duck.ai) ha detto con sicurezza agli utenti che Trump era morto di rabbia il 7 giugno 2026 e che Vance era morto prima di lui . Ha prodotto una risposta completa e sicura, citando i falsi articoli di WKNA News insieme a un articolo reale non correlato della ABC News su una vittima della rabbia in Ohio come "prova" . Anche la ricerca AI di Brave è caduta nella stessa trappola, riproponendo la narrazione inventata .

Entrambi i sistemi di IA hanno assorbito il contenuto piantato da Reddit e dal sito di notizie false, per poi presentarlo come verità perché la narrazione sembrava confermata da molteplici fonti indicizzate .

Perché ha funzionato: l'attacco WARP della Cornell Tech

Uno studio preliminare dei ricercatori della Cornell Tech (Tingwei Zhang, Harold Trieu e colleghi), pubblicato su arXiv nel maggio 2026, spiega direttamente la vulnerabilità sfruttata da r/poisonai . L'articolo, intitolato "Gli agenti di deep research possono essere avvelenati tramite contenuti generati dagli utenti", ha introdotto un attacco chiamato WARP (Web Agent Retrieval Poisoning) .

Risultati chiave dello studio:

• Un singolo passaggio avvelenato di circa 13 parole inserito in una pagina di contenuti generati dagli utenti (Reddit, Wikipedia, Quora) è sufficiente per orientare un agente di deep research dell'IA verso contenuti scelti dall'attaccante .
• I prodotti fittizi sono apparsi nel 38-62% delle risposte generate dall'IA quando il testo avvelenato era diffuso su più thread . In un test, una frase di 15 parole che promuoveva una criptovaluta inventata chiamata "BananaCoin", inserita in un singolo thread di Reddit, ha indotto gli agenti di IA a raccomandarla come reale, citando il post manipolato stesso come fonte .
• Gli agenti di deep research attingono il 17-23% di tutte le pagine web da siti di contenuti generati dagli utenti, creando una superficie di attacco concentrata . Un avversario che avvelena una singola pagina UGC frequentemente recuperata può influenzare molte query correlate .

Il collegamento diretto

La campagna di r/poisonai è una dimostrazione reale dell'esatta vulnerabilità descritta nello studio della Cornell Tech. Il subreddit ha armato lo stesso meccanismo: agenti di ricerca IA che ingeriscono e si fidano ampiamente dei contenuti generati dagli utenti senza distinguerli dalle fonti autorevoli . Poiché gli agenti di ricerca IA raschiano Reddit, siti a bassa credibilità e forum come fonti in circa la metà di tutte le query, una campagna di seeding coordinata su più thread ha creato l'apparenza di consenso, che l'IA ha trattato come corroborazione .

L'incidente dimostra che il risultato della Cornell Tech non è un artefatto di laboratorio: la stessa tecnica di avvelenamento da 13 parole, ampliata con più thread e un sito di "pink slime", ha compromesso con successo i sistemi di IA in produzione utilizzati da milioni di persone .

Il problema persistente

La bufala ha avuto successo perché gli strumenti di ricerca basati sull'IA non sono in grado di distinguere in modo affidabile tra discussioni genuine degli utenti e campagne di disinformazione coordinate, specialmente quando i contenuti falsi vengono pubblicati in modo incrociato su più fonti apparentemente indipendenti . Il sito WKNA News ospita ancora gli articoli inventati, dimostrando quanto questo contenuto avvelenato sia persistente nel web indicizzato . Sia DuckDuckGo che Brave hanno riconosciuto l'incidente, ma la vulnerabilità sottostante — agenti di IA che trattano i contenuti generati dagli utenti come autorevoli — rimane non risolta a livello architetturale .