45.000 Reddit-brugere narrede DuckDuckGo og Braves AI til at påstå, at Trump døde af rabies

Sådan blev hoaxen konstrueret

r/poisonai-kampagnen byggede tre lag af falske beviser, der var designet til at ligne en legitim nyhedsbegivenhed:

• Dusinvis af forfalskede Reddit-sørgeindlæg på tværs af flere tråde, hvilket skabte et indtryk af udbredt diskussion og sorg .
• Falske Trump Truth Social-skærmbilleder, der skulle ligne officielle opslag fra præsidentens konto .
• WKNA News, en 'pink slime'-side, der udgav sig for at være en legitim lokal tv-station i West Virginia . Siden offentliggjorde adskillige opdigtede artikler dateret 9.-22. juni 2026 med overskrifter som 'Rabies awareness emphasized following death of JD Vance' og 'Questions surrounding death of J.D. Vance and White House illness' . AI'en citerede disse sider som troværdige kilder .

Hvilke AI-systemer blev narret

DuckDuckGos AI Search Assist-funktion (Duck.ai) fortalte selvsikkert brugerne, at Trump døde af rabies den 7. juni 2026, og at Vance døde før ham . Den producerede en fuld, selvsikker svarboks, der citerede de falske WKNA News-artikler sammen med en uafhængig ægte ABC News-artikel om et rabiesoffer i Ohio som 'bevis' . Braves AI-søgning faldt også for den samme hoax og gentog den fabrikerede fortælling .

Begge AI-systemer indtog det plantede indhold fra Reddit og den falske nyhedsside og fremstillede det som sandhed, fordi fortællingen så ud til at være underbygget på tværs af flere indekserede kilder .

Hvorfor det virkede: Cornell Techs WARP-angreb

Et preprint fra Cornell Tech-forskere (Tingwei Zhang, Harold Trieu og kolleger), offentliggjort på arXiv i maj 2026, forklarer direkte den sårbarhed, som r/poisonai udnyttede . Artiklen — med titlen 'Deep-Research Agents Can Be Poisoned via User-Generated Content' — introducerede et angreb kaldet WARP (Web Agent Retrieval Poisoning) .

Centrale resultater fra studiet omfatter:

• En enkelt forgiftet passage på ~13 ord plantet i en brugeroprettet indholdsside (Reddit, Wikipedia, Quora) er nok til at styre en deep-research AI-agent mod angriberens valgte indhold .
• Fiktive produkter optrådte i 38-62 % af AI-genererede svar, når den forgiftede tekst blev spredt på tværs af flere tråde . I en test fik en sætning på 15 ord, der promoverede en opdigtet kryptovaluta kaldet 'BananaCoin', indsat i en enkelt Reddit-tråd, AI-agenter til at anbefale den som ægte og citerede det manipulerede indlæg selv som kilde .
• Deep-research-agenter henter 17-23 % af alle websider fra brugeroprettede indholdssider, hvilket skaber en koncentreret angrebsflade . En modstander, der forgifter en enkelt hyppigt hentet UGC-side, kan påvirke mange relaterede forespørgsler .

Den direkte forbindelse

r/poisonai-kampagnen er en virkelig demonstration af den nøjagtige sårbarhed, som Cornell Tech-artiklen beskriver. Subredditen bevæbnede den samme mekanisme — AI-søgningsagenter, der bredt indtager og stoler på brugeroprettet indhold uden at skelne det fra autoritative kilder . Fordi AI-forskningsagenter skraber Reddit, lavtroverdige sider og fora som kilder i cirka halvdelen af alle forespørgsler, skabte en koordineret såkampagne på tværs af flere tråde et indtryk af konsensus, som AI'en behandlede som bekræftelse .

Hændelsen beviser, at Cornell Tech-resultatet ikke er et laboratorieartefakt: den samme 13-ords forgiftningsteknik, skaleret op med flere tråde og en pink slime-side, kompromitterede produktions-AI-systemer, der bruges af millioner af mennesker .

Det vedvarende problem

Hoaxen lykkedes, fordi AI-søgningsværktøjer ikke pålideligt kan skelne mellem ægte brugerdiskussion og koordinerede desinformationskampagner, især når falsk indhold krydspostes på tværs af flere tilsyneladende uafhængige kilder . WKNA News-siden har stadig de fabrikerede artikler, hvilket demonstrerer, hvor vedholdende dette forgiftede indhold er på det indekserede web . Både DuckDuckGo og Brave har anerkendt hændelsen, men den underliggende sårbarhed — AI-agenter, der behandler UGC som autoritativt — forbliver uafhjulpet på arkitekturniveau .