45 000 hengen Reddit-kampanja huijasi DuckDuckGon ja Braven tekoälyn väittämään Trumpin kuolleen raivotautiin

Miten huijaus rakennettiin

r/poisonai-kampanja loi kolme kerrosta valheellista todistusaineistoa, joiden piti näyttää aidolta uutistapahtumalta:

• Kymmeniä väärennettyjä Reddit-suruviestereitä useissa keskusteluketjuissa, mikä loi vaikutelman laajasta keskustelusta ja surusta .
• Väärennettyjä Trumpin Truth Social -kuvakaappauksia, joiden piti näyttää presidentin tilin virallisilta päivityksiltä .
• WKNA News, "pink slime" -sivusto, joka esiintyy aidon länsivirginialaisen paikallislähettäjänä . Sivusto julkaisi useita väärennettyjä artikkeleita päivämäärillä 9.–22. kesäkuuta 2026, otsikoilla kuten "Rabies awareness emphasized following death of JD Vance" ja "Questions surrounding death of J.D. Vance and White House illness" . Tekoäly viittasi näihin sivuihin luotettavina lähteinä .

Mitkä tekoälyjärjestelmät haksahtivat

DuckDuckGon AI Search Assist -toiminto (Duck.ai) kertoi käyttäjille luottavaisesti, että Trump kuoli raivotautiin 7. kesäkuuta 2026 ja että Vance kuoli ennen häntä . Se tuotti täyden, vakuuttavan vastauslaatikon, jossa se viittasi väärennettyihin WKNA News -artikkeleihin sekä erääseen aidon ABC Newsin artikkeliin Ohion raivotautiuhrista ”todisteina” . Myös Braven tekoälyhakukone lankesi samaan ansaan ja toisti keksityn kertomuksen .

Molemmat tekoälyjärjestelmät nielivät istutetun sisällön Redditistä ja väärennetystä uutissivustosta ja esittivät sen totuutena, koska kertomus näytti olevan vahvistettu useissa indeksoiduissa lähteissä .

Miksi se toimi: Cornell Techin WARP-hyökkäys

Cornell Techin tutkijoiden (Tingwei Zhang, Harold Trieu ja kollegat) esitutkimus, joka julkaistiin arXiv-palvelussa toukokuussa 2026, selittää suoraan r/poisonain hyödyntämän haavoittuvuuden . Artikkeli – nimeltään "Deep-Research Agents Can Be Poisoned via User-Generated Content" – esitteli hyökkäyksen nimeltä WARP (Web Agent Retrieval Poisoning) .

Tutkimuksen keskeiset havainnot:

• Yksi noin 13 sanan myrkytetty kohta käyttäjien luomalla sivulla (Reddit, Wikipedia, Quora) riittää ohjaamaan syvätutkimukseen kykenevää tekoälyagenttia hyökkääjän valitsemaan suuntaan .
• Keksityt tuotteet esiintyivät 38–62 prosentissa tekoälyn tuottamista vastauksista, kun myrkytetty teksti oli levitetty useisiin keskusteluketjuihin . Yhdessä testissä 15 sanan lause, joka mainosti keksittyä kryptovaluuttaa nimeltä "BananaCoin" yhdessä Reddit-ketjussa, sai tekoälyagentit suosittelemaan sitä oikeana, ja ne viittasivat itse manipuloituun viestiin lähteenä .
• Syvätutkimusagentit hakevat 17–23 prosenttia kaikista verkkosivuista käyttäjien luomilta sisältösivustoilta, mikä luo keskittyneen hyökkäyspinnan . Hyökkääjä, joka myrkyttää yhden usein haetun UGC-sivun, voi vaikuttaa moniin toisiinsa liittyviin kyselyihin .

Suora yhteys

r/poisonai-kampanja on täsmälleen saman haavoittuvuuden todellinen osoitus, jota Cornell Techin artikkeli kuvaa. Yhteisö käytti aseena samaa mekanismia – tekoälyhakukoneet, jotka laajasti nielivät ja luottavat käyttäjien luomaan sisältöön erottelematta sitä arvovaltaisista lähteistä . Koska tekoälytutkimusagentit kaapivat Redditiä, heikkolaatuisia sivustoja ja foorumeita lähteinä noin puolessa kaikista kyselyistä, koordinoitu istutuskampanja useissa ketjuissa loi vaikutelman konsensuksesta, jota tekoäly piti vahvistuksena .

Tapaus todistaa, ettei Cornell Techin löydös ole pelkkä laboratorioartefakti: sama 13 sanan myrkytystekniikka, laajennettuna useilla ketjuilla ja pink-slime-sivustolla, onnistui vaarantamaan tuotantokäytössä olevat tekoälyjärjestelmät, joita miljoonat ihmiset käyttävät .

Pysyvä ongelma

Huijaus onnistui, koska tekoälyhakutyökalut eivät kykene luotettavasti erottamaan aitoa käyttäjäkeskustelua koordinoiduista disinformaatiokampanjoista, varsinkin kun väärä sisältö on jaettu useisiin näennäisesti riippumattomiin lähteisiin . WKNA News -sivusto isännöi edelleen väärennettyjä artikkeleita, mikä osoittaa, kuinka pysyvää tämä myrkytetty sisältö on indeksoidussa verkossa . Sekä DuckDuckGo että Brave ovat myöntäneet tapauksen, mutta taustalla oleva haavoittuvuus – tekoälyagentit, jotka kohtelevat käyttäjien luomaa sisältöä arvovaltaisena – on edelleen korjaamatta arkkitehtonisella tasolla .