Jak byl hoax zkonstruován

Kampaň na r/poisonai vytvořila tři vrstvy falešných důkazů, které měly vypadat jako legitimní zpravodajská událost:

• Desítky falešných smutečních příspěvků na Redditu napříč několika vlákny, které vytvářely dojem rozsáhlé diskuze a zármutku .
• Falešné screenshoty z Trumpovy sítě Truth Social, které měly vypadat jako oficiální příspěvky z prezidentského účtu .
• WKNA News, tzv. „pink slime“ web, který se vydával za legitimní lokální vysílatele v Západní Virginii . Tento web zveřejnil několik smyšlených článků datovaných od 9. do 22. června 2026 s titulky jako „Zdůraznění prevence vztekliny po smrti JD Vance“ nebo „Otázky kolem smrti J.D. Vance a nemoci v Bílém domě“ . AI tyto stránky citovala jako důvěryhodné zdroje .

Které AI systémy byly oklamány

Funkce DuckDuckGo AI Search Assist (Duck.ai) s jistotou uživatelům sdělovala, že Trump zemřel na vzteklinu 7. června 2026 a že Vance zemřel dříve . Vygenerovala úplné a sebevědomé odpovědní pole citující falešné články WKNA News, vedle nichž jako „důkaz“ uvedla i nesouvisející skutečný článek ABC News o oběti vztekliny v Ohiu . Brave AI vyhledávač se stal obětí stejného hoaxu a lživý narativ také převzal .

Oba AI systémy zkonzumovaly zasazený obsah z Redditu a falešného zpravodajského webu a začaly ho prezentovat jako pravdu, protože narativ vypadal potvrzeně napříč několika indexovanými zdroji .

Proč to fungovalo: WARP útok z Cornell Tech

Předtisk z dílny vědců Cornell Tech (Tingwei Zhang, Harold Trieu a kolegové), zveřejněný na arXiv v květnu 2026, přímo vysvětluje zranitelnost, kterou r/poisonai využila . Studie nazvaná „Deep-Research Agents Can Be Poisoned via User-Generated Content“ (Hluboko-rešeršní agenty lze otrávit pomocí uživatelského obsahu) představila útok s názvem WARP (Web Agent Retrieval Poisoning) .

Klíčová zjištění studie:

• Jediná otrávená pasáž o ~13 slovech vložená do stránky s uživatelským obsahem (Reddit, Wikipedia, Quora) stačí k nasměrování AI agenta k obsahu zvolenému útočníkem .
• Fiktivní produkty se objevily ve 38–62 % odpovědí generovaných AI, když byl otrávený text rozšířen napříč více vlákny . V jednom testu způsobila věta o 15 slovech propagující fiktivní kryptoměnu „BananaCoin“ vložená do jediného redditového vlákna to, že AI agenti tuto měnu doporučovali jako skutečnou, přičemž jako zdroj citovali právě manipulovaný příspěvek .
• Hluboko-rešeršní agenty čerpají 17–23 % všech webových stránek ze stránek s uživatelským obsahem, což vytváří koncentrovaný útočný povrch . Protivník, který otráví jednu často načítanou stránku s uživatelským obsahem, může ovlivnit mnoho souvisejících dotazů .

Přímá souvislost

Kampaň r/poisonai je reálnou ukázkou přesně té zranitelnosti, kterou studie Cornell Tech popisuje. Subreddit zneužil stejný mechanismus – AI vyhledávací agenty, které bez rozdílu konzumují a důvěřují uživatelskému obsahu, aniž by jej odlišovaly od autoritativních zdrojů . Protože AI rešeršní agenty scrapují Reddit, weby s nízkou důvěryhodností a fóra jako zdroje zhruba v polovině všech dotazů, vytvořila koordinovaná kampaň napříč několika vlákny zdání konsenzu, které AI považovala za potvrzení .

Tento incident dokazuje, že zjištění Cornell Tech není laboratorní artefakt: stejná technika otravy 13 slovy, ve škále doplněná o více vláken a „pink slime“ web, úspěšně kompromitovala produkční AI systémy používané miliony lidí .

Přetrvávající problém

Hoax uspěl, protože AI vyhledávací nástroje neumí spolehlivě rozlišit mezi skutečnou uživatelskou diskuzí a koordinovanou dezinformační kampaní, zejména pokud je falešný obsah křížově publikován na několika zdánlivě nezávislých zdrojích . Web WKNA News stále hostí smyšlené články, což ukazuje, jak perzistentní je otrávený obsah v indexovaném webu . DuckDuckGo i Brave incident uznaly, ale základní zranitelnost – AI agenti považující uživatelský obsah za autoritativní – zůstává na architektonické úrovni neopravená .

Jak byl hoax zkonstruován

Kampaň na r/poisonai vytvořila tři vrstvy falešných důkazů, které měly vypadat jako legitimní zpravodajská událost:

• Desítky falešných smutečních příspěvků na Redditu napříč několika vlákny, které vytvářely dojem rozsáhlé diskuze a zármutku .
• Falešné screenshoty z Trumpovy sítě Truth Social, které měly vypadat jako oficiální příspěvky z prezidentského účtu .
• WKNA News, tzv. „pink slime“ web, který se vydával za legitimní lokální vysílatele v Západní Virginii . Tento web zveřejnil několik smyšlených článků datovaných od 9. do 22. června 2026 s titulky jako „Zdůraznění prevence vztekliny po smrti JD Vance“ nebo „Otázky kolem smrti J.D. Vance a nemoci v Bílém domě“ . AI tyto stránky citovala jako důvěryhodné zdroje .

Které AI systémy byly oklamány

Funkce DuckDuckGo AI Search Assist (Duck.ai) s jistotou uživatelům sdělovala, že Trump zemřel na vzteklinu 7. června 2026 a že Vance zemřel dříve . Vygenerovala úplné a sebevědomé odpovědní pole citující falešné články WKNA News, vedle nichž jako „důkaz“ uvedla i nesouvisející skutečný článek ABC News o oběti vztekliny v Ohiu . Brave AI vyhledávač se stal obětí stejného hoaxu a lživý narativ také převzal .

Oba AI systémy zkonzumovaly zasazený obsah z Redditu a falešného zpravodajského webu a začaly ho prezentovat jako pravdu, protože narativ vypadal potvrzeně napříč několika indexovanými zdroji .

Proč to fungovalo: WARP útok z Cornell Tech

Předtisk z dílny vědců Cornell Tech (Tingwei Zhang, Harold Trieu a kolegové), zveřejněný na arXiv v květnu 2026, přímo vysvětluje zranitelnost, kterou r/poisonai využila . Studie nazvaná „Deep-Research Agents Can Be Poisoned via User-Generated Content“ (Hluboko-rešeršní agenty lze otrávit pomocí uživatelského obsahu) představila útok s názvem WARP (Web Agent Retrieval Poisoning) .

Klíčová zjištění studie:

• Jediná otrávená pasáž o ~13 slovech vložená do stránky s uživatelským obsahem (Reddit, Wikipedia, Quora) stačí k nasměrování AI agenta k obsahu zvolenému útočníkem .
• Fiktivní produkty se objevily ve 38–62 % odpovědí generovaných AI, když byl otrávený text rozšířen napříč více vlákny . V jednom testu způsobila věta o 15 slovech propagující fiktivní kryptoměnu „BananaCoin“ vložená do jediného redditového vlákna to, že AI agenti tuto měnu doporučovali jako skutečnou, přičemž jako zdroj citovali právě manipulovaný příspěvek .
• Hluboko-rešeršní agenty čerpají 17–23 % všech webových stránek ze stránek s uživatelským obsahem, což vytváří koncentrovaný útočný povrch . Protivník, který otráví jednu často načítanou stránku s uživatelským obsahem, může ovlivnit mnoho souvisejících dotazů .

Přímá souvislost

Kampaň r/poisonai je reálnou ukázkou přesně té zranitelnosti, kterou studie Cornell Tech popisuje. Subreddit zneužil stejný mechanismus – AI vyhledávací agenty, které bez rozdílu konzumují a důvěřují uživatelskému obsahu, aniž by jej odlišovaly od autoritativních zdrojů . Protože AI rešeršní agenty scrapují Reddit, weby s nízkou důvěryhodností a fóra jako zdroje zhruba v polovině všech dotazů, vytvořila koordinovaná kampaň napříč několika vlákny zdání konsenzu, které AI považovala za potvrzení .

Tento incident dokazuje, že zjištění Cornell Tech není laboratorní artefakt: stejná technika otravy 13 slovy, ve škále doplněná o více vláken a „pink slime“ web, úspěšně kompromitovala produkční AI systémy používané miliony lidí .

Přetrvávající problém

Hoax uspěl, protože AI vyhledávací nástroje neumí spolehlivě rozlišit mezi skutečnou uživatelskou diskuzí a koordinovanou dezinformační kampaní, zejména pokud je falešný obsah křížově publikován na několika zdánlivě nezávislých zdrojích . Web WKNA News stále hostí smyšlené články, což ukazuje, jak perzistentní je otrávený obsah v indexovaném webu . DuckDuckGo i Brave incident uznaly, ale základní zranitelnost – AI agenti považující uživatelský obsah za autoritativní – zůstává na architektonické úrovni neopravená .