Reddit 4.5萬人聯手佈局 DuckDuckGo同Brave AI齊齊中伏 誤報特朗普死於瘋狗症

2026年6月25至26號，Reddit上面一個叫r/poisonai嘅群組——大約有45,000個成員——做咗一次有組織嘅行動，暴露咗AI搜尋機械人嘅一個大弱點 。佢哋放咗一個完全作故仔嘅消息，話總統特朗普俾副總統JD Vance咬完之後死咗，而Vance自己都因為瘋狗症死咗 。呢個惡作劇成功呃到DuckDuckGo嘅Duck.ai（背後用Anthropic嘅Claude同OpenAI嘅GPT）同Brave嘅AI搜尋，令佢哋當真話一樣報導出嚟 。呢件事唔單止係網上玩嘢咁簡單——佢係一個真實嘅示範，展示咗康奈爾理工學院（Cornell Tech）啲研究者喺一篇預印本研究報告入面講嘅漏洞 。

個惡作劇係點樣整出嚟㗎？

r/poisonai呢個行動整咗三層假證據，睇起上嚟就好似真新聞一樣：

• 幾十個假嘅Reddit哀悼帖，分散喺唔同嘅討論串入面，營造出好多人討論緊嘅假象 。
• 假嘅特朗普Truth Social截圖，扮到好似係總統個官方賬戶出嘅帖 。
• WKNA News，一個「粉紅肉漿」（pink slime）網站，扮到好似係西維珍尼亞州嘅正經電視台 。呢個網站出咗幾篇假報道，日期係2026年6月9號到22號，標題例如「JD Vance死後狂推瘋狗症意識」同「圍繞J.D. Vance死因同白宮疾病嘅問題」 。個AI仲當呢啲網頁係可信來源嚟引用 。

邊啲AI系統中咗招？

DuckDuckGo嘅AI搜尋輔助功能（Duck.ai）好有信心咁同用戶講，話特朗普喺2026年6月7號死咗，Vance仲早過佢走 。佢出咗一個好完整、好肯定嘅答案框，引用咗假嘅WKNA News文章，仲夾雜咗一篇無關嘅真ABC新聞——關於俄亥俄州一個瘋狗症受害者——當做「證據」 。Brave嘅AI搜尋一樣中咗招，都係照樣重複個作故仔嘅講法 。

兩個AI系統都吸咗Reddit同假新聞網站嘅內容，然後當真話咁攞出嚟，原因係呢個故仔喺多個來源入面都「睇起嚟有共識」 。

點解會成功？康奈爾理工學院嘅WARP攻擊

一篇由康奈爾理工學院研究者（Tingwei Zhang、Harold Trieu同其他人）嘅預印本研究，2026年5月上載到arXiv，直接解釋咗r/poisonai利用嘅漏洞 。呢篇報告叫「Deep-Research Agents Can Be Poisoned via User-Generated Content」，介紹咗一個叫**WARP（Web Agent Retrieval Poisoning，網絡代理人檢索下毒）**嘅攻擊 。

研究嘅主要發現包括：

• 喺用戶生成內容嘅網頁（Reddit、維基、Quora），放一段大約13個字嘅假資訊，就足以誤導一個深度研究AI代理人，令佢跟住攻擊者想佢睇嘅內容 。
• 將假資訊分散喺多個討論串，虛構產品喺AI生成嘅回應入面出現嘅比率高達38%至62% 。喺一個測試入面，一句15個字嘅句子，推廣一個叫「BananaCoin」嘅假加密貨幣，AI代理人就推薦佢係真嘅，仲引用埋個被操控嘅帖當做來源 。
• 深度研究代理人拎嘅所有網頁，有17%至23%係嚟自用戶生成內容網站，呢個就係一個好大嘅攻擊面 。一個攻擊者只要喺一個成日被拎嘅用戶生成內容頁落毒，就可以影響好多相關嘅查詢 。

直接關係

r/poisonai呢次行動，正正係康奈爾理工學院篇報告講嘅漏洞嘅真實示範。佢哋用嘅機制一模一樣——AI搜尋代理人大量吸納用戶生成內容，當正佢哋係權威來源，完全唔識分真假 。因為AI研究代理人喺差唔多一半嘅查詢入面都會去Reddit、低可信度網站同論壇度搵料，一個有組織嘅佈局，用多個討論營造出共識假象，AI就當係「多方證實」 。

呢件事證明咗康奈爾嘅研究唔係淨係實驗室入面嘅空想：同一招13個字落毒技巧，只要放大規模，整多幾個討論串同一個粉紅肉漿網站，就成功呃到幾百萬人用緊嘅生產級AI系統 。

問題仲喺度

個惡作劇成功，係因為AI搜尋工具冇辦法可靠咁分辨真嘅用戶討論同有組織嘅虛假資訊行動，尤其係當假內容喺多個睇起嚟無關嘅來源之間交叉出現 。WKNA News個網站仲保留住啲假報道，顯示呢啲落毒內容喺索引網絡入面有好持久嘅影響 。DuckDuckGo同Brave都話知道呢件事，但係底層嘅漏洞——AI代理人當用戶生成內容係權威——喺結構層面上仲未修補到 。