วิธีการสร้างข่าวลวง

แคมเปญของ r/poisonai สร้างหลักฐานเท็จสามชั้นที่ออกแบบมาให้ดูเหมือนเหตุการณ์ข่าวจริง:

• โพสต์แสดงความเสียใจปลอมหลายสิบโพสต์ ในหลายเธรดของ Reddit ทำให้ดูเหมือนว่ามีการพูดคุยและแสดงความเสียใจอย่างกว้างขวาง
• ภาพหน้าจอปลอมจาก Truth Social ของทรัมป์ ที่ออกแบบให้ดูเหมือนโพสต์อย่างเป็นทางการจากบัญชีของประธานาธิบดี
• WKNA News เว็บไซต์ "pink slime" ที่ปลอมตัวเป็นสถานีข่าวท้องถิ่นในเวสต์เวอร์จิเนีย เว็บไซต์นี้เผยแพร่บทความที่สร้างขึ้นหลายชิ้น ลงวันที่ 9-22 มิถุนายน 2026 โดยมีพาดหัวเช่น "Rabies awareness emphasized following death of JD Vance" และ "Questions surrounding death of J.D. Vance and White House illness" AI อ้างอิงหน้าเหล่านี้ว่าเป็นแหล่งข้อมูลที่น่าเชื่อถือ

ระบบ AI ใดบ้างที่ถูกหลอก

DuckDuckGo's AI Search Assist (Duck.ai) แจ้งผู้ใช้อย่างมั่นใจว่าทรัมป์เสียชีวิตจากโรคพิษสุนัขบ้าเมื่อวันที่ 7 มิถุนายน 2026 และ Vance เสียชีวิตก่อนหน้าเขา มันสร้างช่องคำตอบที่เต็มไปด้วยความมั่นใจ อ้างอิงบทความปลอมของ WKNA News พร้อมกับบทความจริงของ ABC News ที่ไม่เกี่ยวข้องเกี่ยวกับเหยื่อโรคพิษสุนัขบ้าในโอไฮโอเป็น "หลักฐาน" Brave AI Search ก็ถูกหลอกด้วยข่าวลวงเดียวกัน โดยนำเรื่องราวที่สร้างขึ้นมาเล่าซ้ำ

ระบบ AI ทั้งสองระบบนำเนื้อหาที่ปักไว้จาก Reddit และเว็บไซต์ข่าวปลอมเข้าไปประมวลผล แล้วนำเสนอเป็นความจริงเพราะเรื่องราวดูเหมือนได้รับการยืนยันจากหลายแหล่งที่ดัชนีไว้

ทำไมถึงสำเร็จ: การโจมตีแบบ WARP ของ Cornell Tech

การศึกษาก่อนตีพิมพ์ (preprint) จาก นักวิจัย Cornell Tech (Tingwei Zhang, Harold Trieu และคณะ) ซึ่งโพสต์บน arXiv ในเดือนพฤษภาคม 2026 อธิบายถึงช่องโหว่ที่ r/poisonai ใช้ประโยชน์ งานวิจัยชื่อ "Deep-Research Agents Can Be Poisoned via User-Generated Content" ได้แนะนำการโจมตีที่เรียกว่า WARP (Web Agent Retrieval Poisoning)

ข้อค้นพบสำคัญจากการศึกษา:

• ข้อความพิษเพียง ~13 คำ ที่ฝังอยู่ในหน้าคอนเทนต์ที่ผู้ใช้สร้างขึ้น (Reddit, Wikipedia, Quora) เพียงพอที่จะควบคุม AI ที่ใช้งานเชิงลึก (deep-research agent) ไปยังเนื้อหาที่ผู้โจมตีต้องการ
• สินค้าสมมติปรากฏในผลตอบรับจาก AI 38–62% เมื่อข้อความพิษกระจายไปในหลายเธรด ในการทดสอบหนึ่ง ประโยค 15 คำที่ส่งเสริมสกุลเงินดิจิทัลสมมติชื่อ "BananaCoin" ที่แทรกในเธรด Reddit เพียงเธรดเดียว ทำให้ AI แนะนำมันว่าเป็นของจริง โดยอ้างถึงโพสต์ที่ถูกดัดแปลงนั้นเองเป็นแหล่งที่มา
• เอเจนต์วิจัยเชิงลึกดึงหน้าเว็บ 17–23% ทั้งหมดจากเว็บไซต์ที่ผู้ใช้สร้างขึ้น ทำให้เกิดพื้นที่ผิวการโจมตีที่เข้มข้น ผู้ไม่หวังดีที่ปักพิษเพียงหน้า UGC เดียวที่ถูกดึงข้อมูลบ่อยๆ สามารถส่งผลกระทบต่อข้อค้นหาที่เกี่ยวข้องจำนวนมาก

ความเชื่อมโยงโดยตรง

แคมเปญของ r/poisonai คือการสาธิตช่องโหว่ที่งานวิจัยของ Cornell Tech อธิบายไว้ในโลกความจริง กลุ่มย่อยใช้อำนาจของกลไกเดียวกัน — AI ค้นหาที่บริโภคและเชื่อถือเนื้อหาที่ผู้ใช้สร้างขึ้นอย่างกว้างขวาง โดยไม่แยกแยะจากแหล่งข้อมูลที่เชื่อถือได้ เนื่องจากเอเจนต์วิจัย AI ค้นหา Reddit เว็บไซต์ที่มีความน่าเชื่อถือต่ำ และฟอรัมเป็นแหล่งข้อมูลประมาณครึ่งหนึ่งของคำค้นหาทั้งหมด การรณรงค์ปลูกข้อมูลแบบประสานงานในหลายเธรดจึงสร้างภาพของความเห็นพ้อง ซึ่ง AI ตีความว่าเป็นการยืนยัน

เหตุการณ์นี้พิสูจน์ว่าข้อค้นพบของ Cornell Tech ไม่ใช่เพียงสิ่งที่เกิดขึ้นในห้องทดลอง: เทคนิคการปักพิษ 13 คำเดียวกัน เมื่อขยายขนาดด้วยหลายเธรดและเว็บไซต์ pink slime ก็สามารถเจาะระบบ AI ที่ใช้งานจริงซึ่งมีคนนับล้านใช้ได้สำเร็จ

ปัญหาที่ยังคงอยู่

ข่าวลวงประสบความสำเร็จเพราะเครื่องมือค้นหา AI ไม่สามารถแยกความแตกต่างระหว่างการสนทนาที่แท้จริงของผู้ใช้กับการรณรงค์ข้อมูลบิดเบือนที่ประสานงานกันได้อย่างน่าเชื่อถือ โดยเฉพาะอย่างยิ่งเมื่อเนื้อหาเท็จถูกโพสต์ข้ามไปยังหลายแหล่งที่ดูเหมือนเป็นอิสระต่อกัน เว็บไซต์ WKNA News ยังคงโฮสต์บทความที่สร้างขึ้น แสดงให้เห็นว่าเนื้อหาที่ถูกปักพิษนี้ยังคงมีอยู่ในเว็บที่มีดัชนี ทั้ง DuckDuckGo และ Brave รับทราบเหตุการณ์ที่เกิดขึ้นแล้ว แต่ช่องโหว่พื้นฐาน — AI ที่ปฏิบัติต่อ UGC ราวกับเป็นข้อมูลที่เชื่อถือได้ — ยังคงไม่ได้รับการแก้ไขในระดับสถาปัตยกรรม

วิธีการสร้างข่าวลวง

แคมเปญของ r/poisonai สร้างหลักฐานเท็จสามชั้นที่ออกแบบมาให้ดูเหมือนเหตุการณ์ข่าวจริง:

• โพสต์แสดงความเสียใจปลอมหลายสิบโพสต์ ในหลายเธรดของ Reddit ทำให้ดูเหมือนว่ามีการพูดคุยและแสดงความเสียใจอย่างกว้างขวาง
• ภาพหน้าจอปลอมจาก Truth Social ของทรัมป์ ที่ออกแบบให้ดูเหมือนโพสต์อย่างเป็นทางการจากบัญชีของประธานาธิบดี
• WKNA News เว็บไซต์ "pink slime" ที่ปลอมตัวเป็นสถานีข่าวท้องถิ่นในเวสต์เวอร์จิเนีย เว็บไซต์นี้เผยแพร่บทความที่สร้างขึ้นหลายชิ้น ลงวันที่ 9-22 มิถุนายน 2026 โดยมีพาดหัวเช่น "Rabies awareness emphasized following death of JD Vance" และ "Questions surrounding death of J.D. Vance and White House illness" AI อ้างอิงหน้าเหล่านี้ว่าเป็นแหล่งข้อมูลที่น่าเชื่อถือ

ระบบ AI ใดบ้างที่ถูกหลอก

DuckDuckGo's AI Search Assist (Duck.ai) แจ้งผู้ใช้อย่างมั่นใจว่าทรัมป์เสียชีวิตจากโรคพิษสุนัขบ้าเมื่อวันที่ 7 มิถุนายน 2026 และ Vance เสียชีวิตก่อนหน้าเขา มันสร้างช่องคำตอบที่เต็มไปด้วยความมั่นใจ อ้างอิงบทความปลอมของ WKNA News พร้อมกับบทความจริงของ ABC News ที่ไม่เกี่ยวข้องเกี่ยวกับเหยื่อโรคพิษสุนัขบ้าในโอไฮโอเป็น "หลักฐาน" Brave AI Search ก็ถูกหลอกด้วยข่าวลวงเดียวกัน โดยนำเรื่องราวที่สร้างขึ้นมาเล่าซ้ำ

ระบบ AI ทั้งสองระบบนำเนื้อหาที่ปักไว้จาก Reddit และเว็บไซต์ข่าวปลอมเข้าไปประมวลผล แล้วนำเสนอเป็นความจริงเพราะเรื่องราวดูเหมือนได้รับการยืนยันจากหลายแหล่งที่ดัชนีไว้

ทำไมถึงสำเร็จ: การโจมตีแบบ WARP ของ Cornell Tech

การศึกษาก่อนตีพิมพ์ (preprint) จาก นักวิจัย Cornell Tech (Tingwei Zhang, Harold Trieu และคณะ) ซึ่งโพสต์บน arXiv ในเดือนพฤษภาคม 2026 อธิบายถึงช่องโหว่ที่ r/poisonai ใช้ประโยชน์ งานวิจัยชื่อ "Deep-Research Agents Can Be Poisoned via User-Generated Content" ได้แนะนำการโจมตีที่เรียกว่า WARP (Web Agent Retrieval Poisoning)

ข้อค้นพบสำคัญจากการศึกษา:

• ข้อความพิษเพียง ~13 คำ ที่ฝังอยู่ในหน้าคอนเทนต์ที่ผู้ใช้สร้างขึ้น (Reddit, Wikipedia, Quora) เพียงพอที่จะควบคุม AI ที่ใช้งานเชิงลึก (deep-research agent) ไปยังเนื้อหาที่ผู้โจมตีต้องการ
• สินค้าสมมติปรากฏในผลตอบรับจาก AI 38–62% เมื่อข้อความพิษกระจายไปในหลายเธรด ในการทดสอบหนึ่ง ประโยค 15 คำที่ส่งเสริมสกุลเงินดิจิทัลสมมติชื่อ "BananaCoin" ที่แทรกในเธรด Reddit เพียงเธรดเดียว ทำให้ AI แนะนำมันว่าเป็นของจริง โดยอ้างถึงโพสต์ที่ถูกดัดแปลงนั้นเองเป็นแหล่งที่มา
• เอเจนต์วิจัยเชิงลึกดึงหน้าเว็บ 17–23% ทั้งหมดจากเว็บไซต์ที่ผู้ใช้สร้างขึ้น ทำให้เกิดพื้นที่ผิวการโจมตีที่เข้มข้น ผู้ไม่หวังดีที่ปักพิษเพียงหน้า UGC เดียวที่ถูกดึงข้อมูลบ่อยๆ สามารถส่งผลกระทบต่อข้อค้นหาที่เกี่ยวข้องจำนวนมาก

ความเชื่อมโยงโดยตรง

แคมเปญของ r/poisonai คือการสาธิตช่องโหว่ที่งานวิจัยของ Cornell Tech อธิบายไว้ในโลกความจริง กลุ่มย่อยใช้อำนาจของกลไกเดียวกัน — AI ค้นหาที่บริโภคและเชื่อถือเนื้อหาที่ผู้ใช้สร้างขึ้นอย่างกว้างขวาง โดยไม่แยกแยะจากแหล่งข้อมูลที่เชื่อถือได้ เนื่องจากเอเจนต์วิจัย AI ค้นหา Reddit เว็บไซต์ที่มีความน่าเชื่อถือต่ำ และฟอรัมเป็นแหล่งข้อมูลประมาณครึ่งหนึ่งของคำค้นหาทั้งหมด การรณรงค์ปลูกข้อมูลแบบประสานงานในหลายเธรดจึงสร้างภาพของความเห็นพ้อง ซึ่ง AI ตีความว่าเป็นการยืนยัน

เหตุการณ์นี้พิสูจน์ว่าข้อค้นพบของ Cornell Tech ไม่ใช่เพียงสิ่งที่เกิดขึ้นในห้องทดลอง: เทคนิคการปักพิษ 13 คำเดียวกัน เมื่อขยายขนาดด้วยหลายเธรดและเว็บไซต์ pink slime ก็สามารถเจาะระบบ AI ที่ใช้งานจริงซึ่งมีคนนับล้านใช้ได้สำเร็จ

ปัญหาที่ยังคงอยู่

ข่าวลวงประสบความสำเร็จเพราะเครื่องมือค้นหา AI ไม่สามารถแยกความแตกต่างระหว่างการสนทนาที่แท้จริงของผู้ใช้กับการรณรงค์ข้อมูลบิดเบือนที่ประสานงานกันได้อย่างน่าเชื่อถือ โดยเฉพาะอย่างยิ่งเมื่อเนื้อหาเท็จถูกโพสต์ข้ามไปยังหลายแหล่งที่ดูเหมือนเป็นอิสระต่อกัน เว็บไซต์ WKNA News ยังคงโฮสต์บทความที่สร้างขึ้น แสดงให้เห็นว่าเนื้อหาที่ถูกปักพิษนี้ยังคงมีอยู่ในเว็บที่มีดัชนี ทั้ง DuckDuckGo และ Brave รับทราบเหตุการณ์ที่เกิดขึ้นแล้ว แต่ช่องโหว่พื้นฐาน — AI ที่ปฏิบัติต่อ UGC ราวกับเป็นข้อมูลที่เชื่อถือได้ — ยังคงไม่ได้รับการแก้ไขในระดับสถาปัตยกรรม