YouTube และ X ถูกเปิดโปง: แพลตฟอร์มโซเชียลมีเดียกระแสหลักเป็นตัวป้อนเว็บ Deepfake อนาจาร 5.7 ล้านครั้งใน 4 เดือน

การละเมิดนโยบายโดยตรง รายงานของ ISD ระบุอย่างชัดเจนว่าข้อค้นพบนี้ 'ขัดแย้งโดยตรง' กับนโยบายของ YouTube ที่ห้ามเนื้อหาทางเพศที่ชัดเจน นักวิจัยพบว่าเนื้อหาที่ละเมิดนโยบายเหล่านี้ 'ค้นหาและเข้าถึงได้โดยง่าย' ซึ่งเปลี่ยนแพลตฟอร์มให้กลายเป็นประตูสู่การละเมิด Melanie Smith ผู้อำนวยการอาวุโสฝ่ายวิจัยและนโยบายของ ISD กล่าวว่า 'มันไม่ใช่แค่ YouTube เป็นแหล่งรับส่งต่อผู้ใช้แบบเฉยๆ ในหลายกรณี มันกำลังอำนวยความสะดวกในการใช้เครื่องมือเหล่านี้ด้วย' และเสริมว่าการบังคับใช้นโยบายที่มีอยู่ยังไม่ครอบคลุม

X และเครื่องมือค้นหาในฐานะจุดเข้าใช้งาน รายงานก่อนหน้านี้ของ ISD ในปี 2025 ระบุว่า X คิดเป็น 289,660 ครั้ง จากทั้งหมด 410,592 ครั้ง ที่มีการกล่าวถึงคีย์เวิร์ดของเครื่องมือ SIIA ระหว่างเดือนมิถุนายน 2020 ถึงกรกฎาคม 2025 หรือมากกว่า 70% ของกิจกรรมทั้งหมด ซึ่งส่วนใหญ่ขับเคลื่อนโดยบอท ยิ่งไปกว่านั้น การค้นหาง่ายๆ บน Google, Yahoo และ Bing ด้วยคำว่า 'deepnude', 'nudify' และ 'undress app' ให้ผลลัพธ์เป็นลิงก์โดยตรงไปยังเครื่องมือ SIIA ภายใน 20 ผลลัพธ์แรก Bing แสดงเครื่องมือดังกล่าวเป็นผลลัพธ์แรกสุดสำหรับทั้งสามคำค้นหา

ต้นทุนต่ำและโมเดลธุรกิจที่ทำกำไรมหาศาล

รายงานของ ISD เน้นย้ำถึงปัจจัยทางเศรษฐกิจที่ขับเคลื่อนการแพร่กระจายของเครื่องมือเหล่านี้

ราคาสำหรับผู้กระทำผิด เครื่องมือ Nudification อนุญาตให้ผู้ใช้สร้างเนื้อหาลามกอนาจารได้ในราคาเพียง 1 ดอลลาร์ต่อภาพ ทำให้การละเมิดนี้เข้าถึงได้สำหรับผู้กระทำผิดในวงกว้าง

รายได้สำหรับแพลตฟอร์ม การสืบสวนของ WIRED ซึ่งอ้างอิงในรายงาน ISD ประมาณการว่าแพลตฟอร์มเหล่านี้สร้างรายได้รวมกันสูงถึง 36 ล้านดอลลาร์ต่อปี โมเดลที่ทำกำไรมหาศาลนี้สร้างแรงจูงใจทางการเงินที่แข็งแกร่งให้ผู้ให้บริการทำให้บริการของตนสามารถค้นหาได้ง่าย

เป้าหมายและแรงจูงใจทั่วไป

งานวิจัยระบุรายละเอียดว่าใครเป็นเป้าหมายและเพราะเหตุใด โดยเผยให้เห็นรูปแบบที่เกินกว่าแรงจูงใจทางเพศเพียงอย่างเดียว

เหยื่อหลัก ISD พบว่าเป้าหมายทั่วไป ได้แก่ แฟนสาวและอดีตแฟนสาวในปัจจุบัน และที่น่าตกใจคือ ญาติ เช่น พี่สาว น้องสาว และลูกพี่ลูกน้อง บริบทที่กว้างขึ้นจากการศึกษาในปี 2025 ของ Oxford Internet Institute พบว่าจากโมเดล Deepfake ที่เปิดเผยต่อสาธารณะเกือบ 35,000 โมเดล 96% ตกเป็นเป้าหมายของผู้หญิง มีรายงานคดีที่เกี่ยวข้องกับ Deepfake ใน โรงเรียนมากกว่า 90 แห่งทั่วโลก

แรงจูงใจที่ไม่ใช่เรื่องทางเพศ แรงจูงใจเบื้องหลังการละเมิดไม่ได้เป็นเรื่องทางเพศเสมอไป Smith ตั้งข้อสังเกตว่า 'คำขอจำนวนมาก是关于การทำให้ผู้คนถูกไล่ออกจากงานและการทำลายอาชีพการงานของพวกเขาในทางที่ชั่วร้าย' การนำ Deepfake มาใช้เป็นอาวุธเพื่อทำลายชื่อเสียงและอาชีพการงานนี้แสดงถึงรูปแบบการละเมิดทางภาพที่ร้ายกาจเป็นพิเศษ

การตอบสนองทางกฎหมายและข้อบังคับ

ขนาดของปัญหาได้กระตุ้นให้เกิดการตอบสนองทางกฎหมายหลายชั้นทั้งในระดับรัฐบาลกลางและระดับรัฐ

รัฐบาลกลาง: พระราชบัญญัติ Take It Down ลงนามเป็นกฎหมายในเดือนพฤษภาคม 2025 พระราชบัญญัติ TAKE IT DOWN Act (Tools to Address Known Exploitation by Immobilizing Technological Deepfakes on Websites and Networks Act) ทำให้การเผยแพร่หรือข่มขู่ที่จะเผยแพร่ภาพอนาจารที่ไม่ได้รับความยินยอมเป็นความผิดทางอาญาของรัฐบาลกลาง ข้อกำหนดการปฏิบัติตามสำหรับแพลตฟอร์มมีผลบังคับใช้เต็มรูปแบบใน วันที่ 19 พฤษภาคม 2026 แพลตฟอร์มที่ถูกครอบคลุม รวมถึงโซเชียลมีเดียและแอปส่งข้อความ ต้องจัดให้มีกระบวนการให้เหยื่อขอให้ลบภาพอนาจารที่ไม่ได้รับความยินยอม (NCII) และต้องลบเนื้อหาพร้อมกับสำเนาที่เหมือนกันที่รู้จัก ภายใน 48 ชั่วโมง หลังจากได้รับคำขอที่ถูกต้อง มิฉะนั้นจะถูกดำเนินการโดย Federal Trade Commission (FTC)

ระดับรัฐ: การแบน Nudification เป็นครั้งแรกของรัฐมินนิโซตา รัฐมินนิโซตากลายเป็น รัฐแรกของสหรัฐฯ ที่ผ่านกฎหมายห้ามเทคโนโลยี 'Nudification' โดยเฉพาะ มีผลบังคับใช้ วันที่ 1 สิงหาคม 2026 กฎหมายห้ามผู้ที่เป็นเจ้าของหรือควบคุมเว็บไซต์ แอปพลิเคชัน หรือซอฟต์แวร์ อนุญาตให้ผู้ใช้เข้าถึง ดาวน์โหลด หรือใช้เทคโนโลยี Nudification นอกจากนี้ยังอนุญาตให้เหยื่อฟ้องร้องทางแพ่งต่อผู้กระทำผิด ร่างกฎหมายผ่านด้วยการสนับสนุนจากสองพรรคอย่างท่วมท้น รวมถึงคะแนนเสียงเป็นเอกฉันท์ 65-0 ในวุฒิสภาของรัฐ บริษัทที่ละเมิดอาจถูกลงโทษทางแพ่งสูงถึง 500,000 ดอลลาร์ ต่อการละเมิด

การตอบสนองของแพลตฟอร์มและช่องว่างในการบังคับใช้ ในเดือนมกราคม 2026 X เผชิญกับกระแสต่อต้านอย่างรุนแรงหลังจากมีรายงานว่าแชทบอท AI Grok ถูกใช้สร้างภาพทางเพศของเด็กอย่างน้อย 23,000 ภาพ และภาพของผู้หญิง 1.8 ล้านภาพ ภายในระยะเวลาเก้าวันในเดือนธันวาคม 2025 ต่อมา X จำกัดการเข้าถึง Grok ให้เฉพาะผู้ใช้ที่ชำระเงิน รายงานของ ISD เรียกร้องให้มีการตอบสนองในระดับระบบที่ประสานงานกัน รวมถึง ข้อบังคับแพลตฟอร์มที่เข้มงวดยิ่งขึ้น และ โครงการความรู้ด้านดิจิทัลในโรงเรียน รายงานยังชี้ให้เห็นถึงความกังวลอย่างกว้างขวางเกี่ยวกับช่องว่างในการบังคับใช้: นโยบายของ YouTube ในนามห้ามการเชื่อมโยงไปยังเนื้อหาที่โจ่งแจ้งทางเพศ แต่ ISD พบว่ากฎเหล่านั้นไม่ได้ถูกบังคับใช้อย่างครอบคลุม ทำให้แพลตฟอร์มยังคงเป็นประตูหลัก