Gaussian Probing: ตรวจจับโมเดล AI สร้างสื่อลามกเด็กได้แม่นยำ 100% โดยไม่ต้องสร้างภาพสักภาพ

แทนที่จะถามว่าโมเดลที่ถูกปรับแต่งแล้วให้ภาพผลลัพธ์ออกมาเป็นอย่างไร Gaussian probing กลับถามว่า adaptor เปลี่ยนแปลงโปรไฟล์การตอบสนองภายในของโมเดลในพื้นที่สถานะ Gaussian ดั้งเดิมของกระบวนการ diffusion อย่างไร

ทำงานอย่างไร?

วิธีการทำงานคือการวัดว่า LoRA adaptor รบกวนการทำงาน (functionally perturbs) ของการแทนค่าภายใน (internal representations) ของโมเดลอย่างไร โดยเฉพาะอย่างยิ่ง มันจะป้อนชุดอ้างอิง (reference ensemble) ของสถานะแฝงแบบสุ่ม Gaussian (random Gaussian latent states) ผ่านกระบวนการ diffusion ของโมเดล และสังเกตว่าการกระตุ้นที่ซ่อนอยู่ (hidden activations) เปลี่ยนแปลงไปอย่างไร

วัตถุทางคณิตศาสตร์หลักคือ "probe functional" ซึ่งคำนวณค่าเฉลี่ยของการแทนค่าที่ซ่อนอยู่ (hidden representation) ตลอดขั้นตอนเวลา (timesteps) ของ diffusion สำหรับชุดอินพุตสัญญาณรบกวนแบบ Gaussian จากนั้นรวมสิ่งเหล่านี้เป็นเวกเตอร์คุณลักษณะ (feature vector) ที่แสดงลักษณะของผลกระทบของ adaptor จากนั้นตัวแยกประเภท (classifier) จะถูกฝึกบนเวกเตอร์คุณลักษณะเหล่านี้เพื่อแยกแยะ adaptor ที่เป็นอันตราย (ที่ถูกปรับแต่งเพื่อ CSAM) ออกจาก adaptor ที่ไม่เป็นอันตราย

Vinith Suriyakumar หัวหน้าทีมวิจัยและนักศึกษาปริญญาโทจาก MIT อธิบายว่า "ก่อนหน้านี้ เราไม่มีวิธีวัดสิ่งนี้เลย มันเป็นจุดบอดขนาดใหญ่ที่บางคนใช้ประโยชน์"

ความแม่นยำ: 100% ในการทดสอบ

ในการทดสอบ ขั้นตอน Gaussian probing สามารถระบุรูปแบบของโมเดลที่ถูกปรับแต่งเพื่อสร้าง CSAM ได้ด้วย ความแม่นยำ 100 เปอร์เซ็นต์ นักวิจัยพบว่า Gaussian probing สามารถแยกแยะการปรับแต่งที่เป็นอันตรายออกจากการปรับแต่งที่ไม่เป็นอันตรายได้อย่างน่าเชื่อถือ ซึ่งแตกต่างจากวิธีพื้นฐานที่ใช้ค่าน้ำหนักดิบ (raw-weight baselines) ที่อาจพึ่งพาสิ่งปลีกย่อยจากการฝึกโดยบังเอิญมากกว่าสัญญาณเนื้อหาที่มีความหมาย

เทคนิคนี้ยังมีประสิทธิภาพภายใต้ข้อจำกัดในโลกแห่งความเป็นจริง ซึ่งบ่งชี้ว่าสามารถนำไปปรับใช้ในวงกว้างบนแพลตฟอร์มอย่าง Hugging Face หรือ Civitai ซึ่งผู้ใช้สามารถอัปโหลด LoRA adaptors ได้

งานวิจัยนี้เป็นความร่วมมือระหว่าง Vinith Suriyakumar และรองศาสตราจารย์ Ashia Wilson และ Marzyeh Ghassemi จาก MIT ร่วมกับนักวิจัยจาก Thorn รวมถึง Dr. Rebecca Portnoff

ภาวะที่กลืนไม่เข้าคายไม่ออกทางกฎหมายที่ Gaussian Probing แก้ได้

การตรวจสอบความปลอดภัยของ AI แบบมาตรฐานอาศัยกระบวนการที่ตรงไปตรงมา: ป้อน prompt ที่เป็นอันตรายให้โมเดล แล้วตรวจสอบผลลัพธ์ที่ได้ สำหรับ CSAM นั้นเป็นไปไม่ได้ตามกฎหมาย การสร้างเนื้อหาดังกล่าวถือเป็นสิ่งผิดกฎหมายในสหรัฐอเมริกา ไม่ว่าจะมีเจตนาอย่างไรก็ตาม

Gaussian probing แก้ไขภาวะที่กลืนไม่เข้าคายไม่ออกนี้โดยการประเมิน ความสามารถ ของโมเดลในการผลิต CSAM โดยพิจารณาจากการกระตุ้นภายในล้วนๆ โดยไม่ต้องสร้างภาพผลลัพธ์ออกมา ตามที่ประกาศของ MIT ระบุว่า "เทคนิคของพวกเขาตรวจสอบว่าการทำงานภายในของโมเดลเปลี่ยนแปลงไปอย่างไรเมื่อถูก fine-tune ด้วย CSAM โดยไม่จำเป็นต้องเห็นภาพใดๆ"

วิธีนี้ยังหลีกเลี่ยงปัญหาทางจริยธรรมในการให้นักวิจัยด้านความปลอดภัยต้องเผชิญกับเนื้อหาที่กระทบกระเทือนจิตใจ เนื่องจากไม่จำเป็นต้องดูภาพ CSAM ใดๆ ในระหว่างการทดสอบ

วิกฤต CSAM ที่สร้างโดย AI ที่กำลังขยายตัว

เทคนิคนี้เกิดขึ้นในช่วงเวลาที่ปริมาณ CSAM ที่สร้างโดย AI กำลังระเบิดตัวเพิ่มขึ้น สถิติสำคัญจากแหล่งข้อมูลที่เชื่อถือได้ ได้แก่:

• NCMEC (National Center for Missing and Exploited Children) ได้รับรายงานเกี่ยวกับ CSAM ที่เกี่ยวข้องกับ AI มากกว่า 1.5 ล้านครั้งในปี 2025 เพิ่มขึ้นอย่างมากจาก 67,000 ครั้งตลอดทั้งปี 2024 คิดเป็นการเพิ่มขึ้นประมาณ 22 เท่าเมื่อเทียบกับปีก่อนหน้า
• ใน ช่วงครึ่งแรกของปี 2025 เพียงปีเดียว NCMEC ได้รับรายงานเกี่ยวกับ AI และ CSAM 485,000 ครั้ง โดยบริษัทเทคประมาณ 35 แห่งรายงานเนื้อหาดังกล่าว
• Internet Watch Foundation (IWF) ประเมินว่า ภาพและวิดีโอที่สร้างโดย AI จำนวน 8,029 รายการ แสดงให้เห็นการล่วงละเมิดทางเพศเด็กที่สมจริงในปี 2025 แม้ว่า CSAM จาก AI จะยังคงเป็นสัดส่วนที่ค่อนข้างน้อยเมื่อเทียบกับเนื้อหาทั้งหมดที่รายงาน แต่ก็ถูกอธิบายว่า "แพร่หลายและเพิ่มขึ้น" ทั้งในด้านขนาด ความซับซ้อน และการเข้าถึง
• รัฐสภายุโรป ตั้งข้อสังเกตว่าปี 2025 พบ "การเพิ่มขึ้นอย่างมหาศาล" ของ CSAM ที่สร้างโดย AI โดยโมเดลข้อความเป็นภาพแบบโอเพนซอร์สเป็นช่องทางหลัก
• NCMEC รายงานว่า เพิ่มขึ้น 1,325% ในรายงานที่เกี่ยวข้องกับ generative AI ระหว่างปี 2023 ถึง 2024 เพียงปีเดียว

เนื้อหาวิดีโอ AI ที่สมจริงและเคลื่อนไหวได้เต็มรูปแบบกลายเป็นเรื่องปกติ ในปี 2025 IWF ระบุวิดีโอการล่วงละเมิดทางเพศเด็กที่สร้างโดย AI ได้ 3,443 รายการ โดย 65% อยู่ในหมวด A ซึ่งเป็นเนื้อหาที่ร้ายแรงที่สุดภายใต้กฎหมายของสหราชอาณาจักร

ความหมายต่อความปลอดภัยของ AI และการคุ้มครองเด็ก

Gaussian probing เติมเต็มช่องว่างที่สำคัญในชุดเครื่องมือความปลอดภัยของ AI การป้องกัน CSAM ที่สร้างโดย AI ในปัจจุบันอาศัยการกรองอินพุต การกรองเอาต์พุต และการคัดกรองข้อมูลฝึกสอนเป็นหลัก แต่งานวิจัยได้แสดงให้เห็นว่า "การนำแนวคิดกลับมาใช้ใหม่นั้นเป็นไปได้ผ่านการ fine-tune แม้ว่าการกรองจะสมบูรณ์แบบก็ตาม" ซึ่งหมายความว่าวิธีการกรองในปัจจุบันให้ "การป้องกันที่จำกัดสำหรับโมเดลแบบปิด (closed-weight) และไม่มีการป้องกันสำหรับโมเดลแบบเปิด (open-weight)"

การทำให้แพลตฟอร์มสามารถตรวจจับโมเดลที่ถูกปรับแต่งอย่างเป็นอันตรายก่อนที่จะถูกเผยแพร่อย่างกว้างขวาง Gaussian probing อาจช่วยให้แพลตฟอร์มอย่าง Hugging Face และ Civitai สามารถคัดกรอง LoRA adaptors ที่ถูกอัปโหลดได้โดยไม่ต้อง resort ไปสู่การสร้างเนื้อหาที่ผิดกฎหมาย

สำหรับตอนนี้ เทคนิคนี้เป็นทางเลือกที่ปรับขนาดได้และไม่ต้องสร้างเนื้อหา สำหรับการประเมินความปลอดภัยของโมเดลในโดเมนที่มีความเสี่ยงสูงซึ่งการสร้างเนื้อหาถูกจำกัดตามกฎหมาย ซึ่งเป็นเครื่องมือที่วงการต้องการอย่างยิ่งในขณะที่วิกฤต CSAM ที่สร้างโดย AI กำลังเร่งตัวขึ้น