เมื่อข้อมูลฝึกมากขึ้น ภาพจาก AI อาจระบุไม่ได้ว่าได้รับอิทธิพลจากภาพใด

จากนั้นพวกเขาสร้าง ensemble 24 ชุด โดยใช้คลังภาพสาธารณะ 7 แห่ง ขนาดชุดข้อมูลตั้งแต่ 256 ภาพไปจนถึงมากกว่า 160,000 ภาพ สำหรับแต่ละเอาต์พุต นักวิจัยสร้างสิ่งที่เรียกว่า “จักรวาลโต้แย้ง” (counterfactual universe) ซึ่งประกอบด้วยผลลัพธ์หลายเวอร์ชันหลังจากตัดหน่วยข้อมูลฝึกแต่ละหน่วยออก

ความแตกต่างสูงสุดระหว่างภาพต้นฉบับกับภาพที่ได้หลังตัดข้อมูลออกถูกเรียกว่า counterfactual radius ซึ่งใช้เป็นตัววัดขนาดอิทธิพลเชิงสาเหตุสูงสุดของหน่วยข้อมูลหนึ่งหน่วยต่อผลลัพธ์นั้น

“Attribution decay” แปลว่าอะไร

ผลการทดลองชี้ว่า เมื่อชุดข้อมูลฝึกมีขนาดใหญ่ขึ้น ค่า counterfactual radius จะลดลง การลบภาพฝึกเพียงภาพเดียวจึงมีแนวโน้มทำให้ภาพที่สร้างขึ้นเปลี่ยนแปลงน้อยมาก หรือแทบไม่เปลี่ยนเลย

เมื่อข้อมูลมีขนาดใหญ่เพียงพอ ปรากฏการณ์นี้อาจไม่ได้เกิดกับภาพรายภาพเท่านั้น แต่ยังเกิดกับกลุ่มข้อมูลทั้งหมดได้ด้วย เช่น ผลงานของศิลปินคนใดคนหนึ่ง หรือภาพถ่ายทั้งหมดที่มีบุคคลคนหนึ่งอยู่ในภาพ การลบข้อมูลทั้งกลุ่มอาจยังไม่ทำให้ตัวอย่างที่โมเดลสร้างเปลี่ยนแปลงอย่างมีนัยสำคัญในความหมายของการทดสอบนี้

พูดให้ตรงที่สุดคือ หากการลบหน่วยข้อมูลหนึ่งหน่วยไม่ทำให้เอาต์พุตเปลี่ยนแปลง หน่วยนั้นก็ไม่สามารถถูกระบุว่าเป็นสาเหตุของเอาต์พุตดังกล่าวได้ภายใต้มาตรวัด counterfactual ของงานวิจัย

ผลต่อข้อถกเถียงเรื่องลิขสิทธิ์

ข้อค้นพบนี้อาจทำให้ทฤษฎีการละเมิดลิขสิทธิ์บางรูปแบบพิสูจน์ได้ยากขึ้นในคดีที่ฟ้องบริษัทผู้พัฒนาเครื่องมือสร้างภาพ เช่น Midjourney, OpenAI หรือ Microsoft โดยเฉพาะกรณีที่ผู้ฟ้องต้องการชี้ว่าเอาต์พุตหนึ่งภาพเกิดจากผลงานของศิลปินรายใดรายหนึ่ง หรือเกิดจากการที่โมเดลเรียนรู้สำเนาผลงานและสไตล์ของศิลปินคนนั้นโดยตรง

หากการลบผลงานทั้งหมดของศิลปินออกจากการจำลองยังไม่ทำให้เอาต์พุตเปลี่ยนแปลงอย่างเห็นได้ชัด การพิสูจน์ “อิทธิพลเชิงสาเหตุโดยตรงต่อเอาต์พุตเฉพาะภาพ” ก็อาจทำได้ยากขึ้น

แต่ผลการศึกษานี้ไม่ได้ตัดสินคดีลิขสิทธิ์ และไม่ได้สร้างหลักเกณฑ์ทางกฎหมายขึ้นมาใหม่ ประเด็นในคดีจริงอาจครอบคลุมการคัดลอกโดยไม่ได้รับอนุญาตระหว่างการฝึก ความคล้ายคลึงอย่างมีนัยสำคัญระหว่างเอาต์พุตกับผลงานต้นฉบับ การเข้าถึงผลงาน ความเสียหายต่อตลาด เงื่อนไขสัญญา และหลักฐานด้านอื่น ๆ นอกเหนือจากคำถามว่าภาพใดภาพหนึ่งมีความจำเป็นต่อการสร้างเอาต์พุตหรือไม่

ข้อจำกัดที่ต้องทำความเข้าใจ

• ไม่ใช่ผลพิสูจน์ว่าโมเดลไม่จดจำข้อมูล: เอาต์พุตอาจไม่สามารถระบุย้อนกลับไปยังภาพฝึกใดภาพหนึ่งได้ตามการทดสอบการลบข้อมูล ขณะเดียวกันโมเดลก็อาจยังจดจำบางส่วนของข้อมูล สร้างภาพที่คล้ายเดิมภายใต้พรอมป์ตหรือเงื่อนไขการสุ่มบางแบบ หรือสร้างภาพที่มีความคล้ายคลึงอย่างมีนัยสำคัญกับผลงานที่ได้รับความคุ้มครอง งานวิจัยนี้วัดความไวเชิงสาเหตุต่อการลบหน่วยข้อมูล ไม่ได้ครอบคลุมการจดจำหรือละเมิดลิขสิทธิ์ทุกรูปแบบ
• ยังไม่ใช่ข้อสรุปเกี่ยวกับ LLM: การศึกษานี้มุ่งที่โมเดล diffusion ซึ่งใช้สร้างสื่ออย่างภาพและวิดีโอ เทคนิค ensemble และการตัดข้อมูลออก รวมถึงผลเชิงประจักษ์เรื่องการขยายขนาดโมเดล ยังไม่ได้ถูกพิสูจน์จากงานนี้ว่าใช้ได้กับโมเดลภาษาขนาดใหญ่ที่อาศัยสถาปัตยกรรมทรานส์ฟอร์เมอร์
• ไม่ใช่หลักฐานทดแทนทั้งหมด: ศาลและผู้ตรวจสอบทางเทคนิคยังจำเป็นต้องพิจารณาการทดสอบด้วยพรอมป์ต การวิเคราะห์ความคล้ายคลึงและที่มาของภาพ บันทึกชุดข้อมูลฝึกและระบบ การตรวจสอบโมเดล ตลอดจนกฎหมายที่เกี่ยวข้อง Attribution decay เพียงชี้ว่าเรื่องเล่าแบบ “แหล่งเดียวเป็นสาเหตุโดยตรง” อาจใช้ไม่ได้เมื่อโมเดลมีขนาดใหญ่ขึ้น ไม่ได้หมายความว่าการพิสูจน์การคัดลอกด้วยหลักฐานประเภทอื่นเป็นไปไม่ได้