เมื่อ AI ยิ่งเรียนรู้จากภาพมากขึ้น เส้นทางกลับไปหาต้นทางอาจเลือนหาย

งานวิจัยจากห้องปฏิบัติการ Computer Science and Artificial Intelligence Laboratory (CSAIL) ของ MIT ระบุถึงปัญหาสำคัญสำหรับผู้ที่ต้องการตามรอยภาพที่สร้างโดย AI กลับไปยังแหล่งข้อมูลต้นทาง นั่นคือ “attribution decay” หรือการเสื่อมสลายของการระบุแหล่งที่มา

เมื่อโมเดลแบบ diffusion ได้รับการฝึกด้วยภาพจำนวนมากขึ้น อิทธิพลเชิงสาเหตุของภาพฝึกแต่ละภาพต่อผลลัพธ์ใดผลลัพธ์หนึ่งอาจลดลงจนเล็กมาก การนำภาพนั้นออกจึงแทบไม่ทำให้ผลลัพธ์เปลี่ยนแปลงอย่างสังเกตได้

อย่างไรก็ตาม ข้อค้นพบนี้ไม่ได้หมายความว่าโมเดลไม่เคยเห็นภาพดังกล่าว ไม่สามารถสร้างภาพที่คล้ายหรือเหมือนเดิมได้ หรือไม่มีความเสี่ยงด้านลิขสิทธิ์ งานวิจัยกำลังตอบคำถามที่แคบกว่านั้น คือ ในการทดสอบแบบควบคุม การลบหน่วยข้อมูลฝึกหนึ่งหน่วยออกทำให้ภาพผลลัพธ์เปลี่ยนแปลงหรือไม่

นักวิจัยทดสอบอิทธิพลของข้อมูลฝึกอย่างไร

โดยทั่วไป วิธีวิเคราะห์อิทธิพลของข้อมูลจะประเมินว่าตัวอย่างฝึกหนึ่งตัวอย่างส่งผลต่อโมเดลมากน้อยเพียงใด แต่นักวิจัย Zheng Dai และ David Gifford ออกแบบ diffusion ensemble เพื่อสร้างการทดลองแบบสมมติฐานที่ควบคุมได้

สถาปัตยกรรมนี้ประกอบด้วยองค์ประกอบโมเดลที่ฝึกแยกจากกัน แต่ละองค์ประกอบได้รับข้อมูลฝึกคนละส่วนซึ่งถูกแบ่งไว้อย่างเป็นระบบ

โครงสร้างดังกล่าวเปิดทางให้ถามคำถามได้อย่างตรงจุดว่า “ถ้าภาพนี้ไม่เคยมีอิทธิพลต่อการฝึก โมเดลจะสร้างอะไรออกมา?” แทนที่จะต้องฝึกโมเดลขนาดใหญ่ใหม่ตั้งแต่ต้น นักวิจัยสามารถปิดองค์ประกอบที่เคยเห็นภาพเป้าหมาย แล้วสร้างผลลัพธ์เพื่อเปรียบเทียบได้ วิธีนี้เป็นการตัดอิทธิพลของภาพออกโดยตรง ไม่ใช่เพียงการประมาณค่า

ทีมวิจัยประเมิน diffusion ensemble จำนวน 24 ชุดจากคลังภาพสาธารณะ 7 แห่ง ชุดข้อมูลมีขนาดตั้งแต่ 256 ภาพไปจนถึงมากกว่า 160,000 ภาพ ทำให้สามารถศึกษาว่าการระบุแหล่งที่มาเปลี่ยนไปอย่างไรเมื่อปริมาณข้อมูลฝึกเพิ่มขึ้น

นักวิจัยเปรียบเทียบภาพที่โมเดลสร้างตามปกติกับผลลัพธ์แบบสมมติฐาน ซึ่งสร้างขึ้นหลังตัดหน่วยข้อมูลฝึกที่ต้องการตรวจสอบออก ความแตกต่างที่มากที่สุดระหว่างผลลัพธ์ปกติกับผลลัพธ์แบบสมมติฐานถูกเรียกว่า “counterfactual radius” หรือรัศมีความแตกต่างเชิงสมมติฐาน ซึ่งใช้วัดว่าการตัดหน่วยข้อมูลฝึกหนึ่งหน่วยสามารถเปลี่ยนผลลัพธ์ได้มากเพียงใด

“Attribution decay” หมายถึงอะไร

ผลการทดลองพบว่า counterfactual radius ลดลงเมื่อชุดข้อมูลฝึกมีขนาดใหญ่ขึ้น ในทางปฏิบัติ การนำภาพใดภาพหนึ่งออกจึงทำให้ภาพที่สร้างขึ้นแตกต่างจากต้นฉบับน้อยลงจนแยกได้ยากตามตัวชี้วัดของการศึกษา

ข้อสรุปนี้ฟังดูย้อนแย้งเล็กน้อย เพราะการเพิ่มข้อมูลฝึกกลับทำให้ภาพที่สร้างขึ้นระบุได้ยากขึ้นว่าเกิดจากตัวอย่างใดตัวอย่างหนึ่ง แม้ว่าตัวอย่างนั้นจะอยู่ในชุดข้อมูลฝึกจริงก็ตาม โมเดลอาจเรียนรู้รูปแบบกว้าง ๆ ที่ซ้อนทับกันจากแหล่งข้อมูลจำนวนมาก แทนที่จะพึ่งพาภาพใดภาพหนึ่งอย่างชัดเจนเพื่อสร้างผลลัพธ์เฉพาะเจาะจง

เมื่อขยายขนาดมากพอ ปรากฏการณ์นี้ไม่ได้จำกัดอยู่แค่ภาพเดียว งานวิจัยรายงานว่า การนำภาพทั้งหมดของศิลปินคนหนึ่งออก หรือการนำภาพถ่ายทั้งหมดที่แสดงบุคคลใดบุคคลหนึ่งออก ก็อาจยังไม่ทำให้ตัวอย่างที่สร้างขึ้นเปลี่ยนแปลงอย่างมีนัยสำคัญในสถานการณ์สมมติฐานที่ทดสอบ

ด้วยเหตุนี้ นักวิจัยจึงเรียกปรากฏการณ์นี้ว่า “การเสื่อมสลาย” มากกว่าจะมองว่าเป็นเพียงความล้มเหลวของเครื่องมือสืบค้น เพราะปัญหาอาจไม่ได้อยู่ที่ผู้ตรวจสอบยังไม่มีเครื่องมือที่ทรงพลังพอ แต่เป็นเพราะความเชื่อมโยงเชิงสาเหตุระหว่างแหล่งข้อมูลหนึ่งกับผลลัพธ์หนึ่งกระจายตัวจนไม่สามารถแยกออกมาได้

ผลต่อคดีลิขสิทธิ์ภาพที่สร้างโดย AI

Attribution decay อาจทำให้การพิสูจน์แนวทางการฟ้องร้องบางรูปแบบทำได้ยากขึ้น โดยเฉพาะข้อกล่าวอ้างว่าภาพที่เป็นข้อพิพาทเกิดจากผลงานของศิลปินที่ระบุชื่อโดยตรง หรือเกิดจากสำเนาผลงานของศิลปินคนนั้นในข้อมูลฝึก

หากการนำผลงานทั้งหมดของศิลปินออกจากข้อมูลฝึกไม่ทำให้ภาพผลลัพธ์เปลี่ยนแปลงอย่างมีนัยสำคัญ ก็อาจยากขึ้นที่จะโต้แย้งว่าผลงานชุดนั้นมีความจำเป็นเป็นรายบุคคลต่อการสร้างภาพดังกล่าวภายใต้การทดสอบเชิงสาเหตุนี้

ประเด็นนี้มีความสำคัญต่อข้อพิพาทเกี่ยวกับเครื่องมือสร้างภาพเชิงพาณิชย์และคำกล่าวหาว่าโมเดลลอกเลียนสไตล์ของศิลปิน การฝึกด้วยข้อมูลขนาดใหญ่อาจทำให้เรื่องเล่าแบบ “ภาพนี้เกิดจากแหล่งเดียว” อธิบายได้ไม่ง่ายนัก และอาจเพิ่มความซับซ้อนให้คดีทรัพย์สินทางปัญญาที่เกี่ยวข้องกับระบบสร้างภาพ

แต่การศึกษานี้ ไม่ได้ตัดสินว่าบริษัทใดละเมิดลิขสิทธิ์ และไม่ได้สร้างข้อแก้ต่างทางกฎหมายขึ้นโดยอัตโนมัติ คดีลิขสิทธิ์ยังอาจต้องพิจารณาหลายประเด็น เช่น มีการคัดลอกผลงานที่ได้รับความคุ้มครองระหว่างการฝึกหรือไม่ ผลลัพธ์มีความคล้ายคลึงอย่างมีนัยสำคัญกับผลงานที่ได้รับความคุ้มครองหรือไม่ ระบบสามารถสร้างผลงานนั้นซ้ำภายใต้คำสั่งแบบใด รวมถึงความเสียหายหรือข้อผูกพันตามสัญญาที่อาจเกิดขึ้น

พูดให้ชัดคือ “ระบุแหล่งที่มาไม่ได้” ในความหมายทางเทคนิค ไม่ได้เท่ากับ “ไม่ได้คัดลอก” ในความหมายทางกฎหมาย

ทำไมงานวิจัยนี้ไม่ได้พิสูจน์ว่าโมเดลไม่จดจำภาพ

การทดลองวัดความไวของผลลัพธ์ต่อการตัดหน่วยข้อมูลฝึกออก ไม่ได้ตรวจสอบทุกวิธีที่โมเดลอาจเก็บ รักษา หรือสร้างข้อมูลกลับมาได้

โมเดลอาจพึ่งพาภาพใดภาพหนึ่งน้อยมากในการทดสอบแบบลบข้อมูลของ ensemble แต่ยังสามารถสร้างผลงานเดิมหรือผลงานที่คล้ายกันได้เมื่อใช้คำสั่งหรือเงื่อนไขการสุ่มบางรูปแบบ นอกจากนี้ ผลลัพธ์อาจมีลักษณะคล้ายผลงานที่ได้รับความคุ้มครอง แม้จะยังพิสูจน์ไม่ได้ว่ามีภาพฝึกภาพใดภาพหนึ่งที่จำเป็นเชิงสาเหตุต่อผลลัพธ์นั้น

ดังนั้น คำถามต่อไปนี้จึงไม่ใช่เรื่องเดียวกัน

• ภาพนี้มีอิทธิพลต่อผลลัพธ์หรือไม่: การทดสอบแบบลบข้อมูลพบว่าผลลัพธ์เปลี่ยนแปลงอย่างตรวจวัดได้เมื่อเอาอิทธิพลของภาพออก
• โมเดลเคยเห็นหรือเก็บภาพนี้ไว้หรือไม่: โมเดลอาจได้รับภาพดังกล่าวระหว่างการฝึก หรืออาจจดจำคุณลักษณะบางอย่างของภาพไว้
• ผลลัพธ์คัดลอกผลงานที่ได้รับความคุ้มครองหรือไม่: เป็นข้อสรุปทั้งทางเทคนิคและกฎหมายที่ต้องใช้หลักฐานเพิ่มเติม

Attribution decay ตอบคำถามข้อแรกโดยตรง แต่ไม่ได้ตัดสินข้อสองหรือข้อสาม

ผลการศึกษายังไม่ครอบคลุมโมเดลภาษาขนาดใหญ่

งานวิจัยนี้ศึกษาโมเดลสร้างภาพแบบ diffusion และสื่อโสตทัศน์ที่เกี่ยวข้อง สถาปัตยกรรม ensemble รวมถึงรูปแบบการลดทอนอิทธิพลของข้อมูลที่สังเกตพบ จึงยังไม่ควรถูกนำไปสรุปโดยอัตโนมัติว่าใช้ได้กับโมเดลภาษาขนาดใหญ่ หรือ LLM

LLM มีสถาปัตยกรรม ขั้นตอนการฝึก การแทนข้อมูลเป็นโทเคน และพฤติกรรมการสร้างผลลัพธ์แตกต่างจากโมเดล diffusion งานวิจัยนี้อาจเป็นแนวทางให้เกิดการทดลองด้านการระบุแหล่งที่มาในอนาคต แต่ยังไม่ได้แสดงให้เห็นว่า attribution decay ในรูปแบบเดียวกันเกิดขึ้นใน LLM แล้ว

นักตรวจสอบยังต้องใช้หลักฐานอะไรอีก

หากต้องการตอบว่า AI คัดลอกผลงานหรือไม่ attribution decay เป็นเพียงหลักฐานส่วนหนึ่ง ศาลและผู้ตรวจสอบทางเทคนิคยังอาจต้องพิจารณาเรื่องต่าง ๆ เช่น

• ระบบสามารถสร้างผลงานเฉพาะชิ้นซ้ำได้หรือไม่เมื่อใช้คำสั่งที่ควบคุมอย่างเหมาะสม
• ผลลัพธ์มีความคล้ายคลึงทางภาพกับผลงานที่ถูกกล่าวหาว่าถูกคัดลอกเพียงใด
• หลักฐานด้านที่มา การเข้าถึงข้อมูล และบันทึกเกี่ยวกับชุดข้อมูลฝึก
• ผลการตรวจสอบโมเดลและเอกสารอธิบายระบบ
• ผลลัพธ์สะท้อนเพียงสไตล์ทั่วไป หรือสะท้อนการแสดงออกเชิงสร้างสรรค์ที่ได้รับความคุ้มครองอย่างระบุได้
• มาตรฐานทางกฎหมายที่ใช้กับข้อพิพาทแต่ละประเภท

บทเรียนสำคัญของงานวิจัยนี้จึงไม่ใช่การบอกว่า AI “ลืม” แหล่งที่มา แต่คือเมื่อชุดข้อมูลของโมเดล diffusion มีขนาดใหญ่ขึ้น การมีส่วนร่วมเชิงสาเหตุของตัวอย่างฝึกแต่ละตัวอย่างอาจกระจายตัวจนตรวจจับไม่ได้ในผลลัพธ์ใดผลลัพธ์หนึ่ง

สิ่งนี้ทำให้การตามรอยต้นทางยากขึ้น แต่ไม่ได้ทำให้การพิสูจน์การจดจำ การสร้างซ้ำ หรือการวิเคราะห์ลิขสิทธิ์เป็นไปไม่ได้