คำตอบการวิจัย
ประเด็นสำคัญ Zheng Dai และ David Gifford พบปรากฏการณ์ “การเสื่อมของการระบุแหล่งที่มา” หรือ attribution decay เมื่อโมเดลสร้างภาพได้รับการฝึกด้วยข้อมูลมากขึ้น อิทธิพลเชิงสาเหตุของภาพฝึกเพียงภาพเดียวต่อภาพที่สร้างขึ้นอาจลดลงจนตรวจจับ... ผลการศึกษานี้หมายถึงการระบุอิทธิพลต่อผลลัพธ์ไม่ได้ ไม่ได้หมายความว่าภาพฝึกไม่เคยถูกใช้ ไม่เคยถูกจัดเก็บ หรือไม่สามารถถูกสร้างซ้ำได้ ทีมวิจัยสร้าง diffusion ensemble ซึ่งประกอบด้วยโมเดลย่อยที่ฝึกแยกกันและเห็นข้อมูลคนละส่วน เพื่อจำลองคำถามว่า “ถ้าไม่มีภาพนี้อยู่ในการฝึก โมเดลจะสร้างภาพออกมาอย่างไร” การทดลองครอบคลุม ensemble 24 ชุด จากคลังภาพสาธารณะ 7 แห่ง ขนาดตั้งแต่ 256 ภาพไปจนถึงมากกว่า 160,000 ภาพ และเปรียบเทียบกับโมเดล diffusion ทั่วไป 24 โมเดล What did Zheng Dai and David Gifford’s MIT CSAIL study, published in Nature Communications, discover about “attribution decay” in diffusion AI-generated editorial hero image for What did Zheng Dai and David Gifford’s MIT CSAIL study, published in Nature Communications, discover about “attribution decay” in diffusion. AI พรอมต์ Create a landscape editorial hero image for this Studio Global article: What did Zheng Dai and David Gifford’s MIT CSAIL study, published in Nature Communications, discover about “attribution decay” in diffusion. Article summary: Dai and Gifford found “attribution decay”: as a diffusion image generator is trained on more data, the causal effect of any one training item on a particular generated image can shrink until it is too small to detect.. Topic tags: general web, ai safety, openai, chatgpt, llm. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, charts wit
openai.com งานวิจัยของ Zheng Dai และ David Gifford จาก MIT Computer Science and Artificial Intelligence Laboratory (MIT CSAIL) ซึ่งตีพิมพ์ในวารสาร Nature Communications เสนอแนวคิดที่เรียกว่า “การเสื่อมของการระบุแหล่งที่มา” (attribution decay) ในโมเดล diffusion สำหรับสร้างภาพด้วย AI
ใจความสำคัญคือ ยิ่งโมเดลได้รับการฝึกด้วยข้อมูลจำนวนมาก อิทธิพลเชิงสาเหตุของข้อมูลฝึกเพียงรายการเดียวต่อภาพที่สร้างขึ้นหนึ่งภาพก็อาจยิ่งเล็กลง จนไม่สามารถตรวจจับได้ในทางปฏิบัติ
อย่างไรก็ตาม นี่เป็นข้อค้นพบเกี่ยวกับการระบุว่า “ข้อมูลใดมีอิทธิพลต่อเอาต์พุต” ไม่ใช่การยืนยันว่าภาพฝึกไม่เคยถูกใช้ ไม่เคยถูกจัดเก็บ หรือไม่สามารถถูกสร้างซ้ำโดยโมเดลได้
นักวิจัยทดสอบอย่างไร
คนยังถาม คำตอบสั้น ๆ สำหรับ "เมื่อข้อมูลฝึกมากขึ้น ภาพจาก AI อาจระบุไม่ได้ว่าได้รับอิทธิพลจากภาพใด" คืออะไร Zheng Dai และ David Gifford พบปรากฏการณ์ “การเสื่อมของการระบุแหล่งที่มา” หรือ attribution decay เมื่อโมเดลสร้างภาพได้รับการฝึกด้วยข้อมูลมากขึ้น อิทธิพลเชิงสาเหตุของภาพฝึกเพียงภาพเดียวต่อภาพที่สร้างขึ้นอาจลดลงจนตรวจจับ...
ประเด็นสำคัญที่ต้องตรวจสอบก่อนคืออะไร? Zheng Dai และ David Gifford พบปรากฏการณ์ “การเสื่อมของการระบุแหล่งที่มา” หรือ attribution decay เมื่อโมเดลสร้างภาพได้รับการฝึกด้วยข้อมูลมากขึ้น อิทธิพลเชิงสาเหตุของภาพฝึกเพียงภาพเดียวต่อภาพที่สร้างขึ้นอาจลดลงจนตรวจจับ... ผลการศึกษานี้หมายถึงการระบุอิทธิพลต่อผลลัพธ์ไม่ได้ ไม่ได้หมายความว่าภาพฝึกไม่เคยถูกใช้ ไม่เคยถูกจัดเก็บ หรือไม่สามารถถูกสร้างซ้ำได้
ฉันควรทำอย่างไรต่อไปในทางปฏิบัติ? ทีมวิจัยสร้าง diffusion ensemble ซึ่งประกอบด้วยโมเดลย่อยที่ฝึกแยกกันและเห็นข้อมูลคนละส่วน เพื่อจำลองคำถามว่า “ถ้าไม่มีภาพนี้อยู่ในการฝึก โมเดลจะสร้างภาพออกมาอย่างไร”
คำตอบการวิจัย
ประเด็นสำคัญ Zheng Dai และ David Gifford พบปรากฏการณ์ “การเสื่อมของการระบุแหล่งที่มา” หรือ attribution decay เมื่อโมเดลสร้างภาพได้รับการฝึกด้วยข้อมูลมากขึ้น อิทธิพลเชิงสาเหตุของภาพฝึกเพียงภาพเดียวต่อภาพที่สร้างขึ้นอาจลดลงจนตรวจจับ... ผลการศึกษานี้หมายถึงการระบุอิทธิพลต่อผลลัพธ์ไม่ได้ ไม่ได้หมายความว่าภาพฝึกไม่เคยถูกใช้ ไม่เคยถูกจัดเก็บ หรือไม่สามารถถูกสร้างซ้ำได้ ทีมวิจัยสร้าง diffusion ensemble ซึ่งประกอบด้วยโมเดลย่อยที่ฝึกแยกกันและเห็นข้อมูลคนละส่วน เพื่อจำลองคำถามว่า “ถ้าไม่มีภาพนี้อยู่ในการฝึก โมเดลจะสร้างภาพออกมาอย่างไร” การทดลองครอบคลุม ensemble 24 ชุด จากคลังภาพสาธารณะ 7 แห่ง ขนาดตั้งแต่ 256 ภาพไปจนถึงมากกว่า 160,000 ภาพ และเปรียบเทียบกับโมเดล diffusion ทั่วไป 24 โมเดล What did Zheng Dai and David Gifford’s MIT CSAIL study, published in Nature Communications, discover about “attribution decay” in diffusion AI-generated editorial hero image for What did Zheng Dai and David Gifford’s MIT CSAIL study, published in Nature Communications, discover about “attribution decay” in diffusion. AI พรอมต์ Create a landscape editorial hero image for this Studio Global article: What did Zheng Dai and David Gifford’s MIT CSAIL study, published in Nature Communications, discover about “attribution decay” in diffusion. Article summary: Dai and Gifford found “attribution decay”: as a diffusion image generator is trained on more data, the causal effect of any one training item on a particular generated image can shrink until it is too small to detect.. Topic tags: general web, ai safety, openai, chatgpt, llm. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, charts wit
openai.com งานวิจัยของ Zheng Dai และ David Gifford จาก MIT Computer Science and Artificial Intelligence Laboratory (MIT CSAIL) ซึ่งตีพิมพ์ในวารสาร Nature Communications เสนอแนวคิดที่เรียกว่า “การเสื่อมของการระบุแหล่งที่มา” (attribution decay) ในโมเดล diffusion สำหรับสร้างภาพด้วย AI
ใจความสำคัญคือ ยิ่งโมเดลได้รับการฝึกด้วยข้อมูลจำนวนมาก อิทธิพลเชิงสาเหตุของข้อมูลฝึกเพียงรายการเดียวต่อภาพที่สร้างขึ้นหนึ่งภาพก็อาจยิ่งเล็กลง จนไม่สามารถตรวจจับได้ในทางปฏิบัติ
อย่างไรก็ตาม นี่เป็นข้อค้นพบเกี่ยวกับการระบุว่า “ข้อมูลใดมีอิทธิพลต่อเอาต์พุต” ไม่ใช่การยืนยันว่าภาพฝึกไม่เคยถูกใช้ ไม่เคยถูกจัดเก็บ หรือไม่สามารถถูกสร้างซ้ำโดยโมเดลได้
นักวิจัยทดสอบอย่างไร
คนยังถาม คำตอบสั้น ๆ สำหรับ "เมื่อข้อมูลฝึกมากขึ้น ภาพจาก AI อาจระบุไม่ได้ว่าได้รับอิทธิพลจากภาพใด" คืออะไร Zheng Dai และ David Gifford พบปรากฏการณ์ “การเสื่อมของการระบุแหล่งที่มา” หรือ attribution decay เมื่อโมเดลสร้างภาพได้รับการฝึกด้วยข้อมูลมากขึ้น อิทธิพลเชิงสาเหตุของภาพฝึกเพียงภาพเดียวต่อภาพที่สร้างขึ้นอาจลดลงจนตรวจจับ...
ประเด็นสำคัญที่ต้องตรวจสอบก่อนคืออะไร? Zheng Dai และ David Gifford พบปรากฏการณ์ “การเสื่อมของการระบุแหล่งที่มา” หรือ attribution decay เมื่อโมเดลสร้างภาพได้รับการฝึกด้วยข้อมูลมากขึ้น อิทธิพลเชิงสาเหตุของภาพฝึกเพียงภาพเดียวต่อภาพที่สร้างขึ้นอาจลดลงจนตรวจจับ... ผลการศึกษานี้หมายถึงการระบุอิทธิพลต่อผลลัพธ์ไม่ได้ ไม่ได้หมายความว่าภาพฝึกไม่เคยถูกใช้ ไม่เคยถูกจัดเก็บ หรือไม่สามารถถูกสร้างซ้ำได้
ฉันควรทำอย่างไรต่อไปในทางปฏิบัติ? ทีมวิจัยสร้าง diffusion ensemble ซึ่งประกอบด้วยโมเดลย่อยที่ฝึกแยกกันและเห็นข้อมูลคนละส่วน เพื่อจำลองคำถามว่า “ถ้าไม่มีภาพนี้อยู่ในการฝึก โมเดลจะสร้างภาพออกมาอย่างไร”
แทนที่จะใช้วิธีประมาณอิทธิพลของภาพแบบทั่วไป ทีมวิจัยสร้าง diffusion ensemble หรือชุดโมเดล diffusion ที่ประกอบด้วยโมเดลย่อยซึ่งฝึกแยกกัน โดยแต่ละส่วนจะเห็นข้อมูลฝึกเพียงบางช่วงที่ถูกควบคุมไว้
วิธีนี้ทำให้นักวิจัยสร้างสถานการณ์สมมติแบบควบคุมได้ เช่น “ถ้าภาพนี้ไม่เคยอยู่ในชุดข้อมูลฝึก ผลลัพธ์จะเปลี่ยนไปอย่างไร” หากโมเดลย่อยส่วนใดเคยเห็นภาพดังกล่าว นักวิจัยก็สามารถปิดโมเดลส่วนนั้นได้ โดยไม่ต้องฝึกโมเดลขนาดใหญ่ทั้งระบบใหม่ตั้งแต่ต้น
ทีมวิจัยเปรียบเทียบ ensemble กับโมเดล diffusion แบบทั่วไป 24 โมเดลที่ฝึกด้วยข้อมูลชุดเดียวกัน และรายงานว่าทั้งสองแนวทางให้ค่ามาตรฐานด้านคุณภาพภาพในระดับใกล้เคียงกัน
จากนั้นพวกเขาสร้าง ensemble 24 ชุด โดยใช้คลังภาพสาธารณะ 7 แห่ง ขนาดชุดข้อมูลตั้งแต่ 256 ภาพไปจนถึงมากกว่า 160,000 ภาพ สำหรับแต่ละเอาต์พุต นักวิจัยสร้างสิ่งที่เรียกว่า “จักรวาลโต้แย้ง” (counterfactual universe) ซึ่งประกอบด้วยผลลัพธ์หลายเวอร์ชันหลังจากตัดหน่วยข้อมูลฝึกแต่ละหน่วยออก
ความแตกต่างสูงสุดระหว่างภาพต้นฉบับกับภาพที่ได้หลังตัดข้อมูลออกถูกเรียกว่า counterfactual radius ซึ่งใช้เป็นตัววัดขนาดอิทธิพลเชิงสาเหตุสูงสุดของหน่วยข้อมูลหนึ่งหน่วยต่อผลลัพธ์นั้น
“Attribution decay” แปลว่าอะไร ผลการทดลองชี้ว่า เมื่อชุดข้อมูลฝึกมีขนาดใหญ่ขึ้น ค่า counterfactual radius จะลดลง การลบภาพฝึกเพียงภาพเดียวจึงมีแนวโน้มทำให้ภาพที่สร้างขึ้นเปลี่ยนแปลงน้อยมาก หรือแทบไม่เปลี่ยนเลย
เมื่อข้อมูลมีขนาดใหญ่เพียงพอ ปรากฏการณ์นี้อาจไม่ได้เกิดกับภาพรายภาพเท่านั้น แต่ยังเกิดกับกลุ่มข้อมูลทั้งหมดได้ด้วย เช่น ผลงานของศิลปินคนใดคนหนึ่ง หรือภาพถ่ายทั้งหมดที่มีบุคคลคนหนึ่งอยู่ในภาพ การลบข้อมูลทั้งกลุ่มอาจยังไม่ทำให้ตัวอย่างที่โมเดลสร้างเปลี่ยนแปลงอย่างมีนัยสำคัญในความหมายของการทดสอบนี้
พูดให้ตรงที่สุดคือ หากการลบหน่วยข้อมูลหนึ่งหน่วยไม่ทำให้เอาต์พุตเปลี่ยนแปลง หน่วยนั้นก็ไม่สามารถถูกระบุว่าเป็นสาเหตุของเอาต์พุตดังกล่าวได้ภายใต้มาตรวัด counterfactual ของงานวิจัย
ผลต่อข้อถกเถียงเรื่องลิขสิทธิ์ ข้อค้นพบนี้อาจทำให้ทฤษฎีการละเมิดลิขสิทธิ์บางรูปแบบพิสูจน์ได้ยากขึ้นในคดีที่ฟ้องบริษัทผู้พัฒนาเครื่องมือสร้างภาพ เช่น Midjourney, OpenAI หรือ Microsoft โดยเฉพาะกรณีที่ผู้ฟ้องต้องการชี้ว่าเอาต์พุตหนึ่งภาพเกิดจากผลงานของศิลปินรายใดรายหนึ่ง หรือเกิดจากการที่โมเดลเรียนรู้สำเนาผลงานและสไตล์ของศิลปินคนนั้นโดยตรง
หากการลบผลงานทั้งหมดของศิลปินออกจากการจำลองยังไม่ทำให้เอาต์พุตเปลี่ยนแปลงอย่างเห็นได้ชัด การพิสูจน์ “อิทธิพลเชิงสาเหตุโดยตรงต่อเอาต์พุตเฉพาะภาพ” ก็อาจทำได้ยากขึ้น
แต่ผลการศึกษานี้ไม่ได้ตัดสินคดีลิขสิทธิ์ และไม่ได้สร้างหลักเกณฑ์ทางกฎหมายขึ้นมาใหม่ ประเด็นในคดีจริงอาจครอบคลุมการคัดลอกโดยไม่ได้รับอนุญาตระหว่างการฝึก ความคล้ายคลึงอย่างมีนัยสำคัญระหว่างเอาต์พุตกับผลงานต้นฉบับ การเข้าถึงผลงาน ความเสียหายต่อตลาด เงื่อนไขสัญญา และหลักฐานด้านอื่น ๆ นอกเหนือจากคำถามว่าภาพใดภาพหนึ่งมีความจำเป็นต่อการสร้างเอาต์พุตหรือไม่
ข้อจำกัดที่ต้องทำความเข้าใจ
ไม่ใช่ผลพิสูจน์ว่าโมเดลไม่จดจำข้อมูล: เอาต์พุตอาจไม่สามารถระบุย้อนกลับไปยังภาพฝึกใดภาพหนึ่งได้ตามการทดสอบการลบข้อมูล ขณะเดียวกันโมเดลก็อาจยังจดจำบางส่วนของข้อมูล สร้างภาพที่คล้ายเดิมภายใต้พรอมป์ตหรือเงื่อนไขการสุ่มบางแบบ หรือสร้างภาพที่มีความคล้ายคลึงอย่างมีนัยสำคัญกับผลงานที่ได้รับความคุ้มครอง งานวิจัยนี้วัดความไวเชิงสาเหตุต่อการลบหน่วยข้อมูล ไม่ได้ครอบคลุมการจดจำหรือละเมิดลิขสิทธิ์ทุกรูปแบบ ยังไม่ใช่ข้อสรุปเกี่ยวกับ LLM: การศึกษานี้มุ่งที่โมเดล diffusion ซึ่งใช้สร้างสื่ออย่างภาพและวิดีโอ เทคนิค ensemble และการตัดข้อมูลออก รวมถึงผลเชิงประจักษ์เรื่องการขยายขนาดโมเดล ยังไม่ได้ถูกพิสูจน์จากงานนี้ว่าใช้ได้กับโมเดลภาษาขนาดใหญ่ที่อาศัยสถาปัตยกรรมทรานส์ฟอร์เมอร์ ไม่ใช่หลักฐานทดแทนทั้งหมด: ศาลและผู้ตรวจสอบทางเทคนิคยังจำเป็นต้องพิจารณาการทดสอบด้วยพรอมป์ต การวิเคราะห์ความคล้ายคลึงและที่มาของภาพ บันทึกชุดข้อมูลฝึกและระบบ การตรวจสอบโมเดล ตลอดจนกฎหมายที่เกี่ยวข้อง Attribution decay เพียงชี้ว่าเรื่องเล่าแบบ “แหล่งเดียวเป็นสาเหตุโดยตรง” อาจใช้ไม่ได้เมื่อโมเดลมีขนาดใหญ่ขึ้น ไม่ได้หมายความว่าการพิสูจน์การคัดลอกด้วยหลักฐานประเภทอื่นเป็นไปไม่ได้ news.mit.edu
Artificial intelligence | Massachusetts Institute of Technology
แทนที่จะใช้วิธีประมาณอิทธิพลของภาพแบบทั่วไป ทีมวิจัยสร้าง diffusion ensemble หรือชุดโมเดล diffusion ที่ประกอบด้วยโมเดลย่อยซึ่งฝึกแยกกัน โดยแต่ละส่วนจะเห็นข้อมูลฝึกเพียงบางช่วงที่ถูกควบคุมไว้
วิธีนี้ทำให้นักวิจัยสร้างสถานการณ์สมมติแบบควบคุมได้ เช่น “ถ้าภาพนี้ไม่เคยอยู่ในชุดข้อมูลฝึก ผลลัพธ์จะเปลี่ยนไปอย่างไร” หากโมเดลย่อยส่วนใดเคยเห็นภาพดังกล่าว นักวิจัยก็สามารถปิดโมเดลส่วนนั้นได้ โดยไม่ต้องฝึกโมเดลขนาดใหญ่ทั้งระบบใหม่ตั้งแต่ต้น
ทีมวิจัยเปรียบเทียบ ensemble กับโมเดล diffusion แบบทั่วไป 24 โมเดลที่ฝึกด้วยข้อมูลชุดเดียวกัน และรายงานว่าทั้งสองแนวทางให้ค่ามาตรฐานด้านคุณภาพภาพในระดับใกล้เคียงกัน
จากนั้นพวกเขาสร้าง ensemble 24 ชุด โดยใช้คลังภาพสาธารณะ 7 แห่ง ขนาดชุดข้อมูลตั้งแต่ 256 ภาพไปจนถึงมากกว่า 160,000 ภาพ สำหรับแต่ละเอาต์พุต นักวิจัยสร้างสิ่งที่เรียกว่า “จักรวาลโต้แย้ง” (counterfactual universe) ซึ่งประกอบด้วยผลลัพธ์หลายเวอร์ชันหลังจากตัดหน่วยข้อมูลฝึกแต่ละหน่วยออก
ความแตกต่างสูงสุดระหว่างภาพต้นฉบับกับภาพที่ได้หลังตัดข้อมูลออกถูกเรียกว่า counterfactual radius ซึ่งใช้เป็นตัววัดขนาดอิทธิพลเชิงสาเหตุสูงสุดของหน่วยข้อมูลหนึ่งหน่วยต่อผลลัพธ์นั้น
“Attribution decay” แปลว่าอะไร ผลการทดลองชี้ว่า เมื่อชุดข้อมูลฝึกมีขนาดใหญ่ขึ้น ค่า counterfactual radius จะลดลง การลบภาพฝึกเพียงภาพเดียวจึงมีแนวโน้มทำให้ภาพที่สร้างขึ้นเปลี่ยนแปลงน้อยมาก หรือแทบไม่เปลี่ยนเลย
เมื่อข้อมูลมีขนาดใหญ่เพียงพอ ปรากฏการณ์นี้อาจไม่ได้เกิดกับภาพรายภาพเท่านั้น แต่ยังเกิดกับกลุ่มข้อมูลทั้งหมดได้ด้วย เช่น ผลงานของศิลปินคนใดคนหนึ่ง หรือภาพถ่ายทั้งหมดที่มีบุคคลคนหนึ่งอยู่ในภาพ การลบข้อมูลทั้งกลุ่มอาจยังไม่ทำให้ตัวอย่างที่โมเดลสร้างเปลี่ยนแปลงอย่างมีนัยสำคัญในความหมายของการทดสอบนี้
พูดให้ตรงที่สุดคือ หากการลบหน่วยข้อมูลหนึ่งหน่วยไม่ทำให้เอาต์พุตเปลี่ยนแปลง หน่วยนั้นก็ไม่สามารถถูกระบุว่าเป็นสาเหตุของเอาต์พุตดังกล่าวได้ภายใต้มาตรวัด counterfactual ของงานวิจัย
ผลต่อข้อถกเถียงเรื่องลิขสิทธิ์ ข้อค้นพบนี้อาจทำให้ทฤษฎีการละเมิดลิขสิทธิ์บางรูปแบบพิสูจน์ได้ยากขึ้นในคดีที่ฟ้องบริษัทผู้พัฒนาเครื่องมือสร้างภาพ เช่น Midjourney, OpenAI หรือ Microsoft โดยเฉพาะกรณีที่ผู้ฟ้องต้องการชี้ว่าเอาต์พุตหนึ่งภาพเกิดจากผลงานของศิลปินรายใดรายหนึ่ง หรือเกิดจากการที่โมเดลเรียนรู้สำเนาผลงานและสไตล์ของศิลปินคนนั้นโดยตรง
หากการลบผลงานทั้งหมดของศิลปินออกจากการจำลองยังไม่ทำให้เอาต์พุตเปลี่ยนแปลงอย่างเห็นได้ชัด การพิสูจน์ “อิทธิพลเชิงสาเหตุโดยตรงต่อเอาต์พุตเฉพาะภาพ” ก็อาจทำได้ยากขึ้น
แต่ผลการศึกษานี้ไม่ได้ตัดสินคดีลิขสิทธิ์ และไม่ได้สร้างหลักเกณฑ์ทางกฎหมายขึ้นมาใหม่ ประเด็นในคดีจริงอาจครอบคลุมการคัดลอกโดยไม่ได้รับอนุญาตระหว่างการฝึก ความคล้ายคลึงอย่างมีนัยสำคัญระหว่างเอาต์พุตกับผลงานต้นฉบับ การเข้าถึงผลงาน ความเสียหายต่อตลาด เงื่อนไขสัญญา และหลักฐานด้านอื่น ๆ นอกเหนือจากคำถามว่าภาพใดภาพหนึ่งมีความจำเป็นต่อการสร้างเอาต์พุตหรือไม่
ข้อจำกัดที่ต้องทำความเข้าใจ
ไม่ใช่ผลพิสูจน์ว่าโมเดลไม่จดจำข้อมูล: เอาต์พุตอาจไม่สามารถระบุย้อนกลับไปยังภาพฝึกใดภาพหนึ่งได้ตามการทดสอบการลบข้อมูล ขณะเดียวกันโมเดลก็อาจยังจดจำบางส่วนของข้อมูล สร้างภาพที่คล้ายเดิมภายใต้พรอมป์ตหรือเงื่อนไขการสุ่มบางแบบ หรือสร้างภาพที่มีความคล้ายคลึงอย่างมีนัยสำคัญกับผลงานที่ได้รับความคุ้มครอง งานวิจัยนี้วัดความไวเชิงสาเหตุต่อการลบหน่วยข้อมูล ไม่ได้ครอบคลุมการจดจำหรือละเมิดลิขสิทธิ์ทุกรูปแบบ ยังไม่ใช่ข้อสรุปเกี่ยวกับ LLM: การศึกษานี้มุ่งที่โมเดล diffusion ซึ่งใช้สร้างสื่ออย่างภาพและวิดีโอ เทคนิค ensemble และการตัดข้อมูลออก รวมถึงผลเชิงประจักษ์เรื่องการขยายขนาดโมเดล ยังไม่ได้ถูกพิสูจน์จากงานนี้ว่าใช้ได้กับโมเดลภาษาขนาดใหญ่ที่อาศัยสถาปัตยกรรมทรานส์ฟอร์เมอร์ ไม่ใช่หลักฐานทดแทนทั้งหมด: ศาลและผู้ตรวจสอบทางเทคนิคยังจำเป็นต้องพิจารณาการทดสอบด้วยพรอมป์ต การวิเคราะห์ความคล้ายคลึงและที่มาของภาพ บันทึกชุดข้อมูลฝึกและระบบ การตรวจสอบโมเดล ตลอดจนกฎหมายที่เกี่ยวข้อง Attribution decay เพียงชี้ว่าเรื่องเล่าแบบ “แหล่งเดียวเป็นสาเหตุโดยตรง” อาจใช้ไม่ได้เมื่อโมเดลมีขนาดใหญ่ขึ้น ไม่ได้หมายความว่าการพิสูจน์การคัดลอกด้วยหลักฐานประเภทอื่นเป็นไปไม่ได้ news.mit.edu
Artificial intelligence | Massachusetts Institute of Technology
news.mit.eduWhen AI art has no author: Study finds generated images often can't ...
pmc.ncbi.nlm.nih.govAuthorship Attribution in the Era of LLMs: Problems ... - PMC