OpenAI วางระบบใหม่เพื่อตรวจสอบภาพที่สร้างด้วย AI

ภาพที่สร้างด้วย AI ในปัจจุบันมีความสมจริงมากขึ้นจนหลายครั้งแทบแยกไม่ออกจากภาพถ่ายจริง เพื่อแก้ปัญหานี้ OpenAI จึงกำลังพัฒนาระบบ การระบุที่มาของเนื้อหา (content provenance) แบบหลายชั้น เพื่อช่วยให้ผู้ใช้เข้าใจว่าภาพดิจิทัลถูกสร้างขึ้นอย่างไร และมาจากระบบ AI หรือไม่

แนวทางของบริษัทไม่ได้พึ่งวิธีเดียว แต่ผสมผสาน สามสัญญาณสำคัญ ได้แก่

• C2PA metadata หรือ Content Credentials
• ลายน้ำล่องหน SynthID จาก Google DeepMind
• เครื่องมือตรวจสอบภาพสาธารณะ

แนวคิดคือการใช้หลายเทคโนโลยีร่วมกัน เพื่อชดเชยข้อจำกัดของแต่ละวิธี และช่วยให้ระบบติดตามที่มาของภาพบนอินเทอร์เน็ตมีความน่าเชื่อถือมากขึ้น

กลยุทธ์หลายชั้นเพื่อติดตามที่มาของภาพ

ระบบของ OpenAI อาศัยเทคโนโลยีที่ทำหน้าที่ต่างกัน:

• C2PA metadata บันทึกข้อมูลที่มาของไฟล์
• SynthID ฝังลายน้ำที่มองไม่เห็นในตัวภาพ
• เครื่องมือตรวจสอบ ให้ผู้ใช้ตรวจสอบสัญญาณเหล่านี้ได้

การใช้หลายวิธีพร้อมกันช่วยลดความเสี่ยงจากข้อจำกัดของวิธีใดวิธีหนึ่งเพียงอย่างเดียว

C2PA Metadata (Content Credentials)

OpenAI กำลังใช้มาตรฐาน C2PA (Coalition for Content Provenance and Authenticity) ซึ่งเป็นมาตรฐานเปิดสำหรับฝังข้อมูล metadata ที่ตรวจสอบได้ทางคริปโตกราฟีลงในไฟล์สื่อดิจิทัล

สำหรับภาพที่สร้างด้วย AI metadata นี้สามารถระบุข้อมูล เช่น

• ภาพถูกสร้างด้วยระบบ AI หรือไม่
• ใช้เครื่องมือหรือโมเดลใดสร้าง
• มีการแก้ไขเพิ่มเติมหรือไม่

ข้อสำคัญคือ C2PA ไม่ได้ใช้กับ AI เท่านั้น ผู้ผลิตกล้อง บริษัทซอฟต์แวร์ และสำนักข่าวก็สามารถใช้มาตรฐานนี้เพื่อบันทึกที่มาของภาพหรือวิดีโอได้เช่นกัน ทำให้เกิดระบบนิเวศสำหรับตรวจสอบความแท้ของสื่อดิจิทัลในวงกว้าง

อย่างไรก็ตาม metadata มีข้อจำกัดสำคัญ คือ สามารถหายไปได้ง่าย หากภาพถูกแคปหน้าจอ ถูกบีบอัด ถูกแก้ไขในโปรแกรมที่ลบ metadata หรือถูกอัปโหลดไปยังแพลตฟอร์มที่ไม่เก็บข้อมูลดังกล่าว

SynthID: ลายน้ำล่องหนในตัวภาพ

เพื่อให้การระบุภาพมีความทนทานมากขึ้น OpenAI จึงร่วมมือกับ Google DeepMind เพื่อใช้เทคโนโลยี SynthID ซึ่งเป็นลายน้ำดิจิทัลที่มองไม่เห็นและฝังอยู่ในพิกเซลของภาพโดยตรง

ต่างจาก metadata ที่เป็นข้อมูลประกอบไฟล์ SynthID จะฝังสัญญาณไว้ในตัวภาพเอง ทำให้ระบบตรวจจับสามารถตรวจพบได้ในภายหลัง

ข้อดีของแนวทางนี้คือ

• สัญญาณสามารถอยู่รอดผ่านการแชร์หรือแปลงไฟล์ทั่วไป
• ไม่ทำให้รูปลักษณ์ของภาพเปลี่ยนแปลง
• สามารถตรวจจับได้ด้วยเครื่องมือวิเคราะห์เฉพาะ

งานวิจัยของระบบ SynthID ระบุว่ามีการใช้ลายน้ำกับภาพและเฟรมวิดีโอหลายพันล้านรายการในบริการของ Google แล้ว

อย่างไรก็ตามลายน้ำก็ไม่ได้สมบูรณ์แบบ หากภาพถูกแก้ไขอย่างหนัก ถูกครอป หรือมีความพยายามลบสัญญาณโดยเจตนา ความสามารถในการตรวจจับอาจลดลงได้ และลายน้ำจะมีเฉพาะในภาพจากระบบที่ตั้งใจใส่ลายน้ำเท่านั้น

Metadata vs. Watermark: จุดแข็งและข้อจำกัด

ทั้งสองวิธีช่วยติดตามที่มาของภาพ แต่มีบทบาทต่างกัน

Metadata (C2PA)

• ให้ข้อมูลที่มาของภาพอย่างละเอียด
• เครื่องมือสามารถอ่านข้อมูลได้ง่าย
• อาจถูกลบออกระหว่างการแชร์หรือแก้ไข

ลายน้ำล่องหน (SynthID)

• ฝังอยู่ในตัวภาพ ลบออกได้ยากกว่า
• ทนต่อการแปลงไฟล์หรือแชร์ทั่วไป
• ให้ข้อมูลน้อยกว่า และต้องใช้เครื่องมือตรวจจับเฉพาะ

ด้วยเหตุนี้ OpenAI จึงใช้ทั้งสองวิธีร่วมกัน โดย metadata ให้ บริบทที่ชัดเจน ส่วน watermark ช่วยให้ สัญญาณยังคงอยู่เมื่อภาพถูกเผยแพร่ต่อ

เครื่องมือตรวจสอบภาพสาธารณะ

อีกองค์ประกอบหนึ่งคือ เครื่องมือตรวจสอบภาพแบบสาธารณะ ที่ OpenAI กำลังทดลองเปิดให้ใช้งาน ผู้ใช้สามารถอัปโหลดภาพเข้าไปเพื่อดูว่ามีสัญญาณจากระบบของ OpenAI หรือไม่

เครื่องมือนี้จะตรวจสอบสองอย่างหลัก ๆ

• C2PA metadata ที่ระบุว่าภาพถูกสร้างด้วย AI
• SynthID watermark ที่ฝังอยู่ในภาพ

หากพบสัญญาณใดสัญญาณหนึ่ง ระบบอาจรายงานว่าภาพนั้นมีแนวโน้มถูกสร้างจากโมเดลภาพของ OpenAI เช่นที่ใช้ใน ChatGPT หรือผ่าน API

อย่างไรก็ตาม การไม่พบสัญญาณเหล่านี้ ไม่ได้หมายความว่าภาพนั้นเป็นภาพจริงเสมอไป เพราะ metadata อาจถูกลบ หรือภาพอาจมาจากระบบ AI อื่นที่ใช้เทคนิคแตกต่างกัน

ทำไมเรื่อง “ที่มาของภาพ” ถึงสำคัญ

เมื่อเทคโนโลยี generative AI สามารถสร้างภาพที่สมจริงได้อย่างรวดเร็ว อุตสาหกรรมเทคโนโลยีจึงเริ่มมุ่งไปสู่แนวคิด ให้บริบทของเนื้อหา มากกว่าการพยายามตรวจจับ AI ด้วยวิธีเดียว

กลยุทธ์ของ OpenAI ที่รวมมาตรฐานเปิด ลายน้ำดิจิทัล และเครื่องมือตรวจสอบ จึงมีเป้าหมายเพื่อช่วยให้แพลตฟอร์ม นักข่าว และผู้ใช้งานทั่วไปสามารถตรวจสอบที่มาของภาพได้ง่ายขึ้น แม้ว่าเนื้อหาที่สร้างด้วย AI จะเพิ่มขึ้นอย่างต่อเนื่องบนอินเทอร์เน็ต

ข้อสรุปสำคัญคือ การตรวจสอบภาพ AI ในอนาคตน่าจะต้องใช้หลายสัญญาณร่วมกัน และต้องอาศัยการยอมรับจากระบบนิเวศของแพลตฟอร์มและผู้พัฒนาเครื่องมือ ไม่ใช่การทดสอบแบบเดียวที่ใช้ได้กับทุกภาพ