เปิดแล้วปิดใน 24 ชม.: เมื่อ Google Earth ปล่อย AI สร้างภาพถ่ายดาวเทียมปลอม จนวงการ OSINT ถึงขั้นเรียกว่าวิกฤต

ฟีเจอร์นี้ทำอะไรได้บ้าง

ปุ่ม "สร้างภาพ" (Create image) ปรากฏใน Google Earth เวอร์ชันเว็บ เมื่อผู้ใช้ซูมไปยังสถานที่ใด ๆ สามารถแตะปุ่ม พิมพ์ข้อความ และ Nano Banana 2 จะสร้างภาพสมจริงที่สร้างจากภาพถ่ายดาวเทียม ทางอากาศ และภาพ 3 มิติของ Google ในจุดนั้น Google นำเสนอว่าเป็นเครื่องมือสร้างสรรค์ทางภูมิศาสตร์ แต่มันกลับทำให้ทุกคนสามารถปลอมแปลงหลักฐานทางภูมิสารสนเทศได้ในวงกว้าง

ทำไมถึงถูกปิด

ภาพปลอมที่ละเมิดนโยบายเกิดขึ้นทันที ผู้ใช้สร้างภาพหลอกลวงที่ดูสมจริง เช่น ปล่องระเบิดในลอสแอนเจลิส อาคารรัฐสภาสหรัฐฯ ที่ถูกน้ำท่วม ไฟไหม้บนเกาะคาร์กของอิหร่าน และที่น่ากังวลที่สุดสำหรับผู้เชี่ยวชาญคือ ภาพโรงไฟฟ้านิวเคลียร์ปลอมในอิหร่าน และรถถังรัสเซียเคลื่อนพลผ่านกรุงเคียฟ

BBC Verify และนักวิจัย OSINT ได้สาธิตความเสี่ยงต่อสาธารณะ นักวิจัย Henk van Ess และ BBC Verify สร้างภาพถ่ายดาวเทียมปลอมของสถานที่สำคัญทางภูมิรัฐศาสตร์ ซึ่งแสดงให้เห็นว่าฟีเจอร์นี้สามารถสร้างภาพปลอมที่ดูเหมือนจริงได้ง่ายเพียงใด

Google ยอมรับปัญหาเรื่องความเชื่อมั่นอย่างตรงไปตรงมา ในแถลงการณ์ถอนฟีเจอร์ บริษัทกล่าวว่า "เรารู้ว่าผู้คนไว้วางใจ Google Earth เป็นพิเศษในฐานะมุมมองที่เชื่อถือได้ของโลก เราได้เห็นผู้เชี่ยวชาญด้านภูมิสารสนเทศใช้ฟีเจอร์นี้เพื่อวัตถุประสงค์ที่เป็นประโยชน์หลายอย่าง" แต่ก็ต้อง "ถอนฟีเจอร์นี้ใน Google Earth ในขณะที่เราทำงานเพื่อนำมาตรการป้องกันที่แข็งแกร่งยิ่งขึ้นมาใช้"

วิกฤตความเชื่อมั่นของ OSINT

ภาพถ่ายดาวเทียมเป็นแหล่งข้อมูลมาตรฐานทองคำสำหรับการข่าวกรองแบบโอเพนซอร์ส (OSINT) การสืบสวนสิทธิมนุษยชน และการบันทึกอาชญากรรมสงคราม ผู้เชี่ยวชาญเตือนว่าการฝัง AI สร้างภาพเข้ากับ Google Earth ซึ่งเป็นแพลตฟอร์มแผนที่ดาวเทียมที่ได้รับความไว้วางใจมากที่สุด อาจบ่อนทำลายความน่าเชื่อถือของภาพถ่ายทางอากาศทั้งหมดในฐานะหลักฐานได้อย่างสิ้นเชิง

ฟีเจอร์นี้ทำให้เส้นแบ่งระหว่างของจริงและของปลอมเลือนลางลง ณ แหล่งที่มา เนื่องจากภาพ AI ถูกสร้างขึ้นภายใน Google Earth เองและเชื่อมโยงกับพิกัดจริง ภาพเหล่านี้จึงมีเครื่องหมายของความถูกต้องปลอม ๆ ซึ่งจะแยกแยะได้ยากกว่าภาพ AI ทั่วไปที่แชร์บนโซเชียลมีเดีย

นักสืบสวนสิทธิมนุษยชนพึ่งพาภาพถ่ายดาวเทียมที่ผ่านการตรวจสอบแล้วเพื่อบันทึกการกระทำทารุณ ความเสียหายจากความขัดแย้ง และอาชญากรรมสิ่งแวดล้อม หากแม้แต่ผลลัพธ์ของ Google Earth เองก็ยังถูกตั้งคำถามได้ ห่วงโซ่หลักฐานทั้งหมดสำหรับการสืบสวนแบบโอเพนซอร์สก็จะเสียหาย ทำให้คนไม่ดีสามารถปัดตกฟุตเทจจริงว่าเป็น AI สร้างขึ้นได้ง่ายขึ้น

ชุมชน OSINT กล่าวถึงเหตุการณ์นี้ว่าเป็น "วิกฤตความเชื่อมั่น" สำหรับหลักฐานดิจิทัล แรงกดดันอย่างรวดเร็วจากมืออาชีพด้าน OSINT เป็นปัจจัยหลักที่ทำให้ Google ตัดสินใจถอยกลับภายในไม่กี่ชั่วโมง

การป้องกันของ Google และข้อจำกัด

Google ชี้ให้เห็นว่าภาพที่สร้างด้วย AI ทั้งหมดถูกฝังด้วย SynthID ซึ่งเป็นลายน้ำดิจิทัลที่ออกแบบมาเพื่อระบุเนื้อหาที่สร้างโดย AI อย่างไรก็ตาม นักวิจัยแสดงให้เห็นว่าเครื่องมือตรวจจับสามารถถูกหลอกได้ และ screenshot ซึ่งเป็นวิธีที่ภาพปลอมแพร่กระจายมากที่สุด จะลบลายน้ำหรือบริบทของแพลตฟอร์มออกไปทั้งหมด การป้องกันนี้ไม่เพียงพอที่จะหยุดยั้งภาพปลอมที่ดูสมจริงจำนวนมหาศาลที่ปรากฏภายในไม่กี่ชั่วโมงหลังเปิดตัว

ผลกระทบในวงกว้าง

เหตุการณ์นี้ถือเป็นการปรับเปลี่ยนผลิตภัณฑ์ที่เร็วที่สุดครั้งหนึ่งในประวัติศาสตร์ของ Google และเป็นกรณีศึกษาเกี่ยวกับอันตรายของการฝัง generative AI ลงในแพลตฟอร์มข้อมูลที่ได้รับความเชื่อถือ โดยไม่มีมาตรการป้องกันที่เพียงพอ สำหรับชุมชน OSINT มันเป็นคำเตือนที่ชัดเจนว่าความน่าเชื่อถือของภาพถ่ายดาวเทียมซึ่งเป็นรากฐานสำคัญของหลักฐานดิจิทัลสมัยใหม่ สามารถถูกกัดกร่อนได้ในการเปิดตัวผลิตภัณฑ์เพียงครั้งเดียว