OpenAI แบนบัญชี ChatGPT เชื่อมโยงรัสเซีย หลังพบแคมเปญสร้างสถาบันอิสราเอลปลอม

OpenAI ระบุว่าได้แบนกลุ่มบัญชี ChatGPT ที่มีแนวโน้มสูงว่ามีต้นทางจากรัสเซีย หลังการสอบสวนพบว่าบัญชีเหล่านี้ถูกใช้สนับสนุนปฏิบัติการอิทธิพลลับที่สร้างขึ้นรอบ International Burke Institute หรือ IBI ซึ่งอ้างตัวว่าเป็นชุมชนผู้เชี่ยวชาญที่ตั้งอยู่ในอิสราเอล โดย ChatGPT ถูกใช้หลัก ๆ เพื่อผลิตและเผยแพร่สื่อประชาสัมพันธ์ พร้อมพยายามปกปิดต้นทางของผู้ดำเนินการ 3

กรณีนี้สะท้อนรูปแบบปฏิบัติการข้อมูลข่าวสารที่ซับซ้อนขึ้น เพราะไม่ได้อาศัยเพียงโพสต์ไวรัล แต่สร้างภาพลักษณ์ของสถาบันที่ดูน่าเชื่อถือ นำชื่อเสียงของผู้เชี่ยวชาญและงานวิชาการมาเสริมความชอบธรรม แล้วกระจายเรื่องเล่าผ่านชุมชนออนไลน์หลายแห่ง

OpenAI ระบุว่าปฏิบัติการทำอะไร

OpenAI ระบุว่าผู้ดำเนินการเข้าถึง ChatGPT ผ่าน VPN เนื่องจากบริการดังกล่าวไม่เปิดให้ใช้งานในรัสเซีย พวกเขาป้อนคำสั่งเป็นภาษารัสเซียเป็นหลัก และขอให้โมเดลลบร่องรอยทางภาษาที่อาจบ่งชี้ว่าผู้เขียนอยู่ในรัสเซีย ขณะที่โพสต์บนโซเชียลมีเดียส่วนใหญ่ถูกเขียนเป็นภาษาอังกฤษ 3

แคมเปญนี้ใช้เว็บไซต์ที่จดทะเบียนในเดือนกุมภาพันธ์ 2025 โดยเว็บไซต์นำเสนอ IBI ในฐานะชุมชนผู้เชี่ยวชาญจากอิสราเอล OpenAI ระบุว่าเว็บไซต์มีเนื้อหาวิชาการที่คัดลอกจากผลงานที่มีอยู่จริง บางส่วนระบุชื่อผู้เขียนผิด หรือดูเหมือนแปลด้วยเครื่องมาจากภาษากลุ่มสลาฟ 3

เว็บไซต์ยังนำเสนอ “ดัชนีอธิปไตย” ที่ให้ภาพรัสเซียในทางบวก ขณะลดทอนความน่าเชื่อถือของประเทศตะวันตก เนื้อหาที่เกี่ยวข้องวิพากษ์วิจารณ์ยูเครน สหภาพยุโรป และรัฐบาลเยอรมนี พร้อมเสนอให้ปรับปรุงความสัมพันธ์กับรัสเซีย 3

ใช้ ChatGPT ผลิตเนื้อหาข้ามแพลตฟอร์ม

ตามข้อมูลของ OpenAI บัญชีเหล่านี้ถูกใช้สร้างโพสต์และข้อความตอบกลับเพื่อโปรโมตเนื้อหาของ IBI บน Telegram, X, LinkedIn, Facebook และ Substack นอกจากนี้ยังผลิตเนื้อหาหลายภาษา สรุปข้อมูลของช่องต่าง ๆ และองค์ประกอบด้านภาพลักษณ์ เช่น โลโก้สำหรับช่อง Telegram ที่มุ่งเป้าผู้ชมในเยอรมนี สหรัฐฯ ฝรั่งเศส โปแลนด์ และตุรกี 3

ผู้ดำเนินการรายหนึ่งใช้ ChatGPT สร้างเนื้อหาภาษาเยอรมันให้ช่อง Telegram ชื่อ “Lahme Ente” ขณะที่ OpenAI ระบุว่าบางบัญชีที่นำเสนอตัวเองเป็นผู้ใช้งานทั่วไปมีแนวโน้มเป็นบัญชีที่ไม่ใช่บุคคลจริง นอกจากนี้ ยังพบการตอบกลับบน Substack ในนาม IBI เพื่อชักชวนผู้ใช้จริงให้ติดตามช่องของสถาบัน 3

ดังนั้น การใช้ ChatGPT ในกรณีนี้ไม่ได้จำกัดอยู่ที่การร่างข้อความเป็นครั้ง ๆ แต่เป็นส่วนหนึ่งของกระบวนการผลิตคอนเทนต์ที่ทำซ้ำได้ ตั้งแต่การสร้างเนื้อหาหลายภาษา ไปจนถึงการจัดการตัวตนของบัญชี การสร้างแบรนด์ และการเผยแพร่ข้ามแพลตฟอร์ม

สร้างความน่าเชื่อถือด้วยชื่อสถาบันและงานวิจัย

จุดสำคัญของแคมเปญคือการทำให้ IBI ดูเหมือนองค์กรที่มีความชอบธรรมทางวิชาการ OpenAI ระบุว่าเว็บไซต์ของ IBI อ้างถึงผู้เชี่ยวชาญชื่อดัง เช่น Francis Fukuyama และ Noam Chomsky ขณะที่บทความที่เกี่ยวข้องจำนวนมากมาจากแหล่งอื่นบนอินเทอร์เน็ต หรือเชื่อมโยงกับผู้เขียนอย่างไม่ถูกต้อง 3

กลยุทธ์ดังกล่าวมีความสำคัญ เพราะตัวตนของสถาบันที่สร้างขึ้นหรือทำให้เข้าใจผิดสามารถทำให้โฆษณาชวนเชื่อดูเหมือนบทวิเคราะห์อิสระ ผู้อ่านอาจเห็นเว็บไซต์ที่ออกแบบอย่างเป็นมืออาชีพ รายชื่อผู้เชี่ยวชาญ บทความที่ใช้รูปแบบงานวิจัย และแบรนด์โซเชียลมีเดียที่สอดคล้องกัน โดยไม่เห็นผู้ดำเนินการที่อยู่เบื้องหลัง

ยอดเข้าถึงยังจำกัด แต่โครงสร้างนำไปขยายต่อได้

OpenAI ประเมินว่าผู้ชมของแคมเปญมีจำนวนค่อนข้างน้อย และผลกระทบในระยะสั้นยังจำกัด โดยจัดปฏิบัติการนี้ไว้ที่ระดับล่างของ Category Three ตาม Brookings Breakout Scale ซึ่งเป็นเกณฑ์ประเมินผลกระทบของปฏิบัติการอิทธิพลลับตั้งแต่ระดับ 1 ถึง 6 กิจกรรมปรากฏบนหลายแพลตฟอร์มและมีหลักฐานบางส่วนว่ามีผู้ใช้งานจริงเข้ามามีส่วนร่วม แต่ยังไม่แพร่กระจายเป็นวงกว้างหรือกลายเป็นไวรัลอย่างมีนัยสำคัญ 3

สิ่งที่ OpenAI กังวลจึงไม่ใช่เพียงจำนวนผู้ติดตามในปัจจุบัน แต่คือโครงสร้างที่สามารถนำกลับมาใช้ซ้ำได้ ซึ่งประกอบด้วยสถาบันผู้เชี่ยวชาญที่อ้างขึ้น งานวิจัยที่คัดลอกมา การเผยแพร่หลายภาษา บัญชีโซเชียลที่ประสานงานกัน และความพยายามปกปิดแหล่งที่มา บริษัทระบุว่าองค์ประกอบเหล่านี้ทำให้ปฏิบัติการแตกต่างจากบางแคมเปญที่เชื่อมโยงกับรัสเซียและเคยถูกสกัดก่อนหน้านี้ 3

ความเสี่ยงในระยะยาวคือระบบลักษณะนี้สามารถนำไปขยายขนาดได้ แม้การมีส่วนร่วมในช่วงแรกจะไม่มาก แต่ก็อาจกลายเป็นฐานสำหรับสร้างอำนาจความน่าเชื่อถือขึ้นมาใหม่ ชี้นำผู้ชมไปยังช่องทางที่ประสานงานกัน และทำให้โฆษณาชวนเชื่อดูเหมือนมาจากแหล่งอิสระ

บทเรียนที่กว้างกว่ายอดวิว

กรณีนี้แสดงให้เห็นว่า การประเมินปฏิบัติการอิทธิพลด้วยยอดเข้าถึงเพียงอย่างเดียวอาจไม่เพียงพอ แคมเปญหนึ่งอาจไม่กลายเป็นไวรัล แต่ยังคงสร้างทรัพย์สินที่นำกลับมาใช้ได้ เช่น เว็บไซต์ ชื่อสถาบัน โลโก้ เนื้อหาที่แปลหลายภาษา บัญชีโซเชียล และคลังบทความที่ดูเหมือนมีความน่าเชื่อถือ

การเปิดเผยของ OpenAI ไม่ได้แสดงว่าแคมเปญนี้ประสบความสำเร็จในการแพร่กระจายครั้งใหญ่ แต่ชี้ให้เห็นว่า AI เชิงกำเนิดสามารถช่วยให้ผู้ดำเนินการดูแลระบบเผยแพร่เนื้อหาหลายแพลตฟอร์มได้อย่างต่อเนื่อง ขณะที่ทุ่มทรัพยากรไปกับการปกปิดต้นทางและสร้างความน่าเชื่อถือ 3