Anthropic Mythos: AI ตรวจช่องโหว่ไซเบอร์ระดับโลกที่ทำให้หน่วยงานการเงิน G20 ต้องจับตา

ทำไมต้องบรรยายสรุปให้ Financial Stability Board

Financial Stability Board (FSB) เป็นองค์กรที่ทำหน้าที่ประสานงานด้านเสถียรภาพระบบการเงินระหว่างธนาคารกลาง หน่วยงานกำกับดูแล และกระทรวงการคลังของประเทศในกลุ่ม G20

Anthropic เตรียมบรรยายสรุปต่อ FSB หลังจากที่โมเดล Mythos ตรวจพบช่องโหว่ไซเบอร์ที่อาจเกี่ยวข้องกับโครงสร้างพื้นฐานของระบบการเงินโลก โดยคำเชิญดังกล่าวมาจาก Andrew Bailey ผู้ว่าการธนาคารแห่งอังกฤษ ซึ่งเป็นประธานของ FSB และการนำเสนอคาดว่าจะมีตัวแทนจากกระทรวงการคลังและธนาคารกลางของประเทศ G20 เข้าร่วม

เหตุผลที่เรื่องนี้ถูกยกระดับไปถึงหน่วยงานกำกับดูแลระดับโลก เพราะระบบการเงินสมัยใหม่พึ่งพาเทคโนโลยีอย่างมาก เช่น

• ซอฟต์แวร์ธนาคาร
• โครงสร้างพื้นฐานคลาวด์
• ระบบยืนยันตัวตน
• เครือข่ายการชำระเงิน

หากซอฟต์แวร์ที่ใช้ร่วมกันจำนวนมากมีช่องโหว่เดียวกัน ผลกระทบอาจเกิดพร้อมกันกับหลายสถาบันการเงินทั่วโลก

ทำไมโมเดลนี้ถึงถูกมองว่าอันตรายเกินกว่าจะเปิดใช้ทั่วไป

Anthropic ตัดสินใจ ไม่เปิดให้ใช้ Mythos แบบสาธารณะ เนื่องจากความสามารถของมันอาจลดเวลาหรือทักษะที่ต้องใช้ในการค้นหาช่องโหว่ร้ายแรงในซอฟต์แวร์ยอดนิยม

ถ้าเครื่องมือหนึ่งสามารถวิเคราะห์ระบบปฏิบัติการ เบราว์เซอร์ หรือโครงสร้างพื้นฐานสำคัญแล้วระบุช่องโหว่ที่สามารถโจมตีได้โดยอัตโนมัติ ความเสี่ยงก็ไม่ได้จำกัดอยู่แค่ในวงการไซเบอร์ซีเคียวริตี้ทั่วไป แต่ยังรวมถึงความเสี่ยงจาก

• กลุ่มอาชญากรรมไซเบอร์
• แฮกเกอร์ที่ได้รับการสนับสนุนจากรัฐ
• ผู้โจมตีที่ต้องการใช้ช่องโหว่ก่อนที่ระบบจะถูกแก้ไข

นั่นทำให้ Mythos ถูกปฏิบัติคล้ายเทคโนโลยีด้านความปลอดภัยที่มีความอ่อนไหวสูง มากกว่าจะเป็นผลิตภัณฑ์ AI ทั่วไป

Project Glasswing: การเปิดใช้แบบควบคุม

แทนที่จะเปิดตัวสู่สาธารณะ Anthropic ได้สร้างโครงการชื่อ Project Glasswing เพื่อให้การเข้าถึงโมเดลอยู่ในวงจำกัดสำหรับงานด้านความปลอดภัยไซเบอร์

องค์กรที่ได้รับสิทธิ์เข้าถึงประกอบด้วยบริษัทเทคโนโลยี ผู้ให้บริการคลาวด์ และบริษัทความปลอดภัยไซเบอร์รายใหญ่ เช่น

• Amazon Web Services
• Apple
• Broadcom
• Cisco
• CrowdStrike
• Google
• JPMorganChase
• Microsoft
• NVIDIA
• The Linux Foundation
• Palo Alto Networks

องค์กรเหล่านี้สามารถใช้โมเดลเพื่อตรวจสอบซอฟต์แวร์และระบบที่ผู้คนหลายพันล้านคนใช้งานอยู่ทุกวัน โดยเป้าหมายคือ ค้นหาช่องโหว่และแก้ไขก่อนที่ผู้โจมตีจะพบมัน

ทำไมหน่วยงานกำกับดูแลมองว่า AI ด้านไซเบอร์เป็น “ความเสี่ยงเชิงระบบ”

ในช่วงไม่กี่ปีที่ผ่านมา หน่วยงานกำกับดูแลการเงินเริ่มมองว่าเทคโนโลยี AI ขั้นสูงด้านไซเบอร์ไม่ได้เป็นแค่ปัญหาทางเทคนิค แต่เป็น ความเสี่ยงเชิงระบบ (systemic risk) ต่อเศรษฐกิจ

FSB เคยเตือนว่า AI อาจเพิ่มความเปราะบางของระบบการเงินผ่านหลายช่องทาง เช่น

• การพึ่งพาผู้ให้บริการเทคโนโลยีรายใหญ่เพียงไม่กี่ราย
• ความเสี่ยงไซเบอร์ที่เพิ่มขึ้น
• ความล้มเหลวที่เกิดพร้อมกันในหลายสถาบัน
• ปัญหาการกำกับดูแลโมเดล AI

เนื่องจากธนาคาร ตลาดการเงิน และระบบการชำระเงินทั่วโลกมักใช้โครงสร้างพื้นฐานซอฟต์แวร์ร่วมกัน ช่องโหว่สำคัญเพียงจุดเดียวอาจกระทบหลายองค์กรพร้อมกันได้ หาก AI ทำให้การค้นพบหรือการใช้ประโยชน์จากช่องโหว่เกิดขึ้นเร็วขึ้น ผลกระทบอาจลุกลามไปทั่วระบบการเงินโลก

สิ่งที่ยังไม่เปิดเผย

แม้จะได้รับความสนใจอย่างมาก แต่รายละเอียดเกี่ยวกับ Mythos ยังมีน้อยมาก

Anthropic ยังไม่ได้เปิดเผยว่าช่องโหว่ที่โมเดลค้นพบคืออะไร มีความร้ายแรงระดับไหน หรือมีการตรวจสอบโดยนักวิจัยด้านความปลอดภัยอิสระหรือไม่ ข้อมูลจำนวนมากยังมาจากคำแถลงของบริษัทและรายงานข่าวเท่านั้น

ความลับนี้สะท้อนปัญหาหลักของเทคโนโลยีลักษณะนี้: การเปิดเผยข้อมูลมากเกินไปเกี่ยวกับช่องโหว่ที่ค้นพบ อาจสร้างความเสี่ยงด้านความปลอดภัยใหม่ขึ้นมาเอง

จุดเปลี่ยนของวงการความปลอดภัยไซเบอร์

Mythos แสดงให้เห็นแนวโน้มใหม่ในโลกไซเบอร์ซีเคียวริตี้ ซึ่ง AI สามารถเร่งทั้งการป้องกันและการโจมตี

งานวิเคราะห์โค้ดที่เคยใช้เวลาหลายเดือนสำหรับนักวิจัยด้านความปลอดภัย อาจถูกทำโดยโมเดล AI ภายในไม่กี่นาทีหรือไม่กี่ชั่วโมง

สำหรับบริษัทเทคโนโลยี รัฐบาล และสถาบันการเงิน ความท้าทายสำคัญจึงอยู่ที่การ ใช้ AI เพื่อปกป้องโครงสร้างพื้นฐานสำคัญให้ทันเวลา ขณะเดียวกันก็ป้องกันไม่ให้ความสามารถเดียวกันถูกใช้ในการโจมตีขนาดใหญ่