Anthropic อนุญาตให้พันธมิตรแชร์ข้อมูลช่องโหว่จาก Mythos AI เพื่อเร่งการป้องกันภัยไซเบอร์

หากใช้ในเชิงป้องกัน ความสามารถนี้ช่วยให้องค์กรสามารถค้นหาจุดอ่อนในระบบได้เร็วกว่าเดิม และแก้ไขก่อนที่แฮกเกอร์จะนำไปใช้โจมตี

แต่ปัญหาก็คือ ความสามารถเดียวกันนี้สามารถถูกใช้ในทางโจมตีได้เช่นกัน หากเครื่องมือดังกล่าวเข้าถึงได้ง่าย Anthropic จึงเลือก ไม่เปิดตัว Mythos ต่อสาธารณะ และจำกัดการใช้งานเฉพาะในโครงการควบคุมที่เรียกว่า Project Glasswing

ฟีเจอร์ใหม่: การแชร์ข้อมูลภัยไซเบอร์ระหว่างพันธมิตร

ในช่วงแรก ผู้เข้าร่วม Project Glasswing ถูกจำกัดไม่ให้เผยแพร่ข้อมูลช่องโหว่ที่ค้นพบด้วย Mythos อย่างกว้างขวาง เนื่องจากข้อตกลงไม่เปิดเผยข้อมูล (NDA)

แต่ล่าสุด Anthropic ได้ปรับนโยบายให้ ผู้เข้าร่วมสามารถแชร์ข้อมูลภัยไซเบอร์กับองค์กรอื่นที่อาจได้รับผลกระทบจากช่องโหว่เดียวกันได้

แนวคิดหลักคือ

• หากองค์กรหนึ่งพบช่องโหว่ผ่าน Mythos
• องค์กรอื่นที่ใช้ซอฟต์แวร์เดียวกันจะได้รับการแจ้งเตือนเร็วขึ้น
• ผู้ดูแลระบบสามารถอุดช่องโหว่หรือป้องกันความเสี่ยงได้ก่อนที่ผู้โจมตีจะใช้ประโยชน์

ผู้สนับสนุนมองว่าการเปลี่ยนแปลงนี้สอดคล้องกับแนวทาง responsible vulnerability disclosure ซึ่งเป็นแนวปฏิบัติมาตรฐานของวงการความปลอดภัยไซเบอร์ ที่เน้นการแชร์ข้อมูลสำคัญระหว่างผู้ป้องกันเพื่อป้องกันการโจมตีวงกว้าง

บริษัทใหญ่ที่เข้าร่วม Project Glasswing

Project Glasswing เป็นความร่วมมือระหว่าง Anthropic กับบริษัทเทคโนโลยีและความปลอดภัยไซเบอร์ขนาดใหญ่ เพื่อทดสอบ Mythos ในสภาพแวดล้อมควบคุม

องค์กรที่มีรายงานว่าเข้าร่วม ได้แก่

• Amazon Web Services
• Apple
• Broadcom
• Cisco
• CrowdStrike
• Google
• JPMorganChase
• Microsoft
• Nvidia
• Palo Alto Networks
• The Linux Foundation

องค์กรเหล่านี้เป็นผู้ดูแลหรือรักษาความปลอดภัยของโครงสร้างพื้นฐานดิจิทัลที่ผู้คนทั่วโลกใช้งานอยู่ทุกวัน ทำให้เหมาะกับการทดลองใช้ AI เพื่อค้นหาช่องโหว่ในระดับใหญ่

ทำไมการเข้าถึง Mythos ยังถูกจำกัดอย่างเข้มงวด

แม้จะเปิดให้แชร์ข้อมูลภัยคุกคามมากขึ้น แต่ Anthropic ยัง จำกัดการเข้าถึงโมเดล Mythos อย่างมาก

เหตุผลหลักคือความสามารถของมันถูกมองว่า ทรงพลังเกินกว่าจะเปิดใช้ทั่วไป

การทดสอบพบว่า Mythos สามารถค้นพบช่องโหว่ร้ายแรงจำนวนมากในระบบซอฟต์แวร์ที่ใช้กันทั่วโลก หากเครื่องมือนี้ตกไปอยู่ในมือของอาชญากรไซเบอร์หรือรัฐที่มีเจตนาโจมตี ก็อาจทำให้การค้นหาช่องโหว่และการโจมตีระบบเกิดขึ้นได้ในระดับอัตโนมัติและรวดเร็วขึ้นมาก

เพื่อลดความเสี่ยง Anthropic จึงใช้มาตรการ เช่น

• จำกัดการเข้าถึงเฉพาะองค์กรที่ผ่านการคัดเลือก
• ใช้โมเดลเพื่อการป้องกันด้านไซเบอร์เท่านั้น
• ให้ทดลองใช้งานภายในสภาพแวดล้อมควบคุมของ Project Glasswing

หน่วยงานกำกับดูแลเริ่มจับตาอย่างใกล้ชิด

ศักยภาพของ AI ในการค้นพบช่องโหว่ขนาดใหญ่ทำให้รัฐบาลและหน่วยงานกำกับดูแลเริ่มให้ความสนใจ

มีรายงานว่าหน่วยงานด้านการเงินและธนาคารกลางในหลายประเทศได้ขอข้อมูลจาก Anthropic เกี่ยวกับความเสี่ยงของ Mythos โดยกังวลว่า AI อาจค้นพบจุดอ่อนในโครงสร้างพื้นฐานทางการเงิน เช่น ระบบธนาคารหรือระบบชำระเงิน

ประเด็นนี้ทำให้เทคโนโลยี AI ด้านความปลอดภัยไซเบอร์ไม่ได้เป็นเพียงเรื่องของบริษัทเทคโนโลยีอีกต่อไป แต่เกี่ยวข้องกับ ความมั่นคงของประเทศและเสถียรภาพเศรษฐกิจ ด้วย

ประเด็นถกเถียงใหญ่: ป้องกันเร็วขึ้น หรือเพิ่มความเสี่ยงใหม่

การเกิดขึ้นของ Mythos และ Project Glasswing ทำให้เกิดการถกเถียงสำคัญในวงการไซเบอร์ซีเคียวริตี้

ฝ่ายหนึ่งเชื่อว่า

• AI ที่ค้นพบช่องโหว่ได้เร็วขึ้นจะช่วยเสริมการป้องกันทั่วโลก
• ผู้ดูแลระบบสามารถแก้ไขปัญหาก่อนที่แฮกเกอร์จะใช้ประโยชน์

แต่อีกฝ่ายเตือนว่า

• เครื่องมือที่ทรงพลังเช่นนี้อาจทำให้การโจมตีไซเบอร์ทำได้ง่ายและถูกลง
• หากข้อมูลหรือเครื่องมือรั่วไหล ผลกระทบอาจเกิดในระดับกว้าง

แนวทางของ Anthropic ในตอนนี้—การจำกัดการเข้าถึง ควบคุมการทดลอง และอนุญาตให้แชร์ข้อมูลเฉพาะด้านการป้องกัน—ถือเป็นความพยายามหาจุดสมดุลระหว่าง การป้องกันที่รวดเร็วขึ้นกับความเสี่ยงจากการใช้งานผิดวัตถุประสงค์

สัญญาณของอนาคตความปลอดภัยไซเบอร์

Project Glasswing อาจเป็นสัญญาณว่าโลกกำลังก้าวเข้าสู่ยุคใหม่ของความปลอดภัยไซเบอร์

ในอนาคตอันใกล้ AI อาจสามารถค้นพบช่องโหว่ได้เร็วกว่าและมากกว่านักวิจัยมนุษย์ ซึ่งจะเปลี่ยนโจทย์ของวงการจากการ “ค้นหาช่องโหว่” ไปสู่การจัดการว่าเครื่องมือที่ทรงพลังเหล่านี้ควรถูกควบคุม แชร์ และกำกับดูแลอย่างไร

Project Glasswing จึงอาจเป็นเพียงการทดลองแรก ๆ ของโลกในการใช้ AI ระดับแนวหน้ามาช่วยปกป้องโครงสร้างพื้นฐานดิจิทัลของมนุษย์ ขณะเดียวกันก็พยายามป้องกันไม่ให้มันกลายเป็นอาวุธไซเบอร์รูปแบบใหม่