Mythos AI ของ Anthropic ก้าวข้ามขีดจำกัดด้านความปลอดภัยไซเบอร์ในการจำลองการโจมตีในสหราชอาณาจักร

ขีดความสามารถนี้มีความสำคัญ เพราะมันทำให้ระบบ AI ก้าวข้ามการแค่ตอบคำถามด้านความมั่นคงปลอดภัยหรือเขียนโค้ดสั้นๆ ไปสู่การทำตามขั้นตอนการโจมตีที่สมจริง นั่นคือการวางแผนและดำเนินการหลายขั้นตอนเพื่อบรรลุเป้าหมาย

หลักฐานที่บ่งชี้ว่าศักยภาพทางไซเบอร์ของ AI กำลังก้าวหน้าอย่างรวดเร็ว

รัฐบาลสหราชอาณาจักรได้ออกมาเตือนว่า โมเดล AI รุ่นใหม่ๆ กำลังมีความสามารถเพิ่มขึ้นเรื่อยๆ ในงานที่ก่อนหน้านี้ต้องอาศัยความเชี่ยวชาญด้านความปลอดภัยทางไซเบอร์ที่หายาก ซึ่งรวมถึง:

• การระบุช่องโหว่ของซอฟต์แวร์
• การเขียนโค้ดเพื่อใช้ประโยชน์จากช่องโหว่ (exploit code)
• การเร่งกระบวนการค้นหาและใช้ประโยชน์จากช่องโหว่ให้เร็วขึ้น

เจ้าหน้าที่ระบุว่า การเปลี่ยนแปลงนี้อาจเพิ่มความเร็วและขนาดของการปฏิบัติการทางไซเบอร์ได้อย่างมาก เมื่อเทียบกับการโจมตีที่ขับเคลื่อนโดยมนุษย์แบบดั้งเดิม

ในทางปฏิบัติ ปัญหาคอขวดอาจไม่ใช่การมีแฮ็กเกอร์ที่เก่งพออีกต่อไป แต่เป็นคำถามที่ว่า ใครบ้างที่สามารถเข้าถึงระบบ AI ที่จะช่วยให้การทำงานเป็นอัตโนมัติได้

เหตุใดการควบคุมและจำกัดการเข้าถึงโมเดลจึงสำคัญ

ด้วยขีดความสามารถเหล่านั้น โมเดลอย่าง Mythos จึงไม่ได้ถูกปล่อยให้ใช้กันในวงกว้าง

Anthropic ได้วางตำแหน่งให้ระบบนี้แข็งแกร่งเป็นพิเศษในงานด้านความปลอดภัยทางคอมพิวเตอร์ และจำกัดการเข้าถึงเพื่อให้สามารถใช้งานได้เฉพาะในงานวิจัยเชิงป้องกันและการค้นหาช่องโหว่ในสภาพแวดล้อมที่มีการควบคุมเท่านั้น

เหตุผลนั้นตรงไปตรงมา: เครื่องมือ AI แบบเดียวกับที่ช่วยให้นักวิจัยด้านความปลอดภัยค้นพบจุดอ่อนได้เร็วขึ้น ก็สามารถช่วยผู้โจมตีได้เช่นกัน หากพวกเขาเข้าถึงได้โดยไม่มีข้อจำกัด

ความกังวลเกี่ยวกับการเข้าถึงโดยไม่ได้รับอนุญาต

แม้จะมีข้อจำกัดการเข้าถึงแล้วก็ตาม ผู้เชี่ยวชาญก็ยังคงกังวลว่า การควบคุมระบบ AI ที่ทรงพลังจะยากลำบากเพียงใด เมื่อมันถูกแบ่งปันไปยังพาร์ทเนอร์ ผู้ประเมิน หรือผู้ให้บริการบุคคลที่สาม

มีรายงานบางส่วนชี้ว่า กลุ่มผู้ใช้ที่ไม่ได้รับอนุญาตกลุ่มเล็กๆ อาจเข้าถึง Mythos ได้ผ่านสภาพแวดล้อมของผู้ให้บริการบุคคลที่สาม แม้ว่า Anthropic จะระบุว่าไม่พบหลักฐานว่าระบบของตนเองถูกบุกรุก เนื่องจากข้อมูลนี้มาจากการรายงานขั้นที่สอง รายละเอียดต่างๆ จึงยังไม่มีความชัดเจน

อย่างไรก็ตาม เหตุการณ์นี้ได้แสดงให้เห็นถึงความกังวลในวงกว้างว่า โมเดลไซเบอร์ที่มีขีดความสามารถสูงอาจกลายเป็นเป้าหมายที่มีมูลค่าสำหรับการโจรกรรมหรือการใช้ในทางที่ผิด

ช่องว่างที่กำลังกว้างขึ้นระหว่างผู้พิทักษ์ที่มี AI และคนอื่นๆ

ความกังวลอีกประการหนึ่งที่ถูกหยิบยกขึ้นมาโดยผู้กำหนดนโยบายและนักวิจัยด้านความปลอดภัย คือ ศักยภาพในการเกิด "ความเหลื่อมล้ำด้านการป้องกัน" (“defense inequality.”)

องค์กรที่สามารถเข้าถึงเครื่องมือรักษาความปลอดภัย AI ขั้นสูง อาจสามารถสแกนระบบ ตรวจจับช่องโหว่ และติดตั้งแพตช์ได้เร็วกว่าทีมที่ใช้วิธีการแบบเดิมมาก ในขณะเดียวกัน ผู้โจมตีที่ใช้ AI ก็สามารถเร่งการค้นหาและใช้ประโยชน์จากจุดอ่อนได้เร็วขึ้นเช่นกัน

สิ่งนี้ทำให้เกิดสถานการณ์ที่องค์กรที่มีทรัพยากรพร้อมจะได้รับประโยชน์จากการป้องกันที่เสริมด้วย AI ในขณะที่องค์กรขนาดเล็กต้องเผชิญกับภัยคุกคามที่เป็นอัตโนมัติมากขึ้น โดยไม่มีเครื่องมือที่เทียบเท่ากัน

ผลการประเมิน Mythos กำลังส่งสัญญาณอะไรให้เราจริงๆ

ผลการทดสอบของ AISI ไม่ได้หมายความว่า AI จะสามารถเจาะระบบเครือข่ายในโลกความเป็นจริงได้อย่างอิสระโดยไม่มีข้อจำกัด การประเมินนี้เกิดขึ้นในสภาพแวดล้อมที่ถูกควบคุม และอาจไม่ได้สะท้อนถึงประสิทธิภาพที่จะเกิดขึ้นกับระบบที่มีการป้องกันอย่างแข็งแกร่งและมีผู้ดูแลระบบคอยป้องกันอยู่

แต่การค้นพบนี้แสดงให้เห็นถึงการเปลี่ยนแปลงที่ชัดเจน: โมเดล AI ระดับแนวหน้ากำลังเริ่มดำเนินการโจมตีทางไซเบอร์ที่ซับซ้อนได้ด้วยตัวเองในการจำลองสถานการณ์ที่สมจริง

สำหรับรัฐบาลและผู้เชี่ยวชาญด้านความปลอดภัย ความท้าทายนี้ไม่ใช่เรื่องสมมติอีกต่อไป เมื่อระบบ AI พัฒนาขึ้นอย่างต่อเนื่องในการค้นหาและใช้ประโยชน์จากช่องโหว่ การควบคุมการเข้าถึงและการทำให้มั่นใจในการนำไปใช้ในเชิงป้องกัน อาจมีความสำคัญพอๆ กับการพัฒนาให้ตัวโมเดลเองเก่งขึ้น