สิงคโปร์เตรียมรับมือการโจมตีโครงสร้างพื้นฐานสำคัญด้วย Frontier AI อย่างไร

Frontier AI กำลังเปลี่ยนสมการด้านความปลอดภัยไซเบอร์ โมเดลที่มีความสามารถสูงในการวิเคราะห์ซอฟต์แวร์และให้เหตุผลเกี่ยวกับการโจมตี อาจช่วยให้ผู้โจมตีค้นหาจุดอ่อน เขียนโค้ดโจมตี และปรับแต่งแคมเปญหลอกลวงทางสังคมได้เร็วขึ้น โดยใช้ความเชี่ยวชาญเฉพาะทางน้อยลง สิงคโปร์จึงมองความเสี่ยงนี้ว่าเป็นการเร่งให้ภัยเดิมรุนแรงขึ้น ไม่ใช่เหตุผลที่จะหยุดใช้ AI แต่เป็นสัญญาณให้รีบเสริมความแข็งแกร่งของระบบก่อนที่เวลาสำหรับการป้องกันจะสั้นลง

ความเสี่ยงหลัก: ผู้โจมตีทำงานได้เร็วขึ้น

ข้อกังวลสำคัญที่สุดคือช่วงเวลาระหว่างการค้นพบช่องโหว่กับการถูกนำไปใช้โจมตีกำลังหดสั้นลง สำนักงานความมั่นคงปลอดภัยไซเบอร์สิงคโปร์ หรือ CSA ระบุว่า Frontier AI อาจช่วยให้ผู้ก่อภัยคุกคามค้นพบช่องโหว่ได้เร็วขึ้น ทำให้องค์กรมีเวลาน้อยลงในการตรวจสอบ อุดช่องโหว่ และทดสอบระบบ

CSA เน้นเป็นพิเศษที่ทรัพย์สินดิจิทัลซึ่งเปิดให้เข้าถึงจากอินเทอร์เน็ต เพราะมีโอกาสถูกโจมตีแบบอัตโนมัติสูงกว่า และหากถูกยึดระบบได้ก็อาจสร้างผลกระทบในวงกว้าง

ความเสี่ยงไม่ได้จำกัดอยู่แค่ระบบไอทีสำนักงาน แพลตฟอร์มภาครัฐ บริการคลาวด์ และโครงสร้างพื้นฐานสารสนเทศสำคัญ หรือ CII อาจเป็นทางเข้าสู่บริการจำเป็นและระบบเทคโนโลยีปฏิบัติการ หรือ OT หากผู้โจมตีใช้ AI ทำการสำรวจและโจมตีระบบที่เปิดเผยต่อสาธารณะได้โดยอัตโนมัติ จุดอ่อนเพียงจุดเดียวที่ถูกมองข้ามก็อาจถูกค้นพบและนำไปใช้ซ้ำในวงกว้างได้ง่ายขึ้น

AI ยังทำให้การฟิชชิงและการปลอมตัวน่าเชื่อถือขึ้น CSA ระบุว่า AI สามารถสร้างข้อความล่อให้เหยื่อหลงเชื่อได้จำนวนมาก สร้างเสียงเลียนแบบบุคคลจริงและวิดีโอปลอมแบบดีปเฟก รวมถึงพัฒนาเครื่องมือที่พยายามหลบเลี่ยงการยืนยันตัวตนหลายปัจจัย หรือ MFA ได้ ผลที่ตามมาคือพื้นผิวการโจมตีไม่ได้มีเพียงช่องโหว่ทางเทคนิค แต่รวมถึงตัวตน สิทธิ์การเข้าถึง และการตัดสินใจของมนุษย์ด้วย

Claude Mythos Preview คืออะไร และสิงคโปร์รู้อะไรบ้าง

Anthropic อธิบายว่า Claude Mythos Preview เป็นโมเดลที่มีความสามารถสูงสำหรับงานด้านความปลอดภัยคอมพิวเตอร์ และเปิดตัว Project Glasswing เพื่อใช้โมเดลดังกล่าวช่วยป้องกันซอฟต์แวร์สำคัญ อย่างไรก็ตาม คำกล่าวอ้างที่โดดเด่นที่สุดเกี่ยวกับความสามารถของโมเดลควรพิจารณาอย่างระมัดระวัง เนื่องจากการตรวจสอบโดยหน่วยงานอิสระยังมีจำกัด และ Anthropic ยังให้ใช้งานภายใต้การควบคุม ไม่ได้เปิดให้สาธารณชนใช้ทั่วไป

รัฐบาลสิงคโปร์ระบุว่าไม่ได้เข้าถึง Mythos และไม่ได้ตั้งสมมติฐานว่าจะได้รับสิทธิ์เข้าถึงโมเดล Frontier ในอนาคตก่อนทุกคน รัฐบาลจึงทำงานร่วมกับห้องปฏิบัติการ AI บริษัทความปลอดภัยไซเบอร์ และพันธมิตรที่ติดตามพัฒนาการด้านขีดความสามารถของโมเดล รวมถึงประเมินผลกระทบด้านความปลอดภัย

ประเด็นนี้มีนัยสำคัญต่อการวางแผนความปลอดภัย องค์กรไม่ควรออกแบบระบบป้องกันโดยยึดติดกับการตรวจสอบโมเดลใดโมเดลหนึ่ง แต่ควรใช้มาตรการควบคุมที่ยังมีประสิทธิภาพ แม้จะมีโมเดล เครื่องมือ และรูปแบบการโจมตีใหม่ ๆ เกิดขึ้น

สิ่งที่สิงคโปร์เร่งทำในทันที

CSA และ GovTech ได้แจ้งเตือนผู้ดูแล CII และหน่วยงานรัฐถึงความเสี่ยงจาก Frontier AI โดยมาตรการเร่งด่วนเน้นสิ่งที่องค์กรลงมือทำได้ทันที ได้แก่

• แพตช์ระบบที่เปิดสู่อินเทอร์เน็ตก่อน แก้ไขช่องโหว่ระดับวิกฤตและระดับความรุนแรงสูงทั้งหมดบนระบบที่เชื่อมต่ออินเทอร์เน็ต โดยจัดลำดับความสำคัญให้กับทรัพย์สินที่อาจเปิดทางสู่การยึดระบบเป็นวงกว้าง
• ปกป้องช่องทางผู้ดูแลระบบ เปิดใช้ MFA บนอินเทอร์เฟซสำหรับผู้ดูแลระบบ เกตเวย์ และคอนโซลจัดการคลาวด์ หากระบบใดไม่รองรับ MFA ให้จำกัดการเข้าถึงด้วยมาตรการ เช่น การอนุญาตเฉพาะรายการ IP ที่กำหนด
• ทบทวนสิทธิ์การเข้าถึง ตรวจสอบบัญชีสิทธิ์สูง บัญชีที่ไม่มีการใช้งาน และสิทธิ์ที่ไม่จำเป็น หลักการให้สิทธิ์เท่าที่จำเป็นและการแบ่งส่วนเครือข่ายช่วยจำกัดขอบเขตความเสียหายหลังผู้โจมตีเจาะระบบได้
• เพิ่มการมองเห็นระบบ จัดทำบัญชีทรัพย์สินที่ถูกต้องและเป็นปัจจุบัน ครอบคลุมระบบสำคัญ ทรัพย์สินที่เปิดสู่อินเทอร์เน็ต บริการคลาวด์ และการพึ่งพาผู้ให้บริการภายนอก พร้อมเฝ้าติดตามอย่างต่อเนื่อง
• เตรียมแผนตอบสนองเหตุการณ์ กำหนดเส้นทางการยกระดับเหตุการณ์ให้ชัดเจน เตรียมข้อมูลสำรองที่ผ่านการทดสอบ และฝึกซ้อมสถานการณ์ที่สะท้อนการโจมตีซึ่งเร็วและเป็นอัตโนมัติมากขึ้น

มาตรการเหล่านี้ไม่ใช่เรื่องใหม่ แต่ Frontier AI ทำให้การผัดวันประกันพรุ่งมีความเสี่ยงสูงกว่าเดิม เป้าหมายคือการลดจำนวนจุดอ่อนที่ผู้โจมตีใช้ได้ และลดเวลาตั้งแต่พบปัญหาจนถึงแก้ไขเสร็จ

ใช้ AI ป้องกันภัย แต่ต้องรักษาความปลอดภัยให้ AI ด้วย

AI ด้านความปลอดภัยไซเบอร์ช่วยทีมงานตรวจจับภัยคุกคาม คัดแยกการแจ้งเตือน สืบสวนเหตุการณ์ และค้นหาหรือแก้ไขช่องโหว่ได้เร็วขึ้น CSIT ของสิงคโปร์ระบุถึงเวิร์กโฟลว์ที่ขับเคลื่อนด้วย AI และระบบฟัซซิงสำหรับค้นหาช่องโหว่แบบซีโร่เดย์ในซอฟต์แวร์สำคัญ ตลอดจนการจำลองการโจมตีเชิงรุกเพื่อเปิดเผยจุดอ่อนของสถาปัตยกรรมก่อนที่ผู้โจมตีจะพบ

แต่การใช้ AI เพื่อป้องกันภัยก็สร้างหน้าที่ด้านความปลอดภัยของตัวเอง CSA ระบุว่าการทำให้โมเดลแข็งแกร่งเพียงอย่างเดียวไม่เพียงพอ เจ้าของระบบควรประเมินความเสี่ยงตลอดวงจรชีวิตของ AI ตั้งแต่การวางแผนและออกแบบ การพัฒนา การนำไปใช้งาน การปฏิบัติการและบำรุงรักษา จนถึงการยุติการใช้งาน ซึ่งรวมถึงการปกป้องข้อมูล อินเทอร์เฟซ การพึ่งพาซอฟต์แวร์ ห่วงโซ่อุปทาน การควบคุมสิทธิ์ และระบบติดตามตรวจสอบ ไม่ใช่ดูเฉพาะพฤติกรรมของโมเดล

การตรวจสอบโดยมนุษย์ยังจำเป็น โดยเฉพาะเมื่อ AI แนะนำแพตช์ จัดประเภทเหตุการณ์ หรือเสนอวิธีตอบสนองที่อาจส่งผลต่อระบบ OT หรือบริการสาธารณะ

ผู้ดูแล CII และภาคธุรกิจต้องรับมือร่วมกัน

แนวนโยบายของสิงคโปร์ผสมผสานการรักษามาตรฐานพื้นฐานเข้ากับการทดสอบอย่างต่อเนื่อง ปัจจุบันผู้ดูแล CII ใช้บริการตรวจสอบจากบุคคลที่สามและการทดสอบเจาะระบบเป็นประจำ โดยส่งรายงานให้ CSA ตรวจสอบ ขณะเดียวกันรัฐบาลเน้นว่าการควบคุมความปลอดภัยต้องได้รับการเสริมความแข็งแกร่งอย่างต่อเนื่อง ไม่ใช่อาศัยเพียงการตรวจประเมินเป็นครั้งคราว

หลักการทำงานสรุปได้ว่า “ล็อกให้แน่น ค้นหาให้เจอก่อน แก้ไขให้เร็ว” ในทางปฏิบัติหมายถึงการทำบัญชีทรัพย์สินให้ครบ สแกนช่องโหว่อย่างต่อเนื่อง แพตช์ให้รวดเร็ว แบ่งส่วนเครือข่ายและสิทธิ์ ทดสอบซอฟต์แวร์กับส่วนประกอบที่พึ่งพา และซ้อมแผนกู้คืนระบบ

แม้ธุรกิจจะไม่ได้ถูกจัดเป็นผู้ดูแล CII ก็ควรนำลำดับความสำคัญเดียวกันไปใช้กับบริการที่เปิดสู่อินเทอร์เน็ต ระบบยืนยันตัวตน คอนโซลคลาวด์ และการเชื่อมต่อกับผู้ให้บริการภายนอกที่มีข้อมูลสำคัญ

แบ่งปันความร่วมมือและข่าวกรองภัยคุกคาม

ไม่มีองค์กรใดสามารถมองเห็นขีดความสามารถของ Frontier AI หรือเส้นทางการโจมตีได้ทั้งหมด หน่วยงานรัฐ ผู้ดูแล CII ผู้ให้บริการคลาวด์และเทคโนโลยี นักวิจัยด้านความปลอดภัย และแวดวงวิชาการจึงควรแบ่งปันตัวชี้วัดที่นำไปใช้ได้จริง ข้อมูลช่องโหว่ และบทเรียนจากการฝึกซ้อมให้รวดเร็วที่สุด

ข่าวกรองบางส่วนจำเป็นต้องเก็บเป็นความลับ สิงคโปร์ระบุว่าจะเลือกแบ่งปันข่าวกรองภัยคุกคามที่เป็นความลับกับผู้ดูแล CII พร้อมจัดหาเครื่องมือป้องกันให้ด้วย ดังนั้นองค์กรต่าง ๆ ควรดำเนินการตามคำแนะนำของ CSA และใช้ข่าวกรองที่ผ่านการลดรายละเอียดสำคัญแล้ว เมื่อไม่สามารถเผยแพร่แหล่งข้อมูลเชิงลึกได้

การฝึกซ้อมระดับชาติก็เป็นส่วนหนึ่งของแนวทางนี้ การฝึก Critical Infrastructure Defence Exercise ใช้การจำลองการโจมตีทางไซเบอร์ที่ขับเคลื่อนด้วย AI ครอบคลุม 11 ภาคส่วนสำคัญ ร่วมกับพันธมิตรภาคอุตสาหกรรม เพื่อเสริมความยืดหยุ่นของประเทศและปรับปรุงการประสานงาน

บทสรุปสำหรับองค์กร

Frontier AI ไม่ได้ทำให้หลักพื้นฐานของความปลอดภัยไซเบอร์หมดความสำคัญ แต่ทำให้ต้นทุนของการละเลยสูงขึ้น การป้องกันระยะใกล้ที่สำคัญที่สุดของสิงคโปร์คือการผสานการแพตช์อย่างรวดเร็ว MFA การให้สิทธิ์เท่าที่จำเป็น การเฝ้าระวังต่อเนื่อง การทดสอบเชิงรุก การใช้ AI อย่างปลอดภัย และการแบ่งปันข้อมูลอย่างทันท่วงที

ในยุคที่โมเดล Frontier พัฒนาต่อเนื่อง องค์กรที่ค้นพบและอุดจุดอ่อนของตนเองได้ก่อนที่ผู้โจมตีอัตโนมัติจะพบ ย่อมมีโอกาสรักษาระบบสำคัญและจำกัดความเสียหายได้ดีที่สุด