AI กำลังทำให้การโจมตีไซเบอร์เร็วขึ้นและขยายวงได้ง่ายขึ้น แต่ยังไม่ใช่ “แฮกเกอร์อัตโนมัติเต็มรูปแบบ”

ข้อค้นพบที่ตรงกันของทั้งสามบริษัทไม่ใช่ว่า AI สร้างวิธีเจาะระบบชนิดใหม่ขึ้นมาทั้งหมด หากแต่ AI กำลังเปลี่ยนเทคนิคการโจมตีที่มีอยู่เดิมให้เป็นเวิร์กโฟลว์หลายขั้นตอนที่ทำซ้ำได้ โมเดลสามารถช่วยวางแผน สร้างเนื้อหา ทดสอบ ปรับแก้ และขยายปฏิบัติการ โดยใช้แรงงานผู้เชี่ยวชาญและเวลาที่คนต้องลงมือเองน้อยลง หลักฐานที่มีจึงหนักแน่นที่สุดในแง่ที่ว่า AI เร่งและประสานการโจมตีแบบเดิม ไม่ใช่ยืนยันว่ามีระบบโจมตีที่ทำงานเองโดยไร้การกำกับจากมนุษย์อย่างมีนัยสำคัญแล้ว 107

จากผู้ช่วยสู่ผู้ปฏิบัติการในเวิร์กโฟลว์

Google อธิบายถึงการเปลี่ยนจากการป้อนคำสั่งให้โมเดลเป็นครั้งคราว ไปสู่การผนวก AI แบบเอเจนต์เข้ากับกระบวนการโจมตี เช่น การสแกนอัตโนมัติ การเก็บข้อมูลรับรอง การแก้ปัญหาระหว่างปฏิบัติการ และการหมุนเวียนโครงสร้างพื้นฐาน การเชื่อมงานเหล่านี้เข้าด้วยกันทำให้สิ่งที่เคยต้องใช้เครื่องมือและผู้ปฏิบัติการหลายคน กลายเป็นกระบวนการที่วนปรับได้รวดเร็วขึ้น 11

อย่างไรก็ดี ควรแยกคำว่า “เอเจนต์” ออกจากภาพจำของมัลแวร์ที่ตัดสินใจทุกอย่างเอง รายงานยังไม่ได้พิสูจน์ว่า การโจมตีแบบอัตโนมัติเต็มรูปแบบตั้งแต่ต้นจนจบกลายเป็นเรื่องปกติในโลกจริง แต่ชี้ว่า AI รับช่วงงานย่อยหลายส่วนได้มากขึ้น และลดเวลาที่คนต้องนั่งทำงานหน้าเครื่องลง

ผู้โจมตีกำลังใช้ AI ทำอะไรบ้าง

การใช้ที่ตรวจพบหรือถูกกล่าวอ้างในรายงานครอบคลุมการค้นคว้าและทำโปรไฟล์เป้าหมาย การร่างข้อความฟิชชิงแบบหลายภาษา การพัฒนาและดีบักมัลแวร์หรือสคริปต์ การเตรียมโครงสร้างพื้นฐาน การสรุปข้อมูลที่ขโมยมา และการผลิตเนื้อหาสำหรับวิศวกรรมสังคม Microsoft ประเมินว่าการใช้ AI เพื่อประสงค์ร้ายในปัจจุบันส่วนใหญ่ยังอยู่ที่การสร้างข้อความ โค้ด หรือสื่อ มากกว่าการเจาะระบบอัตโนมัติครบวงจร 10

นี่ทำให้ภัยที่คุ้นเคยอย่างอีเมลหลอกลวง หน้าช่วยเหลือปลอม หรือการสวมรอยพนักงานไอที มีความน่าเชื่อถือและปรับเปลี่ยนได้บ่อยขึ้น ความได้เปรียบเดิมของฝ่ายป้องกันที่อาศัยการจับคำผิด รูปแบบข้อความซ้ำ หรือเทมเพลตฟิชชิงที่รู้จัก จึงอ่อนลง

กลุ่มที่เชื่อมโยงกับรัฐและอาชญากรรมไซเบอร์: สิ่งที่รายงานพบ

Anthropic ระบุว่าได้ตรวจพบและขัดขวางกิจกรรมที่เกี่ยวข้องกับผู้ปฏิบัติการซึ่งเชื่อมโยงกับรัสเซีย จีน และอิหร่าน รวมถึงกลุ่มที่มีแรงจูงใจทางการเงิน กิจกรรมเหล่านี้ครอบคลุมปฏิบัติการไซเบอร์ ปฏิบัติการชักจูงทางข้อมูล การเฝ้าระวัง การฉ้อโกง การใช้ผิดวัตถุประสงค์ด้านชีววิทยา งานเกี่ยวกับอาวุธแบบดั้งเดิม และการสกัดความสามารถของโมเดล รายงานข่าว Reuters ระบุว่ากรณีศึกษาของ Anthropic มีปฏิบัติการที่เชื่อมโยงกับรัสเซียซึ่งมุ่งเป้าเจ้าหน้าที่ของยูเครน และข้อกล่าวหาเรื่องการใช้ Claude ในทางที่ผิดโดยบริษัท AI จีน 724

ข้อกล่าวหาและการระบุกลุ่มเหล่านี้เป็นการประเมินของบริษัทผู้จัดทำรายงานและกรณีศึกษาที่ตรวจพบ ไม่ใช่ตัวชี้วัดปริมาณกิจกรรมคุกคามทั้งหมดบนโลกอินเทอร์เน็ต

ในด้านอาชญากรรมไซเบอร์ Microsoft เชื่อมโยงแคมเปญวิศวกรรมสังคมที่อ้างอิง passkey และระบบลงชื่อเข้าใช้ครั้งเดียว (SSO) เพื่อโจมตีบัญชี Microsoft 365 ขององค์กร เข้ากับผู้ปฏิบัติการที่เกี่ยวข้องกับ ShinyHunters, Helix และกลุ่มรีดไถอื่น ๆ รูปแบบที่รายงานคือการสอดแนมเป้าหมายก่อน แล้วสวมรอยฝ่ายสนับสนุนไอทีเพื่อหลอกเอาสิทธิ์เข้าถึงและขโมยข้อมูลบนคลาวด์ นี่คือตัวอย่างการขโมยข้อมูลรับรองแบบดั้งเดิมที่มีการทำเป้าหมายและเหยื่อล่อได้ดีขึ้น ไม่ใช่หลักฐานว่า AI เจาะระบบทั้งหมดได้ด้วยตัวเอง 3

จุดเสี่ยงอยู่ที่วงจร “สร้าง–ทดสอบ–แก้–นำไปใช้”

กรณีที่ Anthropic รายงานสะท้อนผลกระทบเชิงปฏิบัติการของ AI แบบเอเจนต์ ผู้โจมตีอาจขอให้โมเดลแก้ไขหรือสร้างโค้ดใหม่เมื่อผลิตภัณฑ์ป้องกันตรวจจับมัลแวร์ได้ ใช้ข้อมูลรับรองหรือคีย์ API ที่ขโมยมาเป็นทรัพยากรประมวลผลต้นทุนต่ำ และวนปรับงานได้เร็วมาก ความเสี่ยงจึงไม่ใช่คำสั่งอันตรายคำสั่งเดียว แต่คือวงจรป้อนกลับที่สร้าง ทดสอบ แก้ไข แล้วปล่อยใช้งานซ้ำอย่างต่อเนื่อง 87

ในทำนองเดียวกัน การสวมรอยแบรนด์ด้วย AI อาจรวมถึงหน้าเว็บสนับสนุนปลอม ข้อความฟิชชิง การสนทนาผ่านแชต เสียงหรือภาพเลียนแบบ และเนื้อหาหลายภาษา ซึ่งผลิตและปรับใหม่ได้ในต้นทุนต่ำ Microsoft ระบุว่าเห็นการใช้ AI ในการสร้างเหยื่อล่อฟิชชิงและการแปลภาษาโดยเฉพาะ 10

“กลั่นโมเดล” คือภัยต่อทรัพย์สินทางปัญญาและความสามารถของ AI

อีกด้านหนึ่งของภาพภัยคุกคามคือการโจมตีเพื่อสกัดความสามารถของโมเดล หรือที่เรียกว่า model extraction และ distillation Google อธิบายว่าเป็นการใช้สิทธิ์เข้าถึง Gemini อย่างเป็นระบบเพื่อพยายามดึงข้อมูลเกี่ยวกับความสามารถเฉพาะของโมเดลออกไป จึงเป็นทั้งปัญหาการละเมิดทรัพย์สินทางปัญญาและความมั่นคงของขีดความสามารถ AI ไม่ใช่อาชญากรรมไซเบอร์ในความหมายแคบเท่านั้น 11

รายงานสาธารณะกล่าวถึงแคมเปญที่ใช้พรอมป์ตจำนวนมหาศาล การตีความที่ระมัดระวังคือ ผู้โจมตีอาจพยายามสำรวจ API ซ้ำ ๆ เพื่อเลียนแบบพฤติกรรมที่เป็นประโยชน์ของโมเดลระดับแนวหน้า ขณะที่ผู้ให้บริการต้องตรวจจับการเรียกใช้งานที่ผิดปกติและปกป้องกลไกการให้เหตุผลกับมาตรการป้องกันของตน 118

เหตุใด AI จึงเปลี่ยนสมการต้นทุนของฝ่ายป้องกัน

AI ลดต้นทุนส่วนเพิ่มของการเขียนข้อความ การปรับภาษาให้เหมาะกับผู้รับ การค้นคว้า การช่วยเขียนโค้ด และการหลอกลวงแบบปรับแก้ซ้ำ ซึ่งทำให้กลุ่มอาชญากรหรือแฮ็กทิวิสต์ที่มีทรัพยากรจำกัดเข้าถึงขีดความสามารถบางส่วนที่เดิมต้องอาศัยทีมขนาดใหญ่ ฝ่ายป้องกันจึงต้องคัดแยกเนื้อหาอันตรายที่เฉพาะบุคคลขึ้น เปลี่ยนเร็วขึ้น และดูคล้ายการสื่อสารจริงมากขึ้น 610

นัยสำคัญคือความเหลื่อมล้ำด้านความเร็วและการขยายขนาด ไม่ใช่ข้อสรุปว่าโจมตีด้วย AI ทุกครั้งจะสำเร็จ หรือว่า AI แทนผู้โจมตีมนุษย์ได้แล้วทั้งหมด

ประเด็น Responsible AI ไม่ได้จบที่ฟิชชิง

คำถามเรื่องการเข้าถึง ความสามารถ และการเฝ้าระวังการใช้โมเดลไม่ได้จำกัดอยู่แค่การโจมตีไซเบอร์ รายงานของ Anthropic ครอบคลุมความพยายามใช้ AI ผิดวัตถุประสงค์ที่เกี่ยวข้องกับการพัฒนาทางชีววิทยาและอาวุธแบบดั้งเดิมด้วย ด้วยเหตุนี้ มาตรการที่ถูกพูดถึงจึงรวมถึงการติดตามการใช้งานในทางที่ผิด การควบคุมบัญชีและ API การจำกัดอัตราการเรียกใช้ การตรวจจับการสกัดโมเดล การแบ่งปันข้อมูลเหตุการณ์ และมาตรการคุ้มครองในโดเมนที่มีผลกระทบรุนแรง ไม่ใช่เพียงการป้องกันอีเมลฟิชชิง 162

ข้อควรระวังสำคัญคือ รายงานเหล่านี้บันทึกกรณีที่บริษัทตรวจพบและขัดขวางได้ จึงแสดงให้เห็นถึงขีดความสามารถและรูปแบบปฏิบัติการที่กำลังก่อตัว แต่เพียงลำพังยังไม่อาจยืนยันได้ว่า การโจมตีแบบอัตโนมัติเต็มรูปแบบเป็นรูปแบบหลักของอาชญากรรมไซเบอร์แล้ว 7