Phantom Squatting: ภัยคุกคามรูปแบบใหม่ที่ใช้ AI Hallucination จี้โดเมนและวิธีป้องกัน

การโจมตีแบบ Phantom Squatting ทำงานอย่างไร?

Phantom squatting เป็นกระบวนการโจมตีที่เรียบง่ายแต่เป็นอันตราย ซึ่งใช้ประโยชน์จากจุดอ่อนของโมเดลภาษาใหญ่ (LLMs) ในการจัดการกับข้อมูลที่ขาดหายไป

ขั้นตอนที่ 1: การหา Hallucination มิจฉาชีพจะป้อนคำถามให้ AI อย่างเป็นระบบ เพื่อค้นหาโดเมน 'ผี' ที่โมเดล AI มักจะหลอน (hallucinate) สำหรับแบรนด์เฉพาะ LLMs สามารถสร้าง "URL ที่มีโครงสร้างสมบูรณ์และน่าเชื่อถือสูง" ซึ่งชี้ไปยังโดเมนที่ไม่เคยมีการจดทะเบียนมาก่อน

ขั้นตอนที่ 2: จดทะเบียนโดเมนผี เมื่อระบุโดเมนที่ถูกหลอนได้แล้ว มิจฉาชีพจะซื้อโดเมนที่ยังไม่มีการจดทะเบียนด้วยเงินไม่กี่ดอลลาร์ สร้างโครงสร้างพื้นฐานที่เป็นอันตราย และรอคอย

ขั้นตอนที่ 3: ใช้ประโยชน์จากความไว้วางใจ เหยื่อ ไม่ว่าจะเป็นผู้ใช้จริงหรือ AI Agent อัตโนมัติ จะคลิกลิงก์ที่ AI สร้างขึ้นและเดินเข้าสู่กับดัก เมื่อถึงเวลาที่ระบบรักษาความปลอดภัยแบบดั้งเดิมตรวจพบโดเมนดังกล่าวว่าเป็นอันตราย ความเสียหายก็มักจะเกิดขึ้นแล้ว

นี่คือการเปลี่ยนแปลงครั้งสำคัญจากเทคนิค Cybersquatting แบบดั้งเดิม เพราะ Cybersquatting เดิมอาศัยการพิมพ์ผิดของมนุษย์หรือโดเมนที่คล้ายคลึงกัน เช่น "netflix-payments[.]com" ในขณะที่ Phantom squatting เปลี่ยนจุดอ่อนของโมเดล AI ให้เป็นอาวุธโจมตี

ตัวอย่างในโลกจริงและเทคนิคที่เกี่ยวข้อง

Palo Alto Networks ยังไม่ได้เปิดเผยชื่อแบรนด์หรือโดเมนเฉพาะที่ถูกโจมตีด้วย Phantom squatting ต่อสาธารณะ แต่มีรูปแบบที่ได้รับการบันทึกไว้หลายรูปแบบที่ให้บริบทที่เป็นรูปธรรม

การแอบอ้างเป็นฝ่ายสนับสนุนลูกค้า Phantom squatting สามารถใช้สร้างลิงก์ฟิชชิ่งที่แอบอ้างเป็น URL ของแบรนด์หรือฝ่ายสนับสนุนที่ถูกต้อง ซึ่งสร้างโดยระบบ AI การโจมตีนี้ใช้ประโยชน์จากข้อเท็จจริงที่ว่าผู้ใช้อาจไว้วางใจลิงก์มากขึ้นเมื่อปรากฏว่ามาจากผู้ช่วย AI

ฟิชชิ่งและ Cybersquatting แบบใช้ AI เป็นธีม Palo Alto Networks รายงานว่ามีเทคนิคมัลแวร์และฟิชชิ่งแบบดั้งเดิมเพิ่มขึ้นอย่างมาก โดยใช้ประโยชน์จากความสนใจใน AI และ ChatGPT ระหว่างเดือนพฤศจิกายน 2022 ถึงเมษายน 2023 Unit 42 พบว่าการจดทะเบียนโดเมนที่เกี่ยวข้องกับ ChatGPT เพิ่มขึ้น 910% ต่อเดือน และตรวจพบ URL ที่เป็นอันตรายซึ่งเกี่ยวข้องกับ ChatGPT สูงถึง 118 ครั้งต่อวัน เป้าหมายของผู้โจมตีคือการล่อลวงผู้ใช้ ChatGPT ไปยังเว็บไซต์ที่ดูเกี่ยวข้องแต่ออกแบบมาเพื่อติดมัลแวร์

เทคนิคที่เกี่ยวข้อง: 'Slopsquatting' การโจมตีในห่วงโซ่อุปทานอีกรูปแบบหนึ่งที่เรียกว่า slopsquatting จะกำหนดเป้าหมายไปที่ชื่อแพ็คเกจซอฟต์แวร์ที่ AI หลอนขึ้นมา แทนที่จะเป็นชื่อโดเมน ในรูปแบบนี้ มิจฉาชีพจะระบุชื่อแพ็คเกจที่ LLM แนะนำบ่อยครั้งสำหรับงานเขียนโค้ด จากนั้นจดทะเบียนชื่อเหล่านั้นในคลังข้อมูลสาธารณะ เช่น npm, PyPI หรือ RubyGems และฝังมัลแวร์ไว้ เมื่อนักพัฒนาขอให้ผู้ช่วย AI หาวิธีแก้ไข ผู้ช่วยก็จะแนะนำแพ็คเกจผีอย่างมั่นใจ และนักพัฒนาก็จะติดตั้งโดยเชื่อในน้ำเสียงที่ดูน่าเชื่อถือของ AI งานวิจัยที่ศึกษาโมเดล 16 รุ่นพบว่าประมาณ 19.7% ของแพ็คเกจที่แนะนำโดยเครื่องมือเขียนโค้ด AI เป็นของปลอมทั้งหมด ซึ่งมากกว่า 205,000 ชื่อแพ็คเกจที่ถูกหลอนขึ้นมา

มาตรการป้องกันที่ Palo Alto Networks แนะนำ

Palo Alto Networks แนะนำแนวป้องกันหลายชั้นเพื่อลดความเสี่ยงจาก Phantom squatting:

1. การตรวจสอบโดเมนเชิงรุก (Proactive domain monitoring) องค์กรควรตรวจสอบโดเมนที่น่าสงสัยที่อาจถูกจอง (squatting) นอกจากนี้ยังสามารถใช้ระบบที่ใช้ LLM เพื่อป้องกันได้อีกด้วย: งานวิจัย DomainLynx แสดงให้เห็นว่าระบบ AI เชิงซ้อนมีความแม่นยำ 94.7% ในการตรวจจับโดเมน squatting จากชุดข้อมูล 1,649 โดเมน และตรวจพบโดเมน squatting ได้ 34,359 โดเมนจากโดเมนใหม่ 2.09 ล้านโดเมนในการทดสอบจริงเป็นเวลาหนึ่งเดือน

2. การกรองโดเมนที่จดทะเบียนใหม่ (NRD Filtering) Advanced DNS Security ของ Palo Alto Networks มีลายเซ็นสำหรับโดเมนที่จดทะเบียนใหม่ (UTID 109020001) โดเมนที่จดทะเบียนใหม่คือโดเมนที่ผู้ให้บริการ TLD เพิ่มล่าสุด หรือมีการเปลี่ยนแปลงเจ้าของภายใน 32 วันที่ผ่านมา และโดเมนเหล่านี้จำนวนมากถูกใช้เพื่ออำนวยความสะดวกในกิจกรรมที่เป็นอันตราย เช่น การดำเนินการเซิร์ฟเวอร์ Command-and-Control หรือการแจกจ่ายมัลแวร์

3. การป้องกันในชั้น DNS (DNS-layer protections) มาตรการรักษาความปลอดภัย DNS สามารถตรวจสอบหรือบล็อกการรับส่งข้อมูลไปยังโดเมนที่มีความเสี่ยง รวมถึง NRD ที่มักถูกใช้ในฟิชชิ่งและวิศวกรรมสังคม Advanced URL Filtering (AURL) ซึ่งขับเคลื่อนโดย Precision AI และตัวตรวจจับ Deep Learning แบบเรียลไทม์ สามารถระบุและบล็อกโดเมนฟิชชิ่งที่ไม่เคยปรากฏมาก่อนได้ทันทีที่เกิดขึ้น

4. การให้ความรู้ผู้ใช้และการตรวจสอบผลลัพธ์ AI (User education and AI-output verification) ผู้ใช้ควรใช้ความระมัดระวังกับ URL ที่สร้างโดย AI และตรวจสอบผลลัพธ์ที่มีความสำคัญสูงผ่านการตรวจสอบโดยมนุษย์ ฐานข้อมูลที่เชื่อถือได้ API หรือฐานความรู้ที่ได้รับการคัดสรร การตรวจสอบข้าม (Cross-referencing) การตอบสนองของโมเดลกับแหล่งข้อมูลที่เชื่อถือได้นั้นมีความสำคัญอย่างยิ่งสำหรับกรณีการใช้งานที่มีความเสี่ยงสูง

5. การกำหนดขอบเขตให้ AI Agent (AI-agent guardrails) AI Agent อัตโนมัติและเวิร์กโฟลว์ที่ใช้ AI ควรตรวจสอบ URL ชื่อแพ็คเกจ และทรัพยากรภายนอกอื่นๆ ที่สร้างขึ้นกับแหล่งข้อมูลที่เชื่อถือได้ ก่อนที่จะดึงข้อมูล ติดตั้ง หรือดำเนินการใดๆ โดยเฉพาะอย่างยิ่งสำหรับผู้ช่วยเขียนโค้ด ซึ่ง Slopsquatting ก่อให้เกิดความเสี่ยงโดยตรงต่อกระบวนการพัฒนา

บทสรุป

Phantom squatting เป็นภัยคุกคามที่เกิดขึ้นจริง ซึ่งอาวุธจากจุดอ่อนที่รู้จักกันดีของ AI อย่าง Hallucination ไว้โจมตีผู้ใช้ที่ไว้วางใจผลลัพธ์ที่ AI สร้างขึ้น การโจมตีนี้ใช้ประโยชน์จากคุณสมบัติที่ทำให้ LLMs มีประโยชน์ นั่นคือความสามารถในการสร้างเนื้อหาที่ฟังดูสมเหตุสมผลด้วยความมั่นใจ แม้ว่าข้อมูลอ้างอิงนั้นจะไม่มีอยู่จริงก็ตาม ในการป้องกัน องค์กรจำเป็นต้องมีแนวทางแบบหลายชั้นที่ผสมผสานการตรวจสอบโดเมนเชิงรุก การกรอง DNS/NRD ที่เข้มงวด การให้ความรู้แก่ผู้ใช้ และการกำหนดขอบเขตให้ AI Agent โดยถือว่า URL ที่สร้างโดย AI นั้นไม่น่าเชื่อถือจนกว่าจะได้รับการยืนยันโดยอิสระ