Phantom Squatting: האיום החדש של חטיפת דומיינים באמצעות הזיות AI

שרשרת התקיפה: מהזיות AI לחטיפת דומיינים

Phantom Squatting היא שיטת תקיפה בת שלושה שלבים המנצלת את האופן שבו מודלי שפה גדולים (LLMs) מטפלים במידע חסר .

שלב 1: ניחוש ההזיות. תוקפים חוקרים באופן שיטתי מודלי AI כדי לגלות דומיינים "רפאים" שהמודל נוטה להמציא עבור מותגים ספציפיים . מודלי שפה עלולים לייצר "כתובות URL מובנות לחלוטין ומשכנעות ביותר" שמפנות לדומיינים שמעולם לא נרשמו .

שלב 2: רישום הדומיין הרפאים. ברגע שמזוהה דומיין מומצא, התוקף רוכש את הדומיין הלא-רשום בכמה דולרים, מקים תשתית זדונית, וממתין .

שלב 3: ניצול האמון. הקורבן – בין אם משתמש אנושי או סוכן AI אוטונומי – לוחץ על הקישור שנוצר על ידי ה-AI ונכנס ישירות למלכודת . עד שמערכת אבטחה מסורתית מזהה את הדומיין כזדוני, לרוב הנזק כבר נעשה .

מדובר בשינוי מהותי מ-cybersquatting קלאסי. cybersquatting מסתמך על טעויות אנוש (למשל: netflix-payments[.]com) . Phantom Squatting מחליף את טעות האנוש בהזיית AI – החולשה של המודל הופכת לכלי התקיפה .

דוגמאות מהעולם האמיתי וטכניקות קרובות

Palo Alto Networks לא פרסמה בפומבי שמות מותגים או דומיינים ספציפיים שנתפסו במסעות Phantom Squatting, אך הדפוסים המתועדים ברורים .

התחזות לשירות לקוחות. Phantom Squatting יכול לשמש ליצירת קישורי פישינג שמתחזים לכתובות URL לגיטימיות של מותג שנוצרו על ידי מערכת AI . המתקפה מנצלת את העובדה שמשתמשים עלולים לסמוך יותר על קישור שמופיע מעוזר AI .

פישינג וסחיטה בנושא AI. Palo Alto Networks דיווחה על גל של טכניקות תוכנות זדוניות מסורתיות המנצלות את ההתעניינות ב-AI וב-ChatGPT . בין נובמבר 2022 לאפריל 2023, חוקרי Unit 42 צפו בעלייה של 910% ברישום חודשי של דומיינים הקשורים ל-ChatGPT, ועד 118 זיהויים יומיים של כתובות URL זדוניות הקשורות ל-ChatGPT . מטרת התוקפים היא לפתות משתמשי ChatGPT לאתרים דומים שנראים מקוריים אך למעשה נועדו להדביק אותם .

טכניקה קרובה: "Slopsquatting". גרסה מקבילה בשרשרת האספקה – Slopsquatting – מכוונת לשמות חבילות תוכנה מומצאים על ידי AI במקום לדומיינים . במודל זה, תוקפים מזהים שמות חבילות מזויפות שמודלים של שפה ממליצים עליהם לעתים קרובות למשימות קידוד, רושמים את השמות הללו במאגרים ציבוריים כמו npm, PyPI או RubyGems, ומטמיעים בהם תוכנות זדוניות . מחקר על פני 16 מודלים מצא שכ-19.7% מהחבילות שהומלצו על ידי כלי קידוד בינה מלאכותית היו מומצאות לחלוטין – מעל 205,000 שמות חבילות מומצאים .

ההגנות ש-Palo Alto Networks ממליצה

Palo Alto Networks ממליצה על כמה שכבות הגנה כדי לצמצם את הסיכון של Phantom Squatting:

1. ניטור דומיינים פרואקטיבי. ארגונים צריכים לנטר דומיינים חשודים ל-squatting. ניתן להשתמש במערכות מבוססות LLM גם באופן הגנתי: מחקר על DomainLynx הראה שמערכת AI מורכבת השיגה דיוק של 94.7% על מערך נתונים של 1,649 דומיינים, וב-30 ימים של בדיקה אמיתית זיהתה 34,359 דומיינים מתוך 2.09 מיליון דומיינים חדשים .

2. סינון דומיינים חדשים (NRD). Advanced DNS Security של Palo Alto Networks כולל חתימה לזיהוי דומיינים חדשים (UTID 109020001) . דומיינים חדשים הם דומיינים שנוספו לאחרונה על ידי מפעיל TLD או שהחליפו בעלות תוך 32 הימים האחרונים; רבים מהם מנוצלים לפעילות זדונית כמו הפעלת שרתי פיקוד ושליטה או הפצת תוכנות זדוניות .

3. הגנת DNS. בקרות אבטחת DNS יכולות לבדוק או לחסום תעבורה לדומיינים מסוכנים, כולל NRDs המנוצלים לעתים קרובות בפישינג והנדסה חברתית . Advanced URL Filtering (AURL), המופעל על ידי Precision AI וגלאי deep learning בזמן אמת, יכול לזהות ולחסום דומיינים פישינג לא מוכרים ברגע שהם מופיעים .

4. חינוך משתמשים ואימות פלטי AI. משתמשים צריכים להתייחס בזהירות לכתובות URL שנוצרו על ידי AI ולאמת פלטים רגישים על ידי בדיקה אנושית, מסדי נתונים מהימנים, API או מאגרי ידע . הצלבת תגובות מודל מול מקורות סמכותיים היא קריטית בכל מקרה שימוש רגיש .

5. מחסומים לסוכני AI. סוכנים אוטונומיים וזרימות עבודה בעזרת AI צריכים לאמת כתובות URL, שמות חבילות ומשאבים חיצוניים שנוצרו על ידם מול מקורות מהימנים לפני שליפה, התקנה או פעולה על פיהם . זה חשוב במיוחד עבור עוזרי קידוד, שבהם גרסת ה-Slopsquatting מהווה סיכון ישיר לצינורות הפיתוח .

השורה התחתונה

Phantom Squatting הוא איום מעשי ומתפתח המנשק חולשה ידועה של AI – הזיה – נגד משתמשים הבוטחים בפלטים של AI . המתקפה מנצלת את התכונה שהופכת את מודלי השפה השימושיים: היכולת ליצור תוכן משכנע בביטחון, גם כאשר ההתייחסות הבסיסית אינה קיימת. כדי להתגונן מפניו, ארגונים זקוקים לגישה רב-שכבתית המשלבת ניטור דומיינים פרואקטיבי, סינון DNS/NRD קפדני, חינוך משתמשים, ומחסומים לסוכני AI המתייחסים לכתובות URL שנוצרו על ידי AI כבלתי-מהימנות עד לאימות עצמאי .