الاحتيال الشبحى (Phantom Squatting): ثغرة ذكاء اصطناعي تفتح الباب أمام احتيال جديد

سلسلة الهجوم: من هلوسة الذكاء الاصطناعي إلى اختطاف النطاق

يتبع الاحتيال الشبحى (Phantom squatting) عملية من ثلاث خطوات، واضحة ولكنها خطيرة، تستغل الطريقة التي تتعامل بها نماذج اللغة الكبيرة (LLMs) مع المعلومات المفقودة .

الخطوة 1: استكشاف الهلوسات. يقوم المهاجمون بشكل منهجي باستفزاز نماذج الذكاء الاصطناعي لاكتشاف النطاقات "الشبحية" التي تميل النماذج إلى هلوستها لعلامات تجارية محددة . يمكن لنماذج LLM إنشاء "عناوين URL منظمة تمامًا ومقنعة للغاية" تشير إلى نطاقات لم يتم تسجيلها من قبل .

الخطوة 2: تسجيل النطاق الشبحى. بمجرد تحديد النطاق المهلوس، يقوم المهاجم بشراء النطاق غير المسجل ببضعة دولارات، وإعداد بنية تحتية خبيثة، والانتظار .

الخطوة 3: استغلال ثقة المستخدم. يتبع الضحية — سواء كان مستخدمًا بشريًا أو وكيل ذكاء اصطناعي مستقل — الرابط الذي أنشأه الذكاء الاصطناعي ويقع في الفخ . وعندما تكتشف أداة أمنية تقليدية النطاق كخبيث، غالبًا ما يكون الضرر قد حدث بالفعل .

يمثل هذا تحولًا جوهريًا عن الاحتيال الإلكتروني التقليدي (cybersquatting). كان الاحتيال التقليدي يعتمد على الأخطاء البشرية مثل الأخطاء الإملائية أو النطاقات المشابهة مثل "netflix-payments[.]com" . لكن الاحتيال الشبحى يستبدل الخطأ البشري بهلوسة الذكاء الاصطناعي، محولًا عيب النموذج نفسه إلى أداة هجوم .

أمثلة واقعية وتقنيات ذات صلة

لم تكشف Palo Alto Networks علنًا عن أسماء علامات تجارية أو نطاقات محددة تم اكتشافها في حملات الاحتيال الشبحى، لكن العديد من الأنماط الموثقة توفر سياقًا ملموسًا .

انتحال خدمة العملاء. يمكن استخدام الاحتيال الشبحى لإنشاء روابط تصيد تحاكي روابط العلامات التجارية أو الدعم الشرعية التي يولدها نظام الذكاء الاصطناعي . يستغل الهجوم حقيقة أن المستخدم قد يثق في الرابط أكثر إذا ظهر أنه صادر عن مساعد ذكاء اصطناعي .

التصيد والاحتيال المرتبطان بالذكاء الاصطناعي. أبلغت Palo Alto Networks عن طفرة في تقنيات البرمجيات الخبيثة والتصيد التقليدية التي تستغل الاهتمام بالذكاء الاصطناعي وChatGPT . بين نوفمبر 2022 وأبريل 2023، رصدت وحدة 42 زيادة بنسبة 910% في التسجيلات الشهرية للنطاقات المتعلقة بـ ChatGPT، وما يصل إلى 118 اكتشافًا يوميًا لعناوين URL خبيثة مرتبطة بـ ChatGPT . هدف المهاجمين هو جذب مستخدمي ChatGPT إلى مواقع تبدو ذات صلة بهدف إصابتهم .

تقنية ذات صلة: "Slopsquatting". هناك متغير آخر يستهدف سلسلة التوريد—يسمى slopsquatting—يستهدف أسماء حزم البرامج المهلوسة من قبل الذكاء الاصطناعي بدلاً من أسماء النطاقات . في هذا النموذج، يحدد المهاجمون أسماء حزم ملفقة توصي بها نماذج LLM بشكل متكرر لمهام البرمجة، ويسجلون تلك الأسماء في مستودعات عامة مثل npm أو PyPI أو RubyGems، ويدمجونها مع برمجيات خبيثة . عندما يطلب مطور من مساعد ذكاء اصطناعي حلاً، يقترح المساعد بثقة الحزمة الشبحية، ويقوم المطور بتثبيتها، واثقًا في نبرة الذكاء الاصطناعي الموثوقة . وجدت الأبحاث عبر 16 نموذجًا أن حوالي 19.7% من الحزم التي أوصت بها أدوات البرمجة بالذكاء الاصطناعي كانت ملفقة بالكامل—أكثر من 205,000 اسم حزمة مهلوس .

وسائل الدفاع التي توصي بها Palo Alto Networks

تحدد Palo Alto Networks عدة طبقات دفاعية للتخفيف من مخاطر الاحتيال الشبحى:

1. المراقبة الاستباقية للنطاقات. يجب على المؤسسات مراقبة نطاقات الاحتيال المشبوهة. يمكن أيضًا استخدام الأنظمة القائمة على نماذج LLM بشكل دفاعي: أظهر بحث DomainLynx أن نظام الذكاء الاصطناعي المركب حقق دقة 94.7% في مجموعة بيانات تضم 1,649 نطاقًا محتالاً، واكتشف 34,359 نطاقًا محتالاً من 2.09 مليون نطاق جديد في اختبار استمر شهرًا في العالم الحقيقي .

2. تصفية النطاقات المسجلة حديثًا (NRD). يتضمن Advanced DNS Security من Palo Alto Networks توقيعًا للنطاقات المسجلة حديثًا (UTID 109020001) . النطاقات المسجلة حديثًا هي نطاقات أضافها مشغل نطاق المستوى الأعلى مؤخرًا أو تلك التي تغيرت ملكيتها خلال آخر 32 يومًا، ويستخدم الكثير منها لتسهيل الأنشطة الخبيثة مثل تشغيل خوادم القيادة والتحكم أو توزيع البرمجيات الخبيثة .

3. حماية طبقة DNS. يمكن لضوابط أمان DNS فحص حركة المرور إلى النطاقات الخطرة أو حظرها، بما في ذلك النطاقات المسجلة حديثًا (NRDs) التي يساء استخدامها بشكل شائع في التصيد والهندسة الاجتماعية . يمكن لـ Advanced URL Filtering (AURL)، المدعومة بـ Precision AI وأجهزة الكشف عن التعلم العميق الفورية، تحديد وحظر نطاقات التصيد غير المسبوقة فور ظهورها .

4. تثقيف المستخدم والتحقق من مخرجات الذكاء الاصطناعي. يجب على المستخدمين التعامل مع عناوين URL التي يولدها الذكاء الاصطناعي بحذر والتحقق من المخرجات عالية المخاطر من خلال المراجعة البشرية أو قواعد البيانات الموثوقة أو واجهات برمجة التطبيقات أو قواعد المعرفة المنظمة . التحقق من ردود النموذج مقابل المصادر الموثوقة أمر بالغ الأهمية لأي حالة استخدام عالية المخاطر .

5. حواجز حماية وكلاء الذكاء الاصطناعي. يجب على الوكلاء المستقلين وسير العمل المدعومة بالذكاء الاصطناعي التحقق من صحة عناوين URL وأسماء الحزم والموارد الخارجية الأخرى المولدة مقابل المصادر الموثوقة قبل جلبها أو تثبيتها أو العمل بناءً عليها . هذا مهم بشكل خاص لمساعدي البرمجة، حيث يشكل متغير slopsquatting خطرًا مباشرًا على خطوط أنابيب التطوير .

الخلاصة

الاحتيال الشبحى هو تهديد ناشئ وعملي يسخر عيبًا معروفًا في الذكاء الاصطناعي — الهلوسة — ضد المستخدمين الذين يثقون في المخرجات المولدة بالذكاء الاصطناعي . يستغل الهجوم الميزة ذاتها التي تجعل نماذج LLM مفيدة: قدرتها على إنشاء محتوى مقنع بثقة، حتى عندما لا يكون المرجع الأساسي موجودًا. للدفاع ضده، تحتاج المؤسسات إلى نهج متعدد الطبقات يجمع بين المراقبة الاستباقية للنطاقات، وتصفية DNS/NRD الصارمة، وتثقيف المستخدم، وحواجز حماية لوكلاء الذكاء الاصطناعي تتعامل مع عناوين URL المولدة بالذكاء الاصطناعي على أنها غير موثوقة حتى يتم التحقق منها بشكل مستقل .