كيف تحول ذكاء غوغل الاصطناعي إلى سلاح بيد عصابة احتيال إلكتروني؟

كيف استغلت الشبكة منصة Gemini من غوغل

استغلت المجموعة قدرات Gemini بطريقتين أساسيتين:

• التوليد الآلي للمواقع المزيفة — استخدمت الأداة Gemini لتوليد أكواد HTML لصفحات تصيد تحاكي بدقة مواقع البنوك وخدمات التوصيل مثل فيديكس وخدمة البريد الأمريكية (USPS) ووكالات تحصيل رسوم الطرق، بالإضافة إلى شاشات تسجيل دخول تحمل علامة غوغل التجارية . أنتج الذكاء الاصطناعي صفحات هبوط مقنعة ومصقولة على نطاق واسع.
• الالتفاف على حواجز الحماية — تمكن المشغلون من تجاوز مرشحات إساءة الاستخدام في Gemini من خلال صياغة طلباتهم على أنها مهام بريئة، فعلى سبيل المثال، كانوا يطلبون من الذكاء الاصطناعي "توليد صفحة HTML لإشعار تسليم طرد" بدلاً من طلب صفحة تصيد بشكل صريح .

من خلال أتمتة عملية إنشاء المواقع باستخدام الذكاء الاصطناعي، خفضت Outsider الحاجز التقني أمام المحتالين المحتملين، محولة عملية يدوية إلى عملية على نطاق صناعي. تزعم شكوى غوغل أن الشبكة قامت بنشر أكثر من مليون موقع ويب احتيالي وأرسلت أكثر من مليونَي رسالة نصية خادعة لمستخدمي الهواتف المحمولة في الولايات المتحدة .

الهيكل التنظيمي للشبكة الذي كشفت عنه الدعوى

تصف الدعوى القضائية والتحقيقات المرتبطة بها هيكلاً تنظيمياً متطوراً شبه مؤسسي، يتكون من خمسة أقسام متخصصة على الأقل :

هذا التقسيم في العمل - إلى جانب الأتمتة المدعومة بالذكاء الاصطناعي - سمح لـ Outsider Enterprise بالعمل على نطاق وكفاءة نموذجية لشركة برمجيات شرعية، وليس لعصابة إجرامية تقليدية .

التداعيات الأوسع على الاحتيال المدعوم بالذكاء الاصطناعي

• "ديمقراطية" الجريمة الإلكترونية — من خلال تضمين الذكاء الاصطناعي في أدوات رخيصة وسهلة الاستخدام، مكنت Outsider أفراداً لا يمتلكون أي مهارات برمجية من شن حملات تصيد متطورة. يمثل هذا تحولاً من القرصنة الموجهة إلى الاحتيال المدعوم بالذكاء الاصطناعي والمحوّل إلى سلعة تُباع وتُشترى .
• أول إجراء قانوني من نوعه — هذه هي أول دعوى قضائية ترفعها غوغل تحديداً بشأن إساءة استخدام منتجاتها للذكاء الاصطناعي التوليدي . إنها إشارة إلى أن شركات التكنولوجيا تتجاوز مجرد الحظر التقني للإساءة، وهي الآن على استعداد للتقاضي لتفكيك سلسلة التوريد الإجرامية.
• نموذج جديد للإنفاذ بين القطاعين العام والخاص — تعاونت غوغل مع مكتب التحقيقات الفيدرالي وشركات اتصالات كبرى مثل AT&T وT-Mobile وVerizon وLumen Technologies، مما يدل على أن تفكيك الاحتيال القائم على الذكاء الاصطناعي يتطلب عملاً منسقاً عبر مزودي الذكاء الاصطناعي وشركات الاتصالات وأجهزة إنفاذ القانون .
• تسليط الضوء على فجوة تنظيمية — استخدمت غوغل الدعوى القضائية للمطالبة بتحديث القوانين لمواكبة الإساءة المرتبطة بالذكاء الاصطناعي تحديداً، مثل سن قوانين تجرم تسخير الذكاء الاصطناعي التوليدي لأغراض الاحتيال، وهو ما قد لا تغطيه القوانين الحالية بوضوح .

تنبيه مهم: الدعوى القضائية هي شكوى مدنية، وليست إدانة جنائية. لم تثبت بعد صحة المزاعم الموجهة ضد Outsider Enterprise في المحكمة، ولم يتم التعريف بمشغلي الشبكة علانيةً بأسمائهم الصريحة. الأرقام المتعلقة بـ 1.9 مليار دولار و 3.87 مليون بطاقة ائتمان هي تقديرات لمكتب التحقيقات الفدرالي (FBI) وردت في الشكوى، وهي ليست أرقاماً قضائية نهائية .