استغل الهجوم ميزة مدمجة في المساعد الصوتي لجيميناي على أندرويد، وتحديداً أداة ضمن وكيل أدوات نظام أندرويد (Android Utilities agent) تقوم بقراءة ومعالجة إشعارات الجهاز الواردة. نظراً لأن هذه الأداة تتعامل مع بيانات غير موثوقة من تطبيقات الطرف الثالث، يمكن لرسالة مصممة خصيصاً أن تُضمن تعليمات ضارة في نص الإشعار. عندما يقرأ جيميناي هذا الإشعار المسموم، فإنه يحقن تلك الأوامر بصمت في سياقه التشغيلي، جاهزاً لتنفيذها خلال أي تفاعل بريء لاحق مع المستخدم .
هذا يعني أن المهاجم لم يكن بحاجة لوصول مادي للهاتف أو لأي صلاحيات خاصة. رسالة واحدة عبر منصة مراسلة قياسية - واتساب، سلاك، سيغنال، الرسائل النصية القصيرة، إنستغرام، أو ماسنجر - كانت كافية لاختراق الجهاز .
كانت جوجل قد تعلمت من أبحاث سابقة. عندما عرضت SafeBreach سابقاً كيف لدعوة تقويم جوجل خبيثة أن تخترق جيميناي، ردت جوجل بإصلاح النظام لمنع استدعاءات الأدوات المتسلسلة واستدعاء الأدوات المؤجل، وهما استراتيجيتان شائعتان لحقن الأوامر. منع الإصلاح المهاجمين من تشغيل سلسلة من الإجراءات الحساسة أو تأخير الهجوم حتى ينظر المستخدم بعيداً .
وجد الباحث أور يائير من SafeBreach طريقة مبتكرة للالتفاف على هذه الحواجز الجديدة. تقنية "محاذاة السياق المزيف" (Fake Context Alignment) الجديدة خلقت واقعاً مزدوجاً لخداع منطق الأمان في الذكاء الاصطناعي . عملت التقنية بتقديم وجهين مختلفين:
اعتمدت الخدعة على أوامر مخفية أو مشوشة. يُضمن المهاجمون تعليمات ضارة داخل نصوص بلغات أجنبية، أو روابط تشعبية صامتة، أو صيغ أوامر مخفية أخرى قد يتجاهلها الإنسان لكن الذكاء الاصطناعي يعالجها. عندما يصدر المستخدم لاحقاً أمراً صوتياً طبيعياً أو يكتب رداً، يفسر منطق تفويض جيميناي هذا الإجراء خطأً على أنه موافقة على المهام الحساسة المخفية التي زُرعت مسبقاً. بدمج تقنيات تشويش وتوقيت متعددة فيما أسماه الباحثون الحمولة "الخارقة المطلقة" (Ultimate Combo)، تمكن الفريق من تجاوز جميع تخفيفات جوجل الأخيرة بموثوقية عالية .
لم تكتف SafeBreach بوصف المخاطر النظرية. استعرض الباحثون خمسة سيناريوهات هجوم ملموسة أظهرت مدى شمولية الاختراق المحتمل .
1. التحكم بالمنزل الذكي
بمجرد اختراق جيميناي، تمكن المهاجم من التلاعب عن بُعد بأي جهاز متصل بـ Google Home. شمل ذلك فتح نوافذ متصلة، التحكم في سخانات المياه، وإدارة أنظمة الإضاءة، محولاً المساعد الذكي إلى متسلل رقمي له عواقب في العالم المادي .
2. مكالمات زووم قسرية مع بث خفي للكاميرا
استعرض الباحثون إمكانية تشغيل تطبيق زووم بصمت على جهاز الضحية وبدء مكالمة تبث فيديو الكاميرا المباشر. نجحوا في ذلك باستخدام إعادة توجيه HTTP من نوع 301 (نقلة دائمة) من نطاق موثوق من خدمة "التصفح الآمن" (Safe Browsing) من جوجل، مما جعل الاتصال الخبيث يبدو شرعياً لفحوصات الأمان. لن يكون لدى المستخدم أي مؤشر مرئي على أن كاميراه قيد التشغيل .
3. تسميم الذاكرة عبر منظومة جوجل
ربما كان الهجوم الأكثر خبثاً هو إمكانية حقن معلومات زائفة في ذاكرة جيميناي طويلة المدى. نظراً لأن هذه الذاكرة تتزامن عبر حساب المستخدم في Google Workspace، فإن إشعاراً مسمومًا واحداً يمكنه إفساد المعلومات "المتذكرة" المتاحة للمساعد على جهاز الضحية اللوحي والحاسوب ومكبرات الصوت الذكية - مما قد يؤدي لأفعال مستقبلية مضللة من الذكاء الاصطناعي عبر جميع الأجهزة .
4. رسائل مزيفة من جهات اتصال موثوقة
يمكن تسليح الهجوم لعمليات احتيال اجتماعي واسعة النطاق. تمكن الباحثون من استخراج أسماء مرسلين حقيقيين من قائمة انتظار إشعارات الجهاز وتلفيق رسائل تبدو صادرة عن جهة اتصال موثوقة، كمدير في العمل أو أحد أفراد العائلة. هذا لم يتطلب معرفة مسبقة بقائمة جهات اتصال الضحية ويمكن أن يغذي حملات تصيد احتيالي مقنعة جداً .
5. مراقبة مجدولة
لتمكين تسريب البيانات المستمر، أنشأ الباحثون مهمة متكررة ضمن سياق الذكاء الاصطناعي. هذه المهمة أمرت جيميناي بقراءة رسائل المستخدم الأخيرة تلقائياً كل يوم، مما خلق قناة مراقبة مستدامة ذاتية التشغيل دون أي تفاعل آخر من المهاجم .
اتبع البحث جدولاً زمنياً للإفصاح المسؤول عبر برنامج مكافآت الثغرات (Vulnerability Reward Program - VRP) من جوجل:
في حين أن نافذة هذه الثغرة بالذات قد أغلقت، يبرز البحث توتراً جوهرياً في مساعدي الذكاء الاصطناعي: كلما أصبحوا أكثر فائدة وإدراكاً للسياق عبر قراءة إشعاراتنا وتقاويمنا ورسائلنا الإلكترونية، زادت مسارات البيانات غير الموثوقة التي يجب عليهم إدارتها بأمان. عمل SafeBreach يمثل مخططاً بالغ الأهمية لتحصين الجيل القادم من وكلاء الذكاء الاصطناعي ضد تهديد لا يتطلب أكثر من دعوة للاستماع.
Comments
0 comments