تسريب مفاتيح الذكاء الاصطناعي يطال مهارات الوكلاء وتطبيقات iOS

تكشف أبحاث من جامعة ويك فورست عن نقطة ضعف مشتركة في منظومتين سريعتَي النمو للذكاء الاصطناعي: غالباً ما تُترك مفاتيح الوصول والرموز السرية في أماكن يمكن للوكلاء أو التطبيقات أو المهاجمين الوصول إليها.

ففي دراسة شملت 17,022 مهارة خارجية لوكلاء الذكاء الاصطناعي، عثر الباحثون على 520 مهارة متأثرة تضمنت 1,708 مشكلات أمنية. وفي دراسة مرتبطة، فحصوا 444 تطبيقاً لنظام iOS مزودة بميزات النماذج اللغوية الكبيرة، ووجدوا أن 282 تطبيقاً كشف أثناء الاختبار بيانات اعتماد أو آليات وصول إلى أنظمة خلفية يمكن استغلالها. 124

ولا يقتصر الخطر على ظهور سلسلة نصية تمثل مفتاحاً أو رمزاً. فقد يمنح المفتاح المكشوف المهاجمَ وصولاً إلى بيانات خاصة أو قدرات وكيل، أو يتيح له تشغيل استدلال مدفوع على حساب المطوّر.

ماذا وجدت دراسة مهارات الوكلاء؟

اختار الباحثون 17,022 مهارة من أصل 170,226 عنصراً متاحاً على منصة SkillsMP، وهي سوق مفتوحة المصدر لمهارات الوكلاء. وجمع التحليل بين اكتشاف الأسرار في الشفرة، والاختبار الديناميكي داخل بيئة معزولة باستخدام بيانات اعتماد وهمية، ومقارنة الغرض المعلن للمهارة بسلوكها أثناء التشغيل. 34

وخلص التحليل إلى النتائج التالية:

• وجود 520 مهارة متأثرة تضم 1,708 مشكلات أمنية موزعة على 10 أنماط لتسريب بيانات الاعتماد. 416
• كشف 466 مهارة من أصل 520 عن بيانات اعتماد قابلة للاستخدام من دون صلاحيات مرتفعة، وهو ما يعادل معدل قابلية استغلال فورية بلغ 89.6% وفقاً للدراسة. 14
• احتياج 76.3% من حالات التسريب إلى فحص التعليمات المكتوبة باللغة الطبيعية والشفرة معاً لفهم الخطر.
• ارتباط 3.1% من الحالات بحقن أوامر خبيثة باللغة الطبيعية من دون وجود شفرة قابلة للتنفيذ. 4

وتعني هذه النتائج أن مراجعة الشفرة وحدها قد لا تكشف كل المخاطر. فقد تبدو المهارة مخصصة لمهمة مشروعة، بينما تؤدي تعليماتها أو نصوصها البرمجية المساندة إلى كشف أسرار أثناء التنفيذ.

سجلات التصحيح قد تحوّل الأسرار إلى بيانات يقرأها النموذج

برزت سجلات التصحيح كأحد أهم مسارات التسريب. ففي أطر عمل الوكلاء التي تُدخل المخرجات القياسية إلى سياق النموذج، قد يصبح أي مفتاح أو رمز تتم طباعته عبر دوال مثل print أو console.log متاحاً من خلال طلب عادي باللغة الطبيعية.

وتشير خلاصة الدراسة إلى أن تسجيلات التصحيح كانت المسار الرئيسي، وأن 73.5% من التسريبات نجم عن تعريض المخرجات للنماذج اللغوية الكبيرة. 4

ولا يقتصر الأمر على مفاتيح واجهات برمجة التطبيقات المضمّنة بوضوح داخل الشفرة. فقد تتسرب بيانات الاعتماد عبر النصوص البرمجية، أو طريقة التعامل مع متغيرات البيئة، أو السجلات، أو تعليمات المطالبة، أو مزيج من الشفرة واللغة لا يظهر خطره إلا أثناء التشغيل المعتاد.

مطوّر خبيث أو إهمال غير مقصود: النتيجة واحدة

تصف الأبحاث سببين رئيسيين لتسريب بيانات الاعتماد:

• التطوير الخبيث: يضيف المطوّر عمداً تعليمات أو حمولة برمجية لجمع بيانات الاعتماد أو البيانات الخاصة، وربما إرسالها إلى خادم بعيد.
• التطوير المهمل: لا يلتزم المطوّر بممارسات البرمجة الآمنة، فيترك عن غير قصد بيانات اعتماد أو مسارات وصول متاحة للمهاجمين. 1

ويؤثر هذا التفريق في طريقة المعالجة. فالمحتوى الخبيث يحتاج إلى رصد وإزالة، بينما يتطلب التسريب العرضي إدارة أفضل للأسرار، وتسجيلات أكثر أماناً، وضوابط مصادقة، واختبارات قبل التوزيع.

وبعد إبلاغ SkillsMP بالنتائج، قالت جامعة ويك فورست إن جميع المهارات الخبيثة التي جرى تحديدها أزيلت، وإن معظم المهارات الضعيفة عولجت. لكن الدراسة تحذّر من أن تنظيف المستودع الأصلي قد لا يكون كافياً؛ إذ يمكن للنسخ المتفرعة أن تحتفظ ببيانات الاعتماد المكشوفة حتى بعد إصلاح المصدر. 14

تطبيقات iOS تفتح مساراً آخر لاختطاف حسابات النماذج اللغوية

فحصت الدراسة المرتبطة 444 تطبيقاً لنظام iOS تتضمن ميزات للنماذج اللغوية الكبيرة، ووجدت أن 282 تطبيقاً، أي نحو 64%، كشف بيانات اعتماد قابلة للاستغلال أو آليات وصول إلى أنظمة خلفية ضمن حركة الشبكة. 25

وتوزعت أنماط التعرض التي أبلغ عنها الباحثون على النحو الآتي:

• رموز JWT قابلة لإعادة الاستخدام: 48%
• وكلاء خلفيون من دون مصادقة: 33%
• إرسال مفاتيح واجهة برمجة التطبيقات بنص واضح: 19% 3

وقد تظهر هذه الثغرات أثناء استخدام التطبيق بصورة عادية. فإذا التقط المهاجم مفتاحاً أو أعاد استخدام رمز، أو اكتشف وكيلاً خلفياً مفتوحاً، فقد يتمكن من إرسال طلبات عبر حساب المطوّر لدى مزود النموذج اللغوي. وهذا قد يستهلك رصيد الاستدلال المدفوع، أو يسيء استخدام موارد سحابية مرتبطة بالحساب، أو يتسبب في رسوم غير مصرح بها. 25

وتدعم الأدلة احتمال تكبد خسائر مالية كبيرة، وربما فواتير قابلة للتصاعد بشدة، بحسب حدود الحساب ومدة استمرار الاختراق. لكنها لا تثبت وحدها رقماً محدداً مثل «مئات آلاف الدولارات»؛ والأدق هو القول إن بيانات الاعتماد المكشوفة قد تتيح استخداماً مدفوعاً واسعاً أو غير محدود عملياً ما لم توجد ضوابط للحساب.

كما كان إصلاح الثغرات بطيئاً. فبعد ثلاثة أشهر من الإفصاح المسؤول، أصلح 28% فقط من تطبيقات iOS المتأثرة الثغرة المبلغ عنها، بينما ظل 72% منها قابلاً للاستغلال في متابعة الدراسة. 311

لماذا تهم هذه النتائج مطوّري الذكاء الاصطناعي؟

توضح الدراستان أن إضافة ميزة للذكاء الاصطناعي أو تثبيت مهارة قابلة لإعادة الاستخدام لا يمثل قراراً وظيفياً فقط؛ بل يوسّع سطح الهجوم في التطبيق. ومن المخاطر الجديدة:

• تضمين مفاتيح مزودي النماذج داخل تطبيقات المستخدم أو كشفها في سياق الوكيل.
• منح أدوات ذات صلاحيات واسعة إمكانية الوصول إلى الملفات أو الخدمات أو البيانات الخاصة.
• تحول السجلات، من دون قصد، إلى جزء من السياق الذي يستطيع النموذج قراءته.
• تشغيل نقاط نهاية خلفية تقبل الطلبات من دون مصادقة كافية.
• استخدام رموز يمكن للمهاجم إعادة تشغيلها.
• توليد رسوم استخدام للنماذج اللغوية على حساب المطوّر.

وتزداد أهمية هذه المخاطر مع انتشار ما يسمى «البرمجة الحدسية» أو vibe coding، حيث يُستخدم الذكاء الاصطناعي لتوليد البرمجيات ودمجها بسرعة. لكن السرعة لا تغني عن نمذجة التهديدات؛ فما زالت المصادقة، وإدارة الأسرار، والتفويض، وتسجيل الأحداث، ومراجعة التبعيات تحتاج إلى هندسة واعية.

كما رصدت دراسة مهارات الوكلاء مؤشرات على استخدام التطوير المدعوم بالذكاء الاصطناعي في 72% من حالات بيانات الاعتماد المضمّنة داخل الشفرة، ما يشير إلى أن الأنماط غير الآمنة قد تنتشر عبر الشفرة المولدة أو المشاريع التي تُجمع بسرعة. 4

ممارسات «الأمن منذ التصميم»

تشير النتائج إلى مجموعة أساسية من الإجراءات للفرق التي تبني منتجات ذكاء اصطناعي أو توزع مهارات للوكلاء:

1. إبقاء مفاتيح مزودي الخدمات طويلة الأجل خارج أجهزة المستخدم وسياق النموذج. ينبغي تمرير الطلبات الحساسة عبر خادم موثّق.
2. استخدام بيانات اعتماد قصيرة العمر ومحدودة الصلاحيات. طبّق مبدأ أقل الصلاحيات، وتحقق من الرموز بدلاً من اعتبار حيازة الرمز تفويضاً كافياً.
3. حجب الأسرار من السجلات والمخرجات القياسية. تعامل مع كل ما يدخل إلى سياق الوكيل على أنه قابل للاسترجاع من النموذج أو المستخدم.
4. فحص الشفرة والإعدادات والتعليمات والتبعيات بحثاً عن الأسرار. توضح نتائج دراسة المهارات سبب ضرورة مراجعة التعليمات النصية والشفرة التنفيذية معاً.
5. اختبار حركة الشبكة وتفويض الواجهات الخلفية. تأكد من أن اعتراض الطلب لا يتيح إعادة تشغيله أو توجيهه عبر وكيل غير موثّق.
6. تدوير بيانات الاعتماد المكشوفة وفحص النسخ المتفرعة. حذف السر من المستودع الأصلي لا يضمن تنظيف كل نسخة موزعة.
7. إضافة مراجعة على مستوى المنصة قبل التوزيع. يمكن لفحص الأسواق، وإرشادات المطورين، والإفصاح المسؤول، والاختبارات الآلية أن تكمل وعي المطوّرين الفردي. 34

والخلاصة واضحة: لا يمكن ترك أمن الذكاء الاصطناعي إلى ما بعد إطلاق المنتج. فبيانات الاعتماد، وصلاحيات الوكلاء، وسياق النموذج، وضوابط الفوترة يجب أن تُعامل باعتبارها عناصر أساسية من أمن المنتج منذ اليوم الأول.