تحذير أكاماي بشأن الذكاء الاصطناعي الوكيلي: راقب ما تفعله الوكلاء لا هويتها فقط

يرسم تقرير أكاماي بعنوان «السرعة والنطاق والهوية غير البشرية: مشهد تهديدات الذكاء الاصطناعي الوكيلي» صورة لتحول مهم: لم يعد الذكاء الاصطناعي مجرد برمجية تجيب عن الأسئلة، بل بات يمكنه العمل كوكيل غير بشري يسترجع المعلومات، ويستخدم الأدوات، ويستدعي واجهات برمجة التطبيقات (API)، وينفذ إجراءات متعددة الخطوات. ورسالة التقرير الأمنية واضحة: لم تعد المصادقة وضوابط الوصول الثابتة كافية؛ إذ ينبغي للمؤسسات حوكمة ما تفعله هذه الهويات، ضمن سياق العمل وفي الوقت الفعلي. 117

لماذا يغيّر الوكلاء المستقلون نموذج المخاطر؟

يجمع الوكيل المستقل بين قدرات النموذج الاستدلالية وبين الوصول إلى أنظمة المؤسسة. وهنا ينشأ الخطر: عندما يصبح الوكيل قادراً على نقل البيانات، أو استخدام المتصفح، أو الاتصال بواجهة برمجة، أو بدء سير عمل.

وتصف أكاماي ذلك بأنه تحدٍّ يتعلق بـ الهويات غير البشرية. فلا يكفي أن تعرف المؤسسة الموظف أو الخدمة الموجودة خلف الإجراء؛ بل يجب أن تعرف الوكيل نفسه، والأدوات المتاحة له، والبيانات التي يستطيع الوصول إليها، وما إذا كان سلوكه مناسباً للمهمة الموكلة إليه. 12

أبرز المخاطر التي يسلط التقرير الضوء عليها

1. محادثات روبوتات الدردشة قد تصبح قناة لتسرب البيانات

تقول أكاماي إن أكثر من 6% من محادثات الذكاء الاصطناعي عبر أجهزة المؤسسات تتضمن معلومات حساسة. وهذا يعني أن التعليمات النصية المرسلة إلى النموذج، والملفات المرفوعة، وسجل المحادثة، أصبحت جزءاً من محيط حماية البيانات في المؤسسة، وليست مجرد مسألة مرتبطة بأدوات الإنتاجية. 1

ويتفاقم التعرض للمخاطر عندما يستخدم الموظفون حسابات ذكاء اصطناعي شخصية أو غير خاضعة للمراقبة. فقد تقع هذه التفاعلات خارج نطاق الرؤية المعتادة وسياسات المؤسسة، ما يضعف قدرتها على معرفة البيانات المؤسسية التي جرى مشاركتها ووجهتها. وتدرج أكاماي «الذكاء الاصطناعي الخفي» ضمن سطح التهديد المتنامي في بيئات المؤسسات. 12

2. إضافات المتصفح المدعومة بالذكاء الاصطناعي تفتح مساحة عمل غير مُدارة

المتصفح نقطة تحكم شديدة الحساسية: فهو المكان الذي يعمل فيه الموظفون، ويسجلون الدخول إلى الأنظمة، ويطالعون المعلومات الحساسة، ويستخدمون فيه بصورة متزايدة مساعدين مدعومين بالذكاء الاصطناعي. وتفيد أكاماي بأن أكثر من 40% من مستخدمي المؤسسات ثبّتوا إضافات متصفح مدعومة بالذكاء الاصطناعي، وأن 25% من تلك الإضافات غيّرت أذوناتها خلال الاثني عشر شهراً السابقة. 12

ولا يعني ذلك أن كل إضافة خبيثة؛ بل إن المشكلة تكمن في إمكان تغيّر الأذونات، والوصول إلى البيانات، وسلوك الإضافة داخل مساحة عمل قد لا تخضع للتدقيق نفسه المطبق على تطبيقات المؤسسة المُدارة.

3. بروتوكول MCP قد يطمس الحد الفاصل بين البيانات والإجراء التنفيذي

يتيح بروتوكول سياق النموذج (MCP) للوكلاء استخدام الأدوات وواجهات برمجة التطبيقات. وتصفه أكاماي بأنه يمنح الذكاء الاصطناعي الوكيلي «يديه» العمليتين، لكنه في الوقت نفسه يطمس الحدود بين البيانات والشفرة البرمجية. وقد يؤثر خادم MCP خبيث أو مخترق في سلوك النموذج عبر حقن التعليمات أو هجمات عابرة بين الخوادم. 2

وهذا يخلق تحدياً في الرؤية والتفويض: تحتاج الفرق إلى معرفة خدمات MCP التي يستطيع الوكيل الوصول إليها، وبيانات الاعتماد والأذونات المتاحة له، والإجراءات التي ينفذها فعلياً أثناء التشغيل.

4. الروبوتات وإساءة استخدام واجهات البرمجة تعملان بسرعة الآلة

تربط أكاماي صعود الوكلاء بتحدٍّ أوسع في أمن الروبوتات وواجهات البرمجة. فالأنظمة المؤتمتة تستطيع محاكاة سلوك العملاء وزيادة حجم التفاعلات التي يتعين على فرق الدفاع تقييم نيتها واحتمال إساءة استخدامها. وفي قطاع التجارة، سجلت أكاماي ارتفاعاً سنوياً قدره 19% في حركة روبوتات الذكاء الاصطناعي خلال 2025، مدفوعاً إلى حد كبير بنشاط قطاع التجزئة. 20

ولا يعني ذلك أن كل روبوت ذكاء اصطناعي خبيث. فهناك زواحف مفيدة، وروبوتات بحث، وأدوات جلب محتوى، ووكلاء يؤدون مهام مشروعة. لذا تتمثل المهمة الأمنية في التمييز بين النشاط المصرح به والمتوقع، والسلوك الشاذ أو الضار. 1827

5. زواحف الذكاء الاصطناعي تنتقل من القراءة إلى تنفيذ الإجراءات

يمتد تحذير التقرير إلى الخدمات المتاحة على الويب. إذ أظهرت أبحاث استندت إلى ملاحظات أكاماي أن زواحف ذكاء اصطناعي موثقة، من بينها ChatGPT، بدأت في إرسال طلبات POST بوتيرة مرتفعة، بدلاً من الاكتفاء باسترجاع الصفحات عبر طلبات GET. وطلبات POST تستطيع إرسال معلومات أو إطلاق إجراءات مثل تسجيل الدخول، وإضافة المنتجات إلى السلة، وإتمام الدفع. 19

وفي تحليل مدته 30 يوماً، شكّلت التجارة الإلكترونية 44.8% من معاملات POST الخاصة بروبوتات الذكاء الاصطناعي، فيما بلغ قطاع السفر 30% خلال شهر واحد. ولا يعني هذا أن طلب POST ضار بطبيعته، لكنه يشير إلى أن حركة المرور الصادرة عن الذكاء الاصطناعي قد تصل بصورة متزايدة إلى مسارات العمل التي تصبح فيها ضوابط الاحتيال، والتحقق من الصلاحيات، ومراقبة المعاملات ضرورية للغاية. 19

أربع خطوات لحوكمة الذكاء الاصطناعي الوكيلي داخل المؤسسة

اتجاه أكاماي الموصى به هو الانتقال من إدارة الهوية التقليدية إلى الحوكمة السلوكية للجهات البشرية وغير البشرية. ويمكن تلخيصه في أربع أولويات تشغيلية. 117

1. حوكمة السلوك، لا الهوية وحدها

تحقق من هوية المستخدمين والخدمات والوكلاء، لكن قيّم أيضاً ما يحاولون فعله. وينبغي أن تراعي الضوابط الإجراء المطلوب من الوكيل، والنظام المستهدف، واستخدام الأدوات، والوصول إلى البيانات، وأي سلوك غير معتاد عبر مسارات العمل وواجهات البرمجة. 117

2. إعداد جرد للوكلاء وواجهات البرمجة والأدوات المتصلة بـ MCP

تحتاج المؤسسات إلى رؤية واضحة للوكلاء المنشورين، وحسابات الخدمات، وإضافات المتصفح، وخوادم MCP، وواجهات البرمجة المتصلة بها، وأذوناتها. فالروابط غير المعروفة والصلاحيات الزائدة يصعب تأمينها لأن الفرق لا تستطيع تقييم أثرها على نحو موثوق. 2

3. تطبيق مبدأ أقل الصلاحيات وحماية تدفقات بيانات الذكاء الاصطناعي

ينبغي حصر كل وكيل وأداة متصلة في البيانات والأنظمة والإجراءات الضرورية فقط لمهمته المحددة. ويُستكمل ذلك بمراقبة استخدام روبوتات الدردشة وأدوات الذكاء الاصطناعي المعتمدة على المتصفح وحركة البيانات الحساسة، بحيث تعكس السياسات سياق البيانات ووجهتها، لا مجرد نجاح الحساب في تسجيل الدخول. 12

4. ضوابط آنية قائمة على المخاطر مع إشراف بشري

تتطلب الأتمتة التي تعمل بسرعة الآلة دفاعات وقت التشغيل تقيم السلوك لحظة حدوثه. ويمكن منح قدر أكبر من الاستقلالية للمهام منخفضة المخاطر والقابلة للعكس، بينما ينبغي أن تواجه الإجراءات عالية الأثر أو الحساسة أو غير المعتادة ضوابط أشد أو موافقة بشرية. وينسجم ذلك مع تأكيد أكاماي على حوكمة سلوك الجهات غير البشرية ونشاط واجهات البرمجة في الوقت الفعلي. 17

الخلاصة

لا تنظر أكاماي إلى وكلاء الذكاء الاصطناعي كفئة أخرى من المستخدمين أو الروبوتات فحسب، بل كجهات تشغيلية تصل بين البيانات والأدوات والمعاملات. ولذلك، فإن الأولوية الأمنية هي اكتساب رؤية لهذه الصلات، وتقييد الصلاحيات، ومراقبة السلوك باستمرار، وجعل مستوى الاستقلالية متناسباً مع مستوى المخاطر. 1217