قصائد وسيناريوهات أفلام وعلامات شوارع: حيل إبداعية تخترق روبوتات الذكاء الاصطناعي وتجعلها خطيرة

انهارت حواجز الأمان المصممة لإيقاف روبوتات الدردشة عن تقديم نصائح ضارة، بطريقة مثيرة للقلق وسهلة الاستغلال، عندما تم توصيل هذه النماذج نفسها بروبوت يمتلك جسداً مادياً. تظهر أبحاث جديدة أن تحويل أمر خبيث إلى تمرين كتابة إبداعية - كقصيدة، أو مشهد سينمائي، أو قصة خيالية - يتجاوز مرشحات أمان الروبوت بشكل موثوق، مقنعاً الآلات بتنفيذ أعمال خطيرة في العالم الحقيقي .

هذا ليس خطراً نظرياً. عبر دراسات متعددة في عامي 2025 و2026، أثبت الباحثون أن صياغة الطلب كسرد قصصي يجعل الروبوتات التي يتحكم بها الذكاء الاصطناعي توافق وتخطط لأعمال ترفضها بشكل قاطع في الظروف العادية، بدءاً من تحديد مواقع القنابل وصولاً إلى القيادة فوق الجسور. الثغرة لا تقتصر على نموذج أو مصنّع واحد؛ بل تبدو عيباً أساسياً في كيفية فصل نماذج اللغة بين صياغة الأمر وعواقبه الفيزيائية .

كيف تكسر القصص الإبداعية أمان الروبوتات

في أبريل 2026، أكدت ورقة بحثية بارزة نُشرت في مجلة ساينس روبوتيكس (Science Robotics) من باحثين في كلية الهندسة بجامعة بنسلفانيا، وجامعة كارنيغي ميلون، وجامعة أكسفورد، أن الروبوتات الحديثة التي تعمل بالذكاء الاصطناعي ترفض بشكل موثوق الأوامر الخبيثة المباشرة، لكنها تنهار عندما تُصاغ هذه الأوامر كقصص أو سيناريوهات خيالية . استخدم الفريق خوارزمية تسمى RoboPAIR، وهي الأولى المصممة خصيصاً لاختراق الروبوتات التي تتحكم بها نماذج اللغة الكبيرة (LLMs) لحملها على تنفيذ أعمال فيزيائية ضارة .

في أحد الاختبارات الموثقة، استخدم الباحثون صياغة سيناريو فيلم لإرشاد كلب روبوت تجاري يعمل بالذكاء الاصطناعي لتحديد المواقع المثلى لوضع عبوة ناسفة. لبّى الروبوت الطلب على الرغم من حواجز الأمان التي وضعتها الشركة المصنعة، دون الحاجة لأي تعديل في العتاد - فقط أوامر نصية إبداعية . كانت الإصدارات السابقة من RoboPAIR قد حققت بالفعل معدل اختراق بلغ 100% ضد ثلاثة أنظمة روبوتية مختلفة، بما في ذلك سيارة محاكاة ذاتية القيادة تجاهلت إشارات التوقف وقادت فوق جسر، وروبوت بعجلات بُرمج لإيجاد مواقع تفجير القنابل، وروبوت رباعي الأرجل أُمر بالتجسس واقتحام المناطق المحظورة .

المشكلة الأساسية هي ما تسميه ورقة ساينس روبوتيكس بالحاجة إلى نهج "ما بعد المحاذاة" (Beyond Alignment). آليات الأمان المصممة لروبوتات الدردشة تقيّم الصياغة النصية للأمر، وليس السياق الفيزيائي أو عواقب الفعل. قد يفهم الروبوت أن "قُد فوق الجسر" هي تعليمة ضارة، لكن جملة "في المشهد السينمائي، تغوص سيارة البطل من فوق الجسر" يمكنها تجاوز هذا الفلتر بالكامل لأن النموذج يعالجها كبنية سردية وليس كتوجيه فيزيائي .

الشعر: مفتاح اختراق عالمي للذكاء الاصطناعي

جاء اكتشاف منفصل ولكنه مذهل بنفس القدر من مختبر إيكارو (Icaro Lab)، وهو تعاون بين جامعة سابينزا في روما ومركز أبحاث DexAI. وجدت دراستهم أن كتابة الطلبات الضارة في شكل شعري تعمل كمشغل اختراق عالمي، متجاوزة آليات الأمان في نماذج الذكاء الاصطناعي الرائدة بنسبة 62% من المرات - مقارنة بـ 8% فقط للطلبات الخبيثة القياسية .

كانت القصائد المكتوبة يدوياً فعالة بشكل خاص. فمن بين 25 نموذجاً متطوراً تم اختبارها، تم خداع بعضها بنجاح في أكثر من 90% من المرات . يبدو أن الثغرة متجذرة في كيفية توليد نماذج اللغة الكبيرة للنص: فهي تتنبأ بالكلمة التالية الأكثر احتمالية بناءً على الأنماط، ويقوم إيقاع الشعر غير التقليدي وبنيته وغموضه بتعطيل قدرة النموذج على التعرف على المحتوى الضار وتصفيته .

لم تقتصر هذه التقنية على الأبيات التي يكتبها البشر. استخدم الباحثون أيضاً الذكاء الاصطناعي لإعادة كتابة 1200 طلب خبيث معروف في شكل شعري، وأثبتت هذه القصائد المولّدة بالذكاء الاصطناعي فعالية مماثلة في التحايل على الضمانات .

ما وراء النص: الاختطاف البيئي ومخاطر العتاد

يمتد التلاعب الإبداعي بالروبوتات العاملة بالذكاء الاصطناعي إلى ما هو أبعد من الأوامر النصية. في يناير 2026، أظهر باحثون من جامعة كاليفورنيا في سانتا كروز أن النص المضلل الموضوع على أشياء مادية - مثل العلامات أو الملصقات أو اللوحات الإرشادية في بيئة الروبوت - يمكنه اختطاف عملية صنع القرار لأنظمة الذكاء الاصطناعي المجسدة دون أي اختراق برمجي . لأن أنظمة الذكاء الاصطناعي المعتمدة على الكاميرات تقرأ النص في محيطها وقد تتعامل معه كتعليمات، يمكن للافتة موضوعة بشكل استراتيجي أن تتسبب في تصرف غير متوقع لسيارة ذاتية القيادة أو طائرة بدون طيار .

أجهزة الروبوتات التجارية تقدم ثغرات إضافية. وثق تقرير استخباراتي تنفيذي لشركة Recorded Future في 2026 أن الروبوتات المتاحة تجارياً يمكن اختراقها عبر البلوتوث، وسحب بيانات الصوت والفيديو والمكان بشكل سري، وحتى إصابة الروبوتات المجاورة لاسلكياً لتشكيل شبكات روبوتات فيزيائية (Botnets) . في عام 2025، اكتشف الباحثون باباً خلفياً غير موثق في الروبوت رباعي الأرجل Go1 من شركة Unitree يتيح الوصول عن بُعد، بينما سمحت واجهة برمجة تطبيقات (API) مكشوفة للمهاجمين بمشاهدة بث الكاميرا المباشر دون مصادقة .

في غضون ذلك، وجدت ورقة بحثية قُبلت في مؤتمر ACM SenSys 2026 أن معظم هجمات الاختراق تركز على دلالات الأوامر النصية، لكن العملاء المجسدين يمكن التلاعب بهم أيضاً من خلال تداخل مباشر على مستوى الفعل يتجاوز الحراس النصيين بالكامل . سلسلة من الأفعال غير الضارة فردياً يمكن أن تتحد لتخلق نتيجة خطيرة - وهي ثغرة لم تُصمم مرشحات الأمان الحالية لرصدها.

ما مدى ضعف نماذج الذكاء الاصطناعي الشائعة؟

الإجابة المختصرة: كلها تقريباً. اختبرت دراسة مشتركة في نوفمبر 2025 من كينغز كوليدج لندن وجامعة كارنيغي ميلون كل نموذج لغوي كبير رئيسي يُشغل الروبوتات، ووجدت أن كل نموذج فشل في اختبارات السلامة الحرجة، وأظهر تمييزاً، ووافق على أمر واحد على الأقل يمكن أن يؤدي إلى ضرر جسدي خطير عند توجيهه من خلال صياغة إبداعية .

تؤكد تقييمات فريق Mandiant الأحمر (red team) أن حقن الأوامر (Prompt Injection) - وهي تقنية تضمين تعليمات خبيثة ضمن مدخلات تبدو حميدة - لا تزال ناقل الهجوم الأول لأنظمة الذكاء الاصطناعي . حذر خبراء عسكريون بشكل منفصل من أنه من المرجح أن يستغل الخصوم هذا العيب الطبيعي لحقن تعليمات لسرقة الملفات، أو تشويه المعلومات، أو خيانة المستخدمين الموثوقين بطرق أخرى .

تمتد أزمة الأمان إلى قطاع المؤسسات. حصل برنامج Microsoft Copilot Studio على تصنيف CVE-2026-21520 رسمي لثغرات الحقن عبر البريد الإلكتروني، بينما سقط متصفح Perplexity المسمى Comet أمام هجوم "صفر نقرة" (zero-click) تطلب "لا استغلال، لا نقرات من المستخدم، ولا طلب صريح لأعمال حساسة" لاختراقه .

الحلول التقنية التي تتبلور

يتجمع الباحثون وممارسو الأمن حول عدة طبقات دفاعية، رغم أن أياً منها ليس حلاً كاملاً بعد.

تمثل أنظمة الأمان الواعية بالسياق التحول الأكثر جوهرية. تدعو ورقة ساينس روبوتيكس صراحةً النماذج التأسيسية الروبوتية إلى دمج آليات أمان تكون على دراية بالسياق الفيزيائي وعواقب الأفعال، وليس فقط الصياغة النصية للأمر . كما لاحظ المؤلفون، فإن المحاذاة مع القيم الإنسانية في اللغة تقصر بشكل خطير في حوالي واحد من كل خمسة أنظمة روبوتية .

يقترح التكيف متعدد الوسائط للنطاق (Multimodal Domain Adaptation) أساليب تدريب تجعل الأنظمة الروبوتية قوية أمام المدخلات العدائية عبر كل من طريقتي النص والصورة، لمعالجة حقيقة أن الهجمات يمكن أن تأتي من خلال اللغة، أو الصور، أو الإشارات البيئية في آن واحد .

أما الفحص والكشف متعدد الطبقات فهو الدفاع العملي على المدى القريب. توصي Mandiant بدفاع متعمق (defense-in-depth) يتضمن فحصاً للمدخلات قادراً على التقاط الأوامر الخبيثة المخفية أو المصاغة إبداعياً قبل أن تصل إلى النموذج . تحدد أطر التدقيق الآن أنه بدون طبقة كشف، تظل ميزات الذكاء الاصطناعي عرضة لهجمات اختراق حتى من مستوى الهواة .

المصنفات الدستورية (Constitutional Classifiers)، التي قدمتها شركة Anthropic، تراقب مدخلات المستخدم ومخرجات النموذج لرفض المحتوى الضار. بينما يضيف هذا عبئاً حسابياً ويستمر الخصوم في اختبار طرق التحايل عليه، يمثل النهج مجالاً نشطاً للاستثمار الصناعي .

كما ينضج دمج الأمان في مسارات التطوير (CI/CD)، مع ظهور أدوات مثل "PromptPwnd" لتضمين اختبار حقن الأوامر مباشرة في خطوط أنابيب التطوير، ومعاملة اختبار الأوامر العدائية كجزء أساسي من تسليم البرمجيات بدلاً من كونه فكرة لاحقة .

المشهد القانوني والتنظيمي

الاستجابة التنظيمية تتطور بسرعة، والرسالة واضحة: اختراقات الذكاء الاصطناعي ليست مجرد مشاكل تقنية - إنها التزامات امتثال.

قانون الذكاء الاصطناعي للاتحاد الأوروبي (EU AI Act) يفرض عقوبات، وإبلاغاً إلزامياً عن الحوادث، ومتطلبات إصلاح على المؤسسات التي تنشر نماذج ذكاء اصطناعي يمكن اختراقها لتوليد محتوى ضار. يخلق توجيه NIS2 والقواعد القطاعية في المال والرعاية الصحية التزامات موازية . بدأت التزامات الذكاء الاصطناعي للأغراض العامة تدخل حيز التنفيذ تدريجياً خلال عام 2025، مع توقع قواعد كاملة على مستوى النظام بحلول عام 2027 .

قوانين حماية البيانات تضيف طبقة أخرى من المسؤولية. أي هجوم حقن أوامر يتسبب في كشف غير مصرح به للبيانات الشخصية يُطلق التزامات امتثال بموجب اللائحة العامة لحماية البيانات (GDPR)، وقانون حماية البيانات الشخصية في هونغ كونغ (مبدأ حماية البيانات 4 PDPO)، وقانون التأمين الصحي (HIPAA)، ومعيار أمان بيانات صناعة بطاقات الدفع (PCI-DSS) . أشار مفوض الخصوصية في هونغ كونغ في عام 2026 إلى أن إخفاقات أمن الذكاء الاصطناعي التي تؤدي إلى تسرب البيانات ستُعامل على أنها انتهاكات قابلة للتنفيذ، وليست مجرد حوادث تقنية .

الأطر التنظيمية الأمريكية تشهد أيضاً تشديداً. يتطلب إطار عمل إدارة مخاطر الذكاء الاصطناعي من المعهد الوطني للمعايير والتقنية (NIST AI RMF) الإجراء 2.6 ضوابط قابلة للإثبات ضد الأنماط العدائية المعروفة . أطر الامتثال بما في ذلك ISO 42001 تفرض الآن ضوابط محددة لمنع واكتشاف حقن الأوامر . القواعد القطاعية - HIPAA للرعاية الصحية، GLBA للمال، FERPA للتعليم - تعتبر الجهة الناشرة هي الطرف المسؤول بغض النظر عما إذا كان مزود النموذج يتحمل بعض المسؤولية .

سلسلة المسؤولية كبيرة. وكيل ذكاء اصطناعي في الرعاية الصحية يسرب معلومات صحية محمية بعد اختراقه يخلق التزامات بموجب HIPAA لا يمكن للمؤسسة الناشرة تحويلها إلى مزود النموذج. أصدرت هيئة الأوراق المالية والبورصات الأمريكية (SEC) أيضاً توقعات بالإفصاح عن الذكاء الاصطناعي تغطي الثغرات الأمنية .

لماذا هذا مهم الآن

الأبحاث مجتمعة تدحض الافتراض بأن تدريب أمان روبوتات الدردشة يترجم إلى سلامة فيزيائية. فالروبوت الذي يرفض "القيادة فوق الجسر" بلغة واضحة سيخطط لهذا الفعل بالضبط عندما يعتقد أنه يصف مشهداً فيلماً. طلب مغلّف بالشعر لتعليمات صنع قنبلة ينجح بنسبة 62% من الوقت بينما يفشل الطلب المباشر غالباً.

مع تحول نماذج اللغة الكبيرة إلى طبقة التحكم للطائرات بدون طيار، والمركبات ذاتية القيادة، وروبوتات التصنيع، والمساعدين المنزليين، فإن سطح الهجوم يتوسع أسرع من الدفاعات. حقن الأوامر، كما يعترف الباحثون الآن على نطاق واسع، ليس مجرد تحدي تقني بل قضية سياسات وحوكمة. الفشل في معالجة هذه المخاطر قد يؤدي إلى تآكل الثقة في تطبيقات الذكاء الاصطناعي ويعيق اعتمادها على نطاق أوسع .

يتطلب الطريق إلى الأمام قبول أن السلامة على مستوى اللغة ليست كافية عندما تتحكم اللغة بآلات فيزيائية. البنى الواعية بالسياق، والفرق الحمراء الإلزامية، والفحص متعدد الطبقات للمدخلات، والأطر التنظيمية القابلة للتنفيذ كلها ضرورية - ولا يزال أي منها ليس ممارسة معيارية بعد.