الإجاباتمنشور18 المصادر
لا يوجد نموذج ذكاء اصطناعي رائد آمن: سيسكو تكشف عن ثغرات خطيرة في اختبارات الهجمات متعددة الخطوات
تقرير "مشاكل الملكية" من سيسكو يختبر 15 نموذجاً مغلقاً و8 نماذج مفتوحة الوزن ضد الهجمات أحادية ومتعددة الخطوات: الاستنتاج الأساسي هو أنه لا يوجد نموذج ذكاء اصطناعي رائد آمن تماماً تحت الهجوم التكراري. معدلات نجاح الهجمات متعددة الخطوات تراوحت بين 7.89% و88.30%، بينما كانت المعدلات أحادية الخطوة بين 2.19% و64.91% فقط...
موجّه الذكاء الاصطناعي
openai.comCreate a landscape editorial hero image for this Studio Global article: Which frontier AI models are most vulnerable to multi-turn adversarial attacks, what attack strategy families were identified, and what reco. Article summary: Cisco's May 2026 research, published as *Proprietary Problems* with a companion open-weight study *Death by a Thousand Prompts*, tested 15 closed flagship models and eight open-weight models against both single-turn and . Topic tags: general, academic, general web. Reference image context from search candidates: Reference image 1: visual subject "### Cisco report finds no closed frontier AI model is safe from multi-turn attacks. A new report out today from Cisco Systems Inc. argues that none of the closed flagship large lan" source context "Cisco report finds no closed frontier AI model is safe from multi-turn attacks - SiliconANGLE" Reference image 2: visual s
أجرت سيسكو في مايو 2026 بحثاً موسعاً، نُشر بعنوان "مشاكل الملكية" مع دراسة مصاحبة للنماذج مفتوحة الوزن بعنوان "الموت بألف موجه"، اختبرت فيه 15 نموذجاً رائداً مغلق المصدر وثمانية نماذج مفتوحة الوزن ضد الهجمات العدائية أحادية ومتعددة الخطوات. النتيجة الأساسية كانت صادمة: لا يوجد نموذج ذكاء اصطناعي رائد آمن تماماً تحت الهجوم التكراري، وأن معايير الأمان التي تعتمد على اختبارات الطلب الواحد تُعتبر مؤشراً مضللاً لمدى الضعف الحقيقي في العالم الواقعي.
أكثر النماذج عرضة للخطر
تراوحت معدلات نجاح الهجمات متعددة الخطوات (ASR) عبر مجموعة النماذج المغلقة بين 7.89% و88.30%، مقارنة بمعدلات نجاح للهجمات أحادية الخطوة على نفس النماذج تراوحت بين 2.19% و64.91%.
- xAI – Grok 4.1 Fast (الوضع غير الاستدلالي) كان النموذج الأكثر ضعفاً، حيث بلغ معدل نجاح الهجوم متعدد الخطوات لديه 88.30%.
- جوجل – Gemini 3 Pro قفز معدل نجاح الهجوم عليه من 18.10% في الوضع أحادي الخطوة إلى 73.35% في الوضع متعدد الخطوات، بزيادة قدرها 4 أضعاف.
- OpenAI – GPT-5.4 انتقل من 2.74% في الهجوم الأحادي إلى 24.68% في الهجوم المتعدد، بزيادة هائلة قدرها 9 أضعاف.
- عائلة Anthropic – Claude (Opus 4.5/4.6, Sonnet 4.5/4.6, Haiku 4.5) كانت من بين الأقوى في رفض الهجمات الأحادية (بمعدل 2.19%–3.64%) لكنها مع ذلك وصلت إلى معدل نجاح هجوم متعدد بين 11.16% و16.20%.
- أمازون – Nova 2 Lite سجل أدنى معدل نجاح للهجوم المتعدد عند 7.89%، وهو ما لا تزال سيسكو تصفه بأنه "خطر متبقٍ ذو معنى".
في الدراسة السابقة للنماذج مفتوحة الوزن، وصلت معدلات نجاح الهجوم المتعدد إلى 92.78% ضد نموذج Mistral Large-2، وكانت معدلات النجاح أعلى من خط الأساس للهجمات الأحادية بمقدار يتراوح بين الضعفين و10 أضعاف عبر جميع النماذج الثمانية.
خمس عائلات من استراتيجيات الهجوم
حددت سيسكو واختبرت خمس عائلات من استراتيجيات الهجوم متعدد الخطوات :
- تقمص الأدوار / تبني الشخصية – حيث يتبنى المهاجم شخصية أو دوراً لتوجيه المحادثة تدريجياً نحو محتوى غير مسموح به.
- الغموض السياقي / التضليل – يتم إخفاء النية الضارة ضمن سياق يبدو حميداً أو غامضاً عبر عدة خطوات من المحادثة.
- إعادة صياغة الرفض / إعادة التوجيه – يقوم المهاجم بإعادة صياغة رفض النموذج إلى طلب جديد يقترب تدريجياً من حدود التقييد.
- تفكيك وإعادة تجميع المعلومات – يتم تقسيم الطلب الضار إلى أجزاء صغيرة عبر خطوات متعددة، ثم يقوم النموذج بإعادة تجميعها.
- التصعيد التدريجي / الهلالي – تبدأ المطالبات بشكل بريء وتتصاعد تدريجياً جلسة بعد أخرى، مما يؤدي إلى تآكل حواجز الأمان.
تباينت الفجوة بين النموذج الأكثر والأقل تعرضاً للخطر بشكل كبير عبر هذه العائلات، مما يؤكد أن الضعف ليس موحداً عبر جميع الاستراتيجيات.
توصيات سيسكو لتقييم ونشر نماذج اللغة الكبيرة بأمان
- رفض اعتبار معدل نجاح الهجوم الأحادي مؤشراً. المعايير أحادية الخطوة وحدها تصنف النماذج بشكل خاطئ وتخفي المخاطر الحقيقية. يجب أن تتضمن التقييمات اختبارات هجوم تكيفية متعددة الخطوات لتعكس سلوك الخصم الحقيقي.
- اعتماد التقييم متعدد الخطوات كممارسة معيارية. على المشترين والجهات التنظيمية أن يسألوا: "كيف يصمد هذا النموذج أمام الهجمات التكيفية متعددة الخطوات؟" قبل الشراء أو النشر.
- نشر حواجز حماية واعية بالسياق ومراقبة وقت التشغيل. السلامة الثابتة للنموذج غير كافية. تحتاج المؤسسات إلى اكتشاف فوري لأنماط المحادثة الشاذة وسلوك اختبار الحدود.
- إجراء تمارين فريق أحمر دورية تحاكي بشكل خاص الهجمات التكرارية بطول المحادثة - وليس فقط محاولات كسر الحماية الفردية.
- تطبيق التدريب العدائي لتحسين متانة النموذج، مع التركيز على الحفاظ على السلامة عبر الخطوات المتعددة وليس فقط عند الموجه الأول.
- استخدام دفاعات متعددة الطبقات: لا يكفي حاجز حماية واحد. اجمع بين محاذاة النموذج، وتصفية المدخلات/المخرجات، والمراقبة السلوكية، والإشراف البشري عند الحاجة.
- فهم فلسفة المحاذاة للمختبر. النماذج من مختبرات تُعلن علناً عن تركيزها على السلامة (مثل عائلة Gemma من جوجل) أظهرت فجوات أضيق بين الهجمات الأحادية والمتعددة، بينما النماذج التي تُعطي الأولوية للقدرات (مثل Llama من ميتا، و Grok من xAI) أظهرت فجوات أوسع. تنصح سيسكو المؤسسات بأخذ هذا في الاعتبار عند اختيار النموذج.
- استخدام أدوات تقييم منظمة مثل منصة التحقق من الذكاء الاصطناعي من سيسكو (وهي الآن جزء من قائمة رواد أمان نماذج اللغة الكبيرة "LLM Security Leaderboard") لتوليد درجات مخاطر متعددة الخطوات قابلة للمقارنة والتكرار قبل النشر.
Studio Global AI
Search, cite, and publish your own answer
Use this topic as a starting point for a fresh source-backed answer, then compare citations before you share it.
يسأل الناس أيضا
ما هي الإجابة المختصرة على "لا يوجد نموذج ذكاء اصطناعي رائد آمن: سيسكو تكشف عن ثغرات خطيرة في اختبارات الهجمات متعددة الخطوات"؟
تقرير "مشاكل الملكية" من سيسكو يختبر 15 نموذجاً مغلقاً و8 نماذج مفتوحة الوزن ضد الهجمات أحادية ومتعددة الخطوات: الاستنتاج الأساسي هو أنه لا يوجد نموذج ذكاء اصطناعي رائد آمن تماماً تحت الهجوم التكراري.
ما هي النقاط الأساسية التي يجب التحقق منها أولاً؟
تقرير "مشاكل الملكية" من سيسكو يختبر 15 نموذجاً مغلقاً و8 نماذج مفتوحة الوزن ضد الهجمات أحادية ومتعددة الخطوات: الاستنتاج الأساسي هو أنه لا يوجد نموذج ذكاء اصطناعي رائد آمن تماماً تحت الهجوم التكراري. معدلات نجاح الهجمات متعددة الخطوات تراوحت بين 7.89% و88.30%، بينما كانت المعدلات أحادية الخطوة بين 2.19% و64.91% فقط، مما يعني أن النماذج أكثر عرضة للخطر مما تظهره المعايير الحالية.
ماذا يجب أن أفعل بعد ذلك في الممارسة العملية؟
نموذج Grok 4.1 Fast من xAI كان الأكثر ضعفاً بمعدل نجاح هجوم بلغ 88.30%، بينما قفز معدل نموذج GPT 5.4 من OpenAI بمقدار 9 أضعاف تحت الضغط التكراري ليصل إلى 24.68%.
المصادر
- siliconangle.comCisco report finds no closed frontier AI model is safe from multi-turn attacks - SiliconANGLE
- thedeepview.comNew research challenges AI safety benchmark
- blogs.cisco.comNo Frontier Model Is Immune...
- arxiv.org[PDF] Death by a Thousand Prompts: Open Model Vulnerability Analysis
- arxiv.orgDeath by a Thousand Prompts: Open Model Vulnerability ...
- networkworld.comCisco research finds standard AI safety benchmarks miss the real threat
- helpnetsecurity.comFrontier AI models collapse under multi-turn AI attacks ...
- blogs.cisco.comAmy Chang - Cisco Blogs
- csoonline.comAI models more vulnerable than claimed when faced with ...
- cybersecuritydive.comLeading AI models are more vulnerable to malicious prompts than ...
- nationalcioreview.comNew Research Exposes a Major Blind Spot in AI Security
- app.daily.devProprietary Problems: No Frontier Model Is Multi-Turn ...
- letsdatascience.comCisco Finds Multi-turn Attacks Break Frontier AI Models
- moderncyber.comAre Your LLMs Secure? Here's How Cisco is Thinking About It
- itbrew.comCisco shows LLMs get worn down by 'multi-turn' prompt attacks
- windowsforum.comDefending Open Weight LLMs: Cisco's Multi-turn Attack ...
- infosecurity-magazine.comMulti-Turn Attacks Expose Weaknesses in Open-Weight ...
- blogs.cisco.comDeath by a Thousand Prompts: Open Model Vulnerability Analysis