الإجاباتمنشور15 المصادر
لماذا قد تكون نماذج الذكاء الاصطناعي مفتوحة الأوزان أخطر من النماذج الرائدة؟
ترى ميرة راجافيل أن الخطر الأكثر إلحاحًا لا يأتي بالضرورة من النماذج الرائدة المغلقة، بل من نماذج مفتوحة الأوزان رخيصة قد تتأخر عنها بضعة أشهر فقط. بعد نشر أوزان النموذج، يصبح من الصعب على مطوّره أو المؤسسة التي تستخدمه مراقبته أو تقييده أو تحديثه أو سحبه.
نشر بواسطةتم التحرير باستخدام GPT-5.6 Lunaتم إنشاء الصور باستخدام GPT Image 1.5
إجابة البحث
الوجبات السريعة الرئيسية
- ترى ميرة راجافيل أن الخطر الأكثر إلحاحًا لا يأتي بالضرورة من النماذج الرائدة المغلقة، بل من نماذج مفتوحة الأوزان رخيصة قد تتأخر عنها بضعة أشهر فقط.
- بعد نشر أوزان النموذج، يصبح من الصعب على مطوّره أو المؤسسة التي تستخدمه مراقبته أو تقييده أو تحديثه أو سحبه.
- انخفاض تكلفة استئجار وحدات معالجة الرسوميات يسهّل إعادة توظيف النماذج في الاستطلاع والهجمات والبرمجيات الخبيثة، كما يرفع قابلية التوسع.
- أظهرت اختبارات سيسكو أن الهجمات متعددة الجولات نجحت بمعدلات أعلى بمرتين إلى عشر مرات من الهجمات ذات الجولة الواحدة، بينما وثّقت «تحالف أمن السحابة» مخاطر في البيئات المستضافة ذاتيًا.
موجّه الذكاء الاصطناعي
openai.comCreate a landscape editorial hero image for this Studio Global article: What did Palo Alto Networks CIO Meerah Rajavel identify as the greatest cybersecurity threat facing organizations— inexpensive open source o. Article summary: Rajavel’s warning was that the more immediate organizational risk is not necessarily the tightly controlled frontier model, but a cheap, downloadable open weight model that is only a few months behind it in capability.. Topic tags: general web, ai safety, openai, llm, agents. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, charts wi
الخطر ليس دائمًا في النموذج الأقوى
تحذّر ميرة راجافيل، مديرة المعلومات في شركة «بالو ألتو نتوركس»، من أن التهديد الأكثر إلحاحًا للمؤسسات قد لا يكون النموذج الرائد المغلق الذي تطوره شركات مثل «أوبن إيه آي» و«أنثروبيك»، بل نموذج ذكاء اصطناعي مفتوح الأوزان، منخفض التكلفة وقابل للتنزيل، لا يتأخر عن قدرات النماذج المتقدمة سوى بضعة أشهر. 6
وتشير الفكرة الأساسية إلى أن القدرات المتقدمة قد تصبح متاحة على نطاق واسع خلال فترة تتراوح بين أربعة وستة أشهر، مع لحاق النماذج المفتوحة بما تقدمه الأنظمة المغلقة. وبمجرد نشر أوزان النموذج، يصبح تشغيله وتعديله وتوزيعه أسهل بكثير، فيما يفقد المطوّر الأصلي جزءًا كبيرًا من قدرته على مراقبته أو تقييده أو تحديثه أو سحبه.
ماذا يتغير عند تشغيل النموذج محليًا؟
عند استخدام نموذج عبر واجهة برمجة تطبيقات مستضافة، يظل مزوّد الخدمة قادرًا، من حيث المبدأ، على تسجيل الاستخدام، ورصد إساءة الاستعمال، وفرض حدود للطلبات، وتطبيق سياسات السلامة، وإصدار تحديثات، بل وتعليق الحسابات عند الضرورة.
أما النسخة التي تُنزّل وتُشغّل محليًا، فتخرج من نطاق السيطرة هذا. إذ يمكن تعديل وسائل الحماية أو إزالتها، ولا يستطيع مطوّر النموذج ضمان تحديثها أو إبطالها عن بُعد، كما قد لا تعلم فرق أمن المعلومات في المؤسسة أن النموذج يعمل أصلًا على جهاز موظف أو خادم داخلي.
وهنا تكمن المشكلة العملية: لا يتعلق الأمر فقط بكون النموذج «مفتوحًا»، بل بتحول قدرته إلى أداة قابلة للنشر على نطاق واسع، من دون آليات مركزية ثابتة للرصد أو الإيقاف.
تكلفة أقل للهجمات ونطاق أوسع لإعادة التوظيف
يؤدي انخفاض تكلفة استئجار وحدات معالجة الرسوميات السحابية، إلى جانب إمكانية تشغيل النماذج على أجهزة محلية، إلى خفض الحواجز المالية والتقنية أمام استخدام قدرات الذكاء الاصطناعي في أغراض هجومية، مثل الاستطلاع، وتطوير البرمجيات الاستغلالية، والتصيد الاحتيالي، وتكييف البرمجيات الخبيثة، والاستهداف الآلي.
ولا تعني هذه المخاوف أن كل مستخدم لنموذج مفتوح الأوزان جهة خبيثة. لكن إتاحة النموذج للعامة قد تمنح عددًا أكبر من المهاجمين القدرة على أتمتة الأنشطة السيبرانية وتوسيع نطاقها، وفق أبحاث حول مخاطر النماذج اللغوية مفتوحة الأوزان. 2
الهجمات متعددة الجولات تكشف ضعفًا في الحواجز
تقدم أبحاث سيسكو مثالًا ملموسًا على مخاطر التلاعب. فقد وجدت دراسة شملت ثمانية نماذج مفتوحة الأوزان أن الهجمات العدائية متعددة الجولات حققت معدلات نجاح أعلى بمرتين إلى عشر مرات مقارنة بخطوط الأساس للهجمات ذات الجولة الواحدة، بينما تراوحت معدلات النجاح المبلغ عنها في الهجمات متعددة الجولات بين 25.86% و92.78%. 3
بمعنى آخر، قد يرفض النموذج طلبًا ضارًا في المحاولة الأولى، لكن المهاجم يستطيع مواصلة الحوار وتغيير صياغة الطلب وتصعيده تدريجيًا إلى أن يدفع النموذج لإنتاج محتوى كان يفترض أن يرفضه. وهذا يجعل تقييم السلامة عبر اختبار واحد غير كافٍ للحكم على مستوى الحماية الفعلي.
خطر آخر: تسميم النموذج وسلسلة التوريد
تحتاج المؤسسات التي تنزّل النماذج وتستضيفها داخليًا إلى الوثوق ليس بملف النموذج وحده، بل أيضًا بصيغة التحويل، والقوالب، وخادم الاستدلال، والمكتبات والاعتماديات المحيطة به.
وقد وثّق «تحالف أمن السحابة» مخاطر في النماذج المستضافة ذاتيًا، يمكن فيها لمنطق تنفيذي أو قوالب خبيثة أن تُفعّل عند تحميل النموذج. وقد يتيح ذلك، في ظروف معينة، سرقة بيانات الاعتماد أو استخراج البيانات من البيئة. 12
لكن لا يمكن التحقق بصورة مستقلة، استنادًا إلى مصدر أولي من التحالف، من الصياغة الدقيقة التي تزعم أن نتيجة واحدة بعينها سمّت نماذج «لاما» و«ميسترال» و«كيوين» معًا. لذلك ينبغي التعامل مع هذا الربط المحدد بوصفه غير مثبت بما يكفي، مع بقاء خطر الملفات والقوالب وخوادم الاستدلال الخبيثة قائمًا بوصفه خطرًا على سلسلة التوريد.
تصحيح مهم لأرقام «بالو ألتو نتوركس»
تحتاج الأرقام المتداولة حول نشاط «بالو ألتو نتوركس» إلى تدقيق. فالإيداع الأولي المتاح للشركة يقول إنها ترصد ما يصل إلى 8.9 ملايين هجوم جديد أو غير مشاهد سابقًا يوميًا، وتحجب ما يصل إلى 30.9 مليار هجوم يوميًا، وليس 30 مليار هجوم و250 مليون مسار هجوم جديد خلال سنة تقويمية. 1
وتعزز هذه الأرقام، بصرف النظر عن طريقة عرضها، تحذير راجافيل الأوسع: يواجه المدافعون بيئة هجمات سريعة الحركة ومتنوعة بدرجة كبيرة. وإذا أصبحت القدرات المتقدمة متاحة في نماذج يمكن تنزيلها وتعديلها وتشغيلها محليًا، فقد يتمكن المهاجمون من تقليص زمن التجربة والتطوير وإعادة المحاولة بدرجة أكبر.
ما الذي ينبغي أن تفعله المؤسسات؟
لا يعني ذلك أن النماذج المغلقة آمنة تلقائيًا أو أن النماذج مفتوحة الأوزان خطرة بطبيعتها. لكن المؤسسات تحتاج إلى التعامل مع النموذج المحلي باعتباره مكوّنًا برمجيًا حساسًا، لا مجرد أداة إنتاجية.
ويشمل ذلك معرفة النماذج المستخدمة داخل المؤسسة، والتحقق من مصدر الملفات وسلامتها، وعزل خوادم الاستدلال، وتقييد الصلاحيات والاتصالات، ومراقبة السجلات، وفحص القوالب والاعتماديات، ومنع الموظفين من تشغيل نماذج غير معتمدة على بيانات حساسة.
الخلاصة التي تطرحها راجافيل هي أن سرعة انتشار القدرة قد تكون أخطر من الوصول إلى أقصى قدرة ممكنة. فالنموذج الذي يتأخر بضعة أشهر عن قمة السوق، لكنه رخيص ومتاح وقابل للتعديل، قد يصبح أداة هجومية واسعة الانتشار قبل أن تتمكن المؤسسات من تحديث دفاعاتها.
Studio Global AI
مواصلة البحث الخاص بك
تتضمن هذه الصفحة إجابة مدعومة بالمصدر يمكنك المتابعة داخل Studio Global.
يسأل الناس أيضا
ما هي الإجابة المختصرة على "لماذا قد تكون نماذج الذكاء الاصطناعي مفتوحة الأوزان أخطر من النماذج الرائدة؟"؟
ترى ميرة راجافيل أن الخطر الأكثر إلحاحًا لا يأتي بالضرورة من النماذج الرائدة المغلقة، بل من نماذج مفتوحة الأوزان رخيصة قد تتأخر عنها بضعة أشهر فقط.
ما هي النقاط الأساسية التي يجب التحقق منها أولاً؟
ترى ميرة راجافيل أن الخطر الأكثر إلحاحًا لا يأتي بالضرورة من النماذج الرائدة المغلقة، بل من نماذج مفتوحة الأوزان رخيصة قد تتأخر عنها بضعة أشهر فقط. بعد نشر أوزان النموذج، يصبح من الصعب على مطوّره أو المؤسسة التي تستخدمه مراقبته أو تقييده أو تحديثه أو سحبه.
ماذا يجب أن أفعل بعد ذلك في الممارسة العملية؟
انخفاض تكلفة استئجار وحدات معالجة الرسوميات يسهّل إعادة توظيف النماذج في الاستطلاع والهجمات والبرمجيات الخبيثة، كما يرفع قابلية التوسع.