الإجاباتمنشور13 المصادر
ما الذي تكشفه آلاف النماذج التي أزيلت منها ضوابط السلامة؟
أفادت Transformer بأن Hugging Face استضافت في يوليو أكثر من ٦٥٠٠ نموذج موسوم بعبارات مثل «abliterated» و«uncensored» و«heretic».[1] إزالة سلوك الرفض لا تثبت بحد ذاتها أن النموذج قادر على تنفيذ هجوم بعينه، كما أن الوسم وحده لا يكشف مستوى قدراته. تعطيل مستودع Audnai الذي وصف نموذجه بأنه مخصص للهجمات السيبرانية، مقابل...
نشر بواسطةتم التحرير باستخدام GPT-6 Lunaتم إنشاء الصور باستخدام GPT Image 2
إجابة البحث
الوجبات السريعة الرئيسية
- أفادت Transformer بأن Hugging Face استضافت في يوليو أكثر من ٦٥٠٠ نموذج موسوم بعبارات مثل «abliterated» و«uncensored» و«heretic».[1]
- إزالة سلوك الرفض لا تثبت بحد ذاتها أن النموذج قادر على تنفيذ هجوم بعينه، كما أن الوسم وحده لا يكشف مستوى قدراته.
- تعطيل مستودع Audnai الذي وصف نموذجه بأنه مخصص للهجمات السيبرانية، مقابل بقاء صفحة نموذج آخر للشركة متاحة، يبرز أهمية توضيح حدود تطبيق سياسات المنصة.[11][14]
موجّه الذكاء الاصطناعي
openai.comCreate a landscape editorial hero image for this Studio Global article: What does Transformer’s report that Hugging Face hosted more than 6,500 models tagged “abliterated,” “uncensored,” or “heretic” as of July r. Article summary: Transformer’s report points to a governance gap: removing a model’s refusal behavior is increasingly accessible, while deciding which modified models constitute prohibited cyberattack tools remains difficult and, in the . Topic tags: general, general web. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, charts with fake numbers, clic
أفادت نشرة Transformer بأن منصة Hugging Face استضافت في يوليو أكثر من ٦٥٠٠ نموذج موسوم بعبارات مثل «abliterated» و«uncensored» و«heretic».1 وتشير هذه الأوصاف عادةً إلى نماذج خُفّضت فيها ضوابط السلامة أو سلوك الرفض. لكن الرقم لا يعني أن كل نموذج خبيث، أو أن النماذج متساوية في قدراتها، أو أن وجودها مخالف بالضرورة للسياسات. السؤال الأصعب هو: كيف تميّز المنصة بين نموذج أقل ميلاً إلى الرفض ونموذج صُمم للمساعدة على إساءة استخدام الأنظمة؟
ماذا يخبرنا رقم ٦٥٠٠؟
تصف التغطية هذه المصطلحات بأنها مرتبطة بإزالة مرشحات السلامة أو الحواجز من النماذج.1 وهي إشارة إلى طريقة تقديم النموذج، لكنها لا تكفي للتحقق من قدراته الفعلية أو مدى نجاحه في تنفيذ مهام ضارة.
وتصف صفحة نموذج تابع لـAudnai ما تسميه «abliteration» بأنه تعديل مباشر لأوزان النموذج لإزالة سلوك الرفض، لا عملية إعادة تدريب.11 وهذا يوضح سبب أهمية الفصل بين إزالة الحواجز واكتساب قدرات جديدة: تغيير استعداد النموذج للإجابة لا يثبت، بحد ذاته، قدرته على تنفيذ هجوم محدد.
أين يقع الحد الفاصل في سياسة المنصة؟
بحسب Transformer، تحظر سياسة المحتوى في Hugging Face النماذج المصممة لتعطيل الأنظمة، أو الوصول غير المصرح به، أو إنتاج شيفرات خبيثة.1 وهنا يبرز سؤال أدق من مجرد معرفة ما إذا كان النموذج قد عُدّل: ما الأدلة التي تثبت أن الغرض من تصميمه يخالف هذه السياسة؟
تظهر صفحة مستودع Audnai الموصوف بأنه مخصص «للهجمات السيبرانية» أن الوصول إلى النموذج عُطّل بسبب مخالفة سياسة المحتوى.14 وفي المقابل، تظهر صفحة نموذج آخر للشركة، موصوف بأنه أزيل منه سلوك الرفض، ضمن نتائج البحث المتاحة.
11 ويستحق هذا التباين التوضيح، لكنه لا يثبت أن المستودعين متطابقان في القدرات أو النية أو الوضع من ناحية السياسات. كما أن المقتطف المتاح من الصفحة المعطّلة لا يشرح الأساس المحدد للقرار.
14
لماذا لا تكفي الأسماء والصفحات؟
قد يشير اسم المستودع أو وصف مطوّره إلى الاستخدام المقصود، لكنه لا يعادل تقييماً للأداء. وبالمثل، فإن الادعاء بإزالة سلوك الرفض لا يثبت أن النموذج قادر على إنجاز كل مهمة ضارة يُطلب منه تنفيذها. المصادر المتاحة هنا توثق صفحات النماذج وأوصافها، لكنها لا تقدم تقييماً مستقلاً وموحداً لقدرات جميع النماذج التي تحمل تلك الوسوم.1
11
وهذا فارق مهم في ضبط المحتوى. فإذا كان قرار الإنفاذ يعتمد على الغرض المقصود، أو القدرات المثبتة، أو كليهما، فمن المفيد أن تشرح المنصة كيف تقيّم هذه العناصر. وقد تساعد التوضيحات العلنية لقرارات الحذف على بيان السياسة التي جرى تجاوزها، فيما يمكن للتقييمات المتسقة أن تميز بين نموذج قلّ فيه الرفض وآخر يُقدَّم صراحةً كأداة للهجمات السيبرانية.
تحدّي الحوكمة
الأدق قراءة الرقم بوصفه مؤشراً إلى انتشار الوسوم التي تصف إزالة حواجز السلامة على المنصة، لا إحصاءً لنماذج ثبت أنها خبيثة.1 وتوضح الحالة أيضاً لماذا لا يمكن الاعتماد على الوسوم وحدها في الإشراف: على المنصات أن تقيّم الغرض من المستودع، والأدلة التي تستند إليها، وكيف تنطبق قواعدها على النماذج ذات الاستخدامات المزدوجة.
إن شرح قرارات الإنفاذ بمزيد من الوضوح، ووضع معايير قابلة للتطبيق بصورة متسقة، من شأنهما تسهيل فحص هذا الحد الفاصل. وما تثبته الأدلة هنا هو وجود تحدٍ حقيقي في ضبط المحتوى؛ لكنها لا تحسم، بمفردها، ما إذا كان ينبغي إزالة كل نموذج خُفّض فيه سلوك الرفض.
Studio Global AI
مواصلة البحث الخاص بك
تتضمن هذه الصفحة إجابة مدعومة بالمصدر يمكنك المتابعة داخل Studio Global.
يسأل الناس أيضا
ما هي الإجابة المختصرة على "ما الذي تكشفه آلاف النماذج التي أزيلت منها ضوابط السلامة؟"؟
أفادت Transformer بأن Hugging Face استضافت في يوليو أكثر من ٦٥٠٠ نموذج موسوم بعبارات مثل «abliterated» و«uncensored» و«heretic».[1]
ما هي النقاط الأساسية التي يجب التحقق منها أولاً؟
أفادت Transformer بأن Hugging Face استضافت في يوليو أكثر من ٦٥٠٠ نموذج موسوم بعبارات مثل «abliterated» و«uncensored» و«heretic».[1] إزالة سلوك الرفض لا تثبت بحد ذاتها أن النموذج قادر على تنفيذ هجوم بعينه، كما أن الوسم وحده لا يكشف مستوى قدراته.
ماذا يجب أن أفعل بعد ذلك في الممارسة العملية؟
تعطيل مستودع Audnai الذي وصف نموذجه بأنه مخصص للهجمات السيبرانية، مقابل بقاء صفحة نموذج آخر للشركة متاحة، يبرز أهمية توضيح حدود تطبيق سياسات المنصة.[11][14]
المصادر
transformernews.aiHugging Face appears to be hosting a load of models that could be used for cyber attacks
huggingface.coaudnai/penclaw-GLM-5.3-abliterated · Hugging Face