اختبارات Qwen تثير أسئلة عن التحيز والرقابة

نموذج Qwen من Alibaba نموذج مفتوح الأوزان يُستخدم في منتجات وخدمات، من بينها شركات غربية مثل Airbnb وUber، بحسب CBS News. لذلك لا تقتصر الأسئلة بشأن إجاباته على دقة روبوت المحادثة؛ فقد يمتد أثر ما يغفله النموذج أو طريقة عرضه للمعلومات إلى المنتجات المبنية عليه. وتشير نتائج Hirundo وفحوص CBS إلى احتمال وجود تحيز سياسي، لكنها لا تثبت أن كل إصدارات Qwen تتصرف بالطريقة نفسها، ولا أن استخدامه يعرّض بيانات الشركات لـAlibaba أو للحكومة الصينية.10

ماذا اختبرت Hirundo، وماذا تعني النتائج؟

تقول Hirundo، وهي شركة ناشئة في مجال الأمن السيبراني، إنها اختبرت Qwen باستخدام 500 مطالبة موزعة على 15 موضوعًا. ونقل موقع Newsmax عن مسؤول تنفيذي في الشركة أن النموذج أظهر رقابة أو تأطيرًا متوافقًا مع الدعاية أو تحيزًا سياسيًا في 89.8% من إجاباته عن أسئلة حساسة سياسيًا.11

هذه النسبة هي نتيجة أبلغت عنها Hirundo، وليست معدلًا أعادت جهة مستقلة التحقق منه على جميع إصدارات Qwen أو أنواع الأسئلة وطرق الاستخدام. كما أنها تجمع بين أنماط مختلفة من الإجابات، مثل المراوغة والتأطير المتوافق مع جهة سياسية والتحيز، ولا تقيس حالات الرفض وحدها.11

ومن الأمثلة التي أوردتها التقارير أسئلة عن أحداث ميدان تيانانمن عام 1989 واحتجاجات هونغ كونغ عام 2019. ووفقًا لما نُشر عن نتائج Hirundo، تضمنت الإجابات حالات لم يؤكد فيها النموذج وقوع أحداث أو لم يعترف بها؛ كما سلطت تغطية CBS الضوء على إجابات Qwen بشأن هونغ كونغ وموضوعات خلافية أخرى.1115

ماذا أضافت فحوص CBS؟

طرحت CBS News أسئلة على Qwen بصورة منفصلة، وأفادت بأنها رصدت إجابات مقلقة في موضوعات حساسة. وتقدم هذه الفحوص مثالًا إضافيًا على السلوك الذي وصفته Hirundo، لكنها تظل اختبارات محدودة لأسئلة بعينها، ولا تثبت أن كل نسخة من Qwen أو كل طريقة لنشره ستنتج الإجابات نفسها.1015

وهنا فرق مهم: قد يتجنب النموذج موضوعًا، أو يكرر صياغة منحازة سياسيًا، أو يقدم إجابة غير دقيقة، من دون أن يرفض الإجابة صراحة. لذلك فإن الاكتفاء بالتحقق مما إذا كان يقول «لا أستطيع الإجابة» قد لا يكشف أشكالًا أخرى من الحذف أو التحيز.11

لماذا يهم ذلك الشركات، وما الذي لا تثبته الاختبارات؟

أفادت CBS بأن Qwen تجاوز ثلاثة مليارات عملية تنزيل، وأن شركات من بينها Airbnb وUber تستخدمه.10 وإذا أدمجت شركة نموذجًا في أدوات داخلية أو مزايا موجهة للعملاء، فقد تؤثر إجاباته فيما يراه المستخدمون. وهذا سبب لاختبار النسخة وطريقة النشر المحددتين اللتين تنوي الشركة استخدامهما؛ لكنه لا يعني أن نتائج التحيز المعلنة تنطبق على كل منتج يستخدم Qwen.

وينبغي أيضًا الفصل بين أسئلة التحيز السياسي وأسئلة الأمن. فقد فتحت لجان في مجلس النواب الأميركي تحقيقًا في مخاطر الأمن القومي والأمن السيبراني المرتبطة بنماذج الذكاء الاصطناعي المطوّرة في الصين، بما فيها الاستخدام المبلغ عنه لـQwen لدى Airbnb. لكن فتح تحقيق أو إثارة مخاوف لا يُعد دليلًا على أن Qwen تسبب في اختراق للبيانات.

يمكن تشغيل النماذج مفتوحة الأوزان على البنية التحتية الخاصة بالشركة، ما قد يمنحها تحكمًا أكبر في البيانات الحساسة مقارنة بإرسالها إلى مزود خارجي. لكن اختيار طريقة التشغيل هذه لا يزيل، بحد ذاته، أي تحيز قد يكون متأصلًا في إجابات النموذج؛ كما تعتمد التفاصيل على الإعداد الفعلي لكل شركة.

ادعاء Hirundo بشأن الحل يحتاج إلى تقييم

تقول Hirundo إنها وجدت طريقة لإزالة تحيز Qwen عبر تعديل الأوزان الداخلية للنموذج، وأفادت CBS بأن الشركة تعتزم إصدار نسخة تصفها بأنها «مُكيّفة للغرب».10 وهذا ادعاء بشأن حل تقني مقترح، وليس دليلًا مستقلًا على أن التعديل ينجح باستمرار عبر الموضوعات وإصدارات النموذج واللغات والمهام العملية للشركات.

بالنسبة إلى المؤسسات التي تدرس استخدام Qwen، تتمثل الخطوة العملية في تقييم النموذج وطريقة النشر المحددين اللذين تنوي استخدامهما. يمكن اختبار أسئلة روتينية وحساسة، والتحقق مما إذا كانت الإجابات تحذف معلومات مهمة أو تحرّفها، إلى جانب مراجعة تدفق البيانات وضوابط الأمن بصورة منفصلة. النتائج المعلنة تستدعي التدقيق، لكنها لا تحسم أيًا من المسألتين في كل استخدام للنموذج.