Sampura Research تراهن على رقابة بشرية-آلية للذكاء الاصطناعي

السؤال الذي تحاول Sampura الإجابة عنه

تعمل Sampura Research، وهي منظمة غير ربحية مقرها لندن ومتخصصة في سلامة الذكاء الاصطناعي، على سؤال عملي تزداد أهميته مع تنامي قدرات النماذج: من الذي ينبغي أن يحكم على ما إذا كان نظام الذكاء الاصطناعي يتصرف بصورة صحيحة وآمنة؟

إجابة المنظمة لا تتمثل في إبعاد البشر عن عملية الرقابة، بل في تصميم أنظمة يتقاسم فيها الإنسان والآلة مسؤولية التقييم. وتقول Sampura إنها حصلت على منحة أولية بقيمة 11 مليون دولار من Coefficient Giving؛ منها 7 ملايين دولار للسنة الأولى، مع تعهّد بتقديم 4 ملايين دولار إضافية. 1

ويحمل إعلان الإطلاق العام تاريخ 25 أغسطس 2026، وليس 24 أغسطس. ويسمي الإعلان ريشوب جاين وجوش جاكوب مؤسسين للمنظمة. أما منشورات سابقة على وسائل التواصل الاجتماعي فتحدثت عن عمل شمل أليكس آدامز، لكنها لا تثبت أن المؤسسين الرسميين الثلاثة هم جاين وجاكوب وآدامز. 112

ماذا تعني Sampura بـ«الحَكَم»؟

في مصطلحات Sampura، يمكن أن يكون الحَكَم شخصًا، أو نموذج ذكاء اصطناعي، أو نظامًا هجينًا يجمع بين الاثنين، ويتولى تقييم ما إذا كان سلوك نظام آخر صحيحًا ومتوافقًا مع معايير السلامة والقيم المحددة.

وقد يقيّم هذا الحَكَم إجابة واحدة، أو محادثة كاملة، أو مسارًا متعدد الخطوات لوكيل ذكي ينفذ مهمة معقدة. 1

تكمن أهمية هذا التعريف في أن الرقابة لا تُعامل دائمًا باعتبارها مشكلة مستقلة عن قدرة النموذج. فقد ينتج النظام إجابات سلسة وينجز مهام صعبة، لكنه في الوقت نفسه يضلل المقيّم، أو يستغل ثغرات في دالة المكافأة، أو يتخذ قرارًا غير آمن خلال سلسلة طويلة من الخطوات.

وتصف Sampura أجندتها البحثية بأنها تكامل بشري-آلي من أجل رقابة قابلة للتوسع: استخدام الأتمتة حيث تكون موثوقة، مع الإبقاء على دور الإنسان عندما يتطلب التقييم فهمًا للسياق أو حكمًا تفسيريًا أو قرارًا مرتبطًا بالقيم. 1

لماذا لا تكتفي برقابة الذكاء الاصطناعي على الذكاء الاصطناعي؟

تبدو الأنظمة الآلية خيارًا جذابًا للمراقبة لأنها أسرع وأقل تكلفة عند تشغيلها على نطاق واسع. لكن Sampura ترى أن السرعة وحدها لا تجعل المقيّم جديرًا بالثقة. ويشير إعلان الإطلاق إلى عدة مخاطر:

• تفاوت القدرات: قد يكون أداء الذكاء الاصطناعي «متعرجًا»؛ قويًا جدًا في بعض المهام وضعيفًا بصورة مفاجئة في مهام أخرى.
• أخطاء متشابهة: قد يرتكب المقيّم البشري والآلي الأخطاء نفسها، خصوصًا عندما يُحسّن النموذج أداءه بهدف اجتياز آلية التقييم.
• التلاعب والتواطؤ: قد يحاول النظام الخاضع للرقابة استغلال المقيّم الآلي أو تضليله أو التأثير فيه.
• المواقف غير المسبوقة: قد تتطلب الحالات الجديدة أو الغامضة مداولات بشرية حول القيم، بدل تطبيق تفضيلات مكتسبة بصورة آلية.

ولا تعني هذه المخاوف أن الحكّام البشر أفضل دائمًا. لكنها تفسر رغبة Sampura في اختبار أي مزيج من التقييم البشري والآلي يصمد تحت الضغط، بدل افتراض أن أحد الطرفين قادر وحده على التعامل مع كل الحالات. 1

كيف ستختبر المنظمة «الحكّام»؟

يركز برنامج Sampura الأول، ومدته ستة أشهر، على إنشاء لوحة قياس متنوعة للحكّام تضم أكثر من 20 مجموعة بيانات فرعية. وتشمل المجالات المزمعة اكتشاف الخداع، والتحيز الثقافي، والأفعال غير الآمنة التي قد تنفذها وكلاء الذكاء الاصطناعي. 1

ولن تقتصر الاختبارات على أسئلة وأجوبة ثابتة. تخطط Sampura أيضًا لسيناريوهات يعمل فيها النموذج الخاضع للإشراف على تحسين أدائه مباشرة ضد الحَكَم أثناء التدريب بالتعزيز. ومن المفترض أن يكشف هذا الإعداد ما إذا كان المقيّم يظل فعالًا عندما تكون لدى النظام الخاضع للتقييم حوافز لاكتشاف نقاط ضعفه واستغلالها. 1

وستقارن الدراسة بين ثلاثة مسارات رئيسية:

1. حكّام بشريون يقدمون التقييم مباشرة.
2. حكّام يعتمدون على الذكاء الاصطناعي فقط ويوفرون سرعة وقابلية توسع أكبر.
3. حكّام هجينون يوزعون مهمة التقييم بين البشر والآلات أو ينسقونها معًا.

ولا يتمثل الهدف في تحقيق نتيجة مرتفعة على معيار ضيق واحد، بل في تطوير حكّام يحافظون على متانتهم عبر مجموعة واسعة من الاختبارات، ويستمرون في العمل حتى مع تحسن النماذج التي يشرفون عليها وقدرتها على استغلال ثغرات التقييم. 1

كيف يمكن أن تبدو الرقابة الهجينة؟

طرحت المنظمة عدة تصورات لدمج الحكم البشري والآلي، منها:

• أن يقدّر نظام الذكاء الاصطناعي مستوى ثقته، ثم يحيل الحالات غير المؤكدة إلى شخص.
• أن يوزع نظام توجيه مهمة الرقابة كاملة على مقيّم بشري أو آلي.
• أن تُجزّأ المهمة المعقدة إلى أجزاء أصغر، ثم تُحال المهام الفرعية إلى البشر أو الآلات بحسب طبيعتها.
• أن توفر الواجهات أدوات تساعد المقيّمين البشر على إنجاز التقييمات الصعبة بسرعة أكبر وباتساق أعلى.

بهذا المنظور، لا تُعامل مشاركة الإنسان كخيار ثنائي: إما حضور كامل أو غياب كامل. فقد تكون بعض الحالات رخيصة وموثوقة عند مراجعتها آليًا، بينما تستحق حالات أخرى اهتمامًا بشريًا أبطأ وأكثر دقة.

وعليه، لا تتمثل المفاضلة الحقيقية في «الإنسان مقابل الذكاء الاصطناعي»، بل في الموازنة بين الدقة والتكلفة والسرعة والقدرة على مقاومة التلاعب المتعمد. 1

ما الذي تخطط له Sampura لاحقًا؟

بعد تطوير حكّام أكثر قوة، تقول Sampura إنها تريد اختبار قدرتهم على الحد من اختراق المكافأة أثناء تدريب النماذج؛ أي أن يتعلم النموذج استغلال معيار المكافأة بدل إنجاز الهدف المقصود فعليًا.

كما تخطط لدراسة مقدار المشاركة البشرية المطلوبة، وكيف ينبغي لأنظمة الرقابة أن تتكيف عندما تتعلم النماذج الأساسية استغلالها، وما إذا كان من الممكن استخدام الحكّام في أكثر من مجرد تصنيف المخرجات. وقد يشمل ذلك صياغة أو تقييم المواصفات والتعليمات ومعايير التقييم وحالات الاختبار المستخدمة في تدريب الأنظمة وتقييمها. 1

وتقول المنظمة إنها ستنشر أعمالها عبر الأوراق البحثية والبرمجيات ومجموعات البيانات ولوحات المتصدرين. 1

لكن المواد المتاحة لا تثبت كل مسميات المشاريع الأكثر تحديدًا المرتبطة بالمنظمة، بما في ذلك مجموعة بيانات تحمل اسم «الأضرار المستقبلية» أو منصة مفتوحة المصدر مؤكدة للتقييم البشري. لذلك ينبغي التعامل مع هذه الأوصاف باعتبارها غير موثقة، لا منتجات معلنة رسميًا.

لماذا يلفت التوظيف الأنظار؟

تقول Sampura إنها توظف أعضاء تقنيين مؤسسين للعمل من لندن. ويتطلب برنامجها خبرات تجمع بين تعلم الآلة، وتصميم التقييمات، والتفاعل بين الإنسان والحاسوب، وعمليات البيانات، والنشر والتشغيل. 1

وكانت منشورات عامة سابقة قد تحدثت عن توظيف ستة باحثين إضافيين على الأقل، ورواتب تتراوح بين 100 ألف و290 ألف جنيه إسترليني، لكن إعلان الإطلاق الصادر عن المنظمة لا يؤكد هذين الرقمين بدقة. 1213

وتتنافس الجهات العاملة في مجال تقييم الذكاء الاصطناعي على مجموعة محدودة من المتخصصين. فعلى سبيل المثال، يعرض إعلان وظيفة لدى METR لمنصب عضو في الفريق التقني، ضمن فريق تنفيذ التقييمات، راتبًا أساسيًا يتراوح بين 285,548 و503,116 دولارًا، مع الإشارة إلى إمكانية دفع مبلغ أكبر للمرشحين ذوي الخبرة الاستثنائية. 18

ويبرز هذا التباين التحدي الذي تواجهه Sampura: فالرقابة الموثوقة تحتاج إلى بحث تقني وتقييم دقيق في العالم الواقعي، بينما تتنافس المنظمات التي تعمل على هذه المشكلات على كثير من الكفاءات نفسها.

جزء من قلق أوسع بشأن سباق الذكاء الاصطناعي

يأتي إطلاق Sampura في وقت تتزايد فيه المخاوف من أن يتقدم تطوير الذكاء الاصطناعي أسرع من أنظمة الرقابة المصممة لمتابعته. ففي يوليو 2026، وقّع أكثر من 1,100 موظف في شركات ذكاء اصطناعي كبرى رسالة مفتوحة طلبوا فيها من الحكومة الأمريكية دعم أدوات تقنية وحوكمية دولية يمكنها إبطاء تطوير الذكاء الاصطناعي المتقدم عمدًا إذا لزم الأمر. ولم تدعُ الرسالة إلى وقف فوري لتطوير الذكاء الاصطناعي. 40

وشهد قطاع الأبحاث أيضًا تحركات كبيرة بين كبار المتخصصين. فقد أفادت رويترز بتغييرات قيادية في قسم الذكاء الاصطناعي لدى Google، وبمغادرة مهندسين وباحثين بارزين إلى شركات ومشروعات ناشئة أخرى. 49 وتوفر هذه التطورات سياقًا لتأسيس Sampura، لكنها لا تثبت أن المنظمة غير الربحية حلت مشكلة السلامة الأساسية.

ما الذي يمكن لـSampura ادعاؤه اليوم؟

تدعم الأدلة الأقوى وصف Sampura بأنها منظمة بحثية في مراحلها المبكرة، تعمل على بناء بنية للقياس واتخاذ القرار في مجال الرقابة على الذكاء الاصطناعي. وقد تصبح معاييرها وأساليب التقييم الهجينة مفيدة لمختبرات الذكاء الاصطناعي والمقيّمين المستقلين والجهات الأخرى التي تختبر سلوك النماذج. 1

لكن هذا يختلف عن إثبات قدرة المنظمة على احتواء الأنظمة المتقدمة. فإسهامها القريب يتمثل في دراسة كيفية تصميم الرقابة واختبارها عندما يكون النموذج الخاضع لها قادرًا على التكيف، وذا قدرة عالية، وربما مدفوعًا بحافز لاجتياز التقييمات بدل الالتزام بالهدف الحقيقي.

رهان Sampura المركزي هو أن تحقيق السلامة على نطاق واسع سيتطلب الأتمتة، لكن ليس أتمتة تلغي البشر من أكثر الأحكام تأثيرًا.