Sampura Research: مشروع بتمويل 11 مليون دولار لإبقاء الإنسان في دائرة الإشراف على الذكاء الاصطناعي

ما هي Sampura Research؟

Sampura Research مؤسسة غير ربحية متخصصة في سلامة الذكاء الاصطناعي، تتخذ من لندن مقراً لها. أسسها الباحثان السابقان في Google DeepMind، Rishub Jain وJosh Jacob، بعد مغادرتهما المختبر للعمل على ما يسمّيانه «التكامل بين الإنسان والذكاء الاصطناعي من أجل الإشراف القابل للتوسع».

وبحسب إعلان المؤسسة، أُطلق المشروع علناً في 25 أغسطس 2026، وليس في 24 أغسطس كما ورد في صياغة السؤال. كما حصل على منحة أولية بقيمة 11 مليون دولار من مؤسسة Coefficient Giving؛ منها 7 ملايين دولار للسنة الأولى، مع تعهّد إضافي بقيمة 4 ملايين دولار. ولا يقدّم الإعلان Alex Adams بوصفه مؤسساً، بل يشير إلى مساهمته بملاحظات على الإعلان. 4

لماذا لا تكتفي المؤسسة بأن يراقب الذكاء الاصطناعي الذكاء الاصطناعي؟

تعتمد شركات ومختبرات الذكاء الاصطناعي بصورة متزايدة على نماذج لغوية كبيرة لتقييم مخرجات نماذج أخرى. ويُنظر إلى هذا النهج، المعروف باسم الإشراف القابل للتوسع، باعتباره أسرع وأقل تكلفة من مراجعة البشر لكل إجابة أو تصرف.

لكن Sampura ترى أن هذه السرعة لا تحل المشكلة بالكامل. فالنماذج قد تعاني إخفاقات «متعرجة» أو غير منتظمة؛ أي إنها قد تكون ممتازة في اكتشاف نوع من الأخطاء، وعاجزة تماماً عن ملاحظة نوع آخر. كما أن الاعتماد على نموذج ليحكم على نموذج آخر قد يضعف استقلالية التقييم، خصوصاً إذا تعلّم النموذج الخاضع للمراقبة استغلال نقاط ضعف «الحَكَم» أو التحايل عليه.

وتقول المؤسسة إن البشر ما زالوا يحتفظون بمزايا يصعب استبدالها، منها:

• اكتشاف أنماط جديدة وغير متوقعة من فشل النماذج.
• توفير فحص مستقل يقلل خطر تواطؤ النموذج والمقيّم أو توافقهما على نتيجة مضللة.
• مناقشة القيم والمعايير الإنسانية الجديدة عندما تتغير الحالات أو لا تكون الإجابة الصحيحة محددة مسبقاً. 4

الفكرة إذن ليست إعادة البشر إلى مراجعة كل شيء يقدمه الذكاء الاصطناعي، بل استخدامهم في المواضع التي تضيف فيها خبرتهم أكبر قيمة للسلامة.

كيف يعمل «الحَكَم» الهجين؟

تستخدم Sampura كلمة «حَكَم» لوصف إنسان أو نظام ذكاء اصطناعي أو مزيج منهما، يتولى تقييم ما إذا كانت إجابة نموذج أو مسار تصرف وكيل ذكي صحيحة ومتوافقة مع معايير السلامة.

وتقترح المؤسسة عدة آليات لهذا النظام الهجين:

1. قياس درجة ثقة المقيّم الآلي: عندما يكون النموذج غير واثق من حكمه، تُحال الحالة إلى إنسان.
2. توجيه المهام: توزيع المهام أو الأجزاء الفرعية بينها وبين البشر وفقاً لصعوبة الحالة وأهميتها.
3. مساعدة بشرية متخصصة: تزويد المراجعين بأدوات ذكاء اصطناعي تناسب المهمة بدلاً من استبدالهم بالكامل.
4. تحديد مستوى التدخل: توجيه الوقت والخبرة البشرية إلى الحالات التي تحمل أكبر قيمة محتملة للسلامة.

هذا التصور يشبه فريقاً يعمل فيه الذكاء الاصطناعي كأداة فرز وتحليل، بينما يحتفظ الإنسان بحق التدخل والحسم في الحالات الحساسة أو الغامضة.

منصة تصنيف وأكثر من 20 مجموعة بيانات

تقول Sampura إن برنامجها البحثي الأول، ومدته ستة أشهر، سيركز على بناء «حُكّام» أفضل عبر منصة تصنيف عامة ومستمرة التحديث. وستضم المنصة أكثر من 20 مجموعة بيانات فرعية، من بينها اختبارات لاكتشاف الخداع، والتحيز الثقافي، وتصرفات الوكلاء غير الآمنة. 4

ولا تريد المؤسسة اختبار المقيّمين على أمثلة ثابتة فقط. بل تخطط أيضاً لدراسة ما يحدث عندما يستطيع النموذج الخاضع للإشراف تحسين أدائه بهدف استغلال المقيّم خلال التدريب بالتعزيز. ويُعد ذلك اختباراً مهماً لما يعرف بـ القرصنة على المكافآت، أي تعلّم النظام تحقيق المؤشر الذي يكافَأ عليه بدلاً من تحقيق الهدف الحقيقي للسلامة.

وتتعهد Sampura بإتاحة الأوراق البحثية والشفرة البرمجية ومجموعات البيانات ولوحات التصنيف بصورة عامة. وإذا نُفذ ذلك كما هو معلن، فقد يساعد الباحثين خارج المؤسسة على مقارنة طرق التقييم وإعادة اختبارها.

من تقييم الإجابات إلى توقع الأضرار

لا يقتصر نطاق البحث المعلن على سيناريوهات «الذكاء الاصطناعي المتمرد». فهو يشمل أيضاً أضراراً أكثر ارتباطاً بالاستخدام اليومي والأنظمة الوكيلة، مثل:

• التحيز.
• التفاعلات غير الآمنة مع الأطفال.
• الاعتماد المفرط على تطبيقات الذكاء الاصطناعي المصممة بوصفها رفقاء أو مرافقين.
• السلوكيات غير الآمنة التي قد تظهر عندما تتولى الأنظمة تنفيذ مهام متعددة الخطوات.

وتعتزم المؤسسة لاحقاً الانتقال من تقييم المخرجات وحدها إلى المساعدة في إنشاء التعليمات ومعايير التقييم وحالات الاختبار، ثم تقييم تلك العناصر نفسها. وقد يساعد هذا المسار على اكتشاف نقاط الضعف قبل ظهورها في الاستخدام الفعلي، لكنه يظل برنامجاً بحثياً معلناً، لا دليلاً على امتلاك قدرة مثبتة على احتواء النماذج المتقدمة. 4

كيف ستعرف Sampura أن فكرتها نجحت؟

تطرح المؤسسة أسئلة عملية تتجاوز بناء لوحة تصنيف مرتفعة النتائج. فهي تريد قياس ما إذا كان تحسين «الحَكَم» يقلل فعلاً من القرصنة على المكافآت، ومتى ينبغي إعادة تدريب المقيّمين مع تغيّر النماذج، وكيف يمكن تحقيق توازن بين ثلاثة عوامل متنافسة:

• تكلفة التدخل البشري.
• سرعة التقييم.
• جودة الحكم وسلامته.

وقد تبدأ Sampura باختبار طرق النشر عبر مقيّمين من جهات خارجية، قبل السعي إلى استخدام هذه الأنظمة في تدريب النماذج المتقدمة وتقييمها ومراقبتها داخل المختبرات الرائدة. 4

لماذا يمثل التوظيف تحدياً؟

تأتي خطة Sampura لتوظيف باحثين وتقنيين مؤسسين في لندن في وقت يعاني فيه مجال تقييم الذكاء الاصطناعي نقصاً في أصحاب الخبرة. فعلى سبيل المثال، يعرض مختبر METR وظيفة في تنفيذ التقييمات براتب أساسي سنوي يتراوح بين 285,548 و503,116 دولاراً، مع إمكانية تجاوز ذلك للمرشحين الاستثنائيين. 9

وهذا يوضح أن المشكلة ليست التمويل وحده؛ فالعثور على أشخاص قادرين على تصميم اختبارات قوية وتشغيلها وتفسير نتائجها أصبح عنق زجاجة للمؤسسات المستقلة.

لكن لا تتوافر، ضمن المصادر الأولية المتاحة هنا، أدلة كافية على الادعاء المحدد بأن Sampura ستوظف «ستة أشخاص على الأقل» برواتب تتراوح بين 100 ألف و290 ألف جنيه إسترليني. إعلان المؤسسة يذكر فقط أنها توظف موظفين تقنيين مؤسسين في لندن. 4

أين يلتقي المشروع مع الدعوات إلى إبطاء سباق الذكاء الاصطناعي؟

في يوليو 2026، وقّع أكثر من 1,100 من العاملين في مجال الذكاء الاصطناعي المتقدم رسالة دعت إلى تطوير قدرة دولية على إبطاء التطوير إذا أصبح أسرع من قدرة البشر على الإشراف الآمن. 1

يمكن أن توفر Sampura جزءاً تقنياً من هذه المعادلة: تقييمات أكثر مصداقية وقابلية للتدقيق، تساعد على معرفة ما إذا كانت النماذج تتجاوز حدود السلامة أو إذا كانت أدوات المراقبة نفسها تفشل.

لكن المؤسسة لا تستطيع وحدها إنشاء سلطة قانونية أو تنسيق دولي أو ضمان الوصول إلى النماذج أو فرض قرارات الإيقاف. لذلك فإن عملها، في أفضل الأحوال، مكمّل للحوكمة وليس بديلاً عنها.

ماذا عن مغادرة Jain لـ DeepMind؟

جاء خروج Jain وسط تقارير عن سلسلة أوسع من مغادرات الباحثين في Google DeepMind. غير أن صيغة «مغادرة خمسة باحثين أساسيين خلال ستة أيام» تستند، ضمن المواد المتاحة، إلى تقارير ثانوية منخفضة الجودة نسبياً، ولذلك لا ينبغي التعامل معها كحقيقة مثبتة بصورة مستقلة. 5

وينطبق الأمر نفسه على العبارة الأوسع القائلة إن شركات الذكاء الاصطناعي «لا تستطيع بعد احتواء ما بنته». الأدق هو القول إن الإشراف القوي على النماذج الأكثر قدرة لم يُثبت بعد، وإن المواهب المتخصصة في التقييم نادرة، وإن Sampura تحاول جعل المشاركة البشرية أكثر قابلية للتوسع وأكثر صموداً أمام التحايل.

الخلاصة

لا تقترح Sampura إعادة عقارب الساعة إلى الوراء أو وضع الإنسان في كل خطوة من خطوات تشغيل الذكاء الاصطناعي. رهانها أكثر تحديداً: استخدام الذكاء الاصطناعي لتوسيع قدرة المراجعين البشر، مع إبقاء البشر داخل الحلقة عندما تكون المخاطر أو درجة عدم اليقين مرتفعة.

نجاح هذا النموذج سيتوقف على ما إذا كانت الاختبارات تقيس السلامة فعلاً، وما إذا كانت الأنظمة الهجينة تصمد أمام محاولات التحايل، وما إذا أمكن نشرها بتكلفة وسرعة تناسبان المختبرات التي تطور النماذج المتقدمة. وحتى ذلك الحين، تظل Sampura محاولة بحثية واعدة لمعالجة فجوة حقيقية، لا برهاناً على أن مشكلة الإشراف على الذكاء الاصطناعي قد حُلّت.