كيف اختبرت Google DeepMind نموذج Gemini من دون كشف النموذج أو أسئلة الاختبار؟

قدّمت Google DeepMind تجربة جديدة لاختبار نموذج ذكاء اصطناعي متقدم ومملوك من دون أن يرى صاحب النموذج أسئلة التقييم السرية، ومن دون أن يحصل المقيّمون الخارجيون على أوزان النموذج. وأُجريت التجربة على Gemini 2.5 Flash-Lite بالتعاون مع معهد سنغافورة لسلامة الذكاء الاصطناعي، وOpenMined، ومعهد AVERI، وMLCommons. ووصفت Google التجربة بأنها أول تقييم مزدوج التعمية لنموذج ذكاء اصطناعي مملوك من الفئة المتقدمة. 1213

الفكرة الأساسية تشبه وضع طرفين يملكان معلومات حساسة داخل صندوق محكم الإغلاق: تُنفَّذ عملية التقييم داخله، لكن لا يحصل أي طرف على سر الطرف الآخر بصورته المكشوفة.

ما الذي اختبرته تجربة Gemini؟

استخدمت التجربة عينة خاصة وصغيرة من عائلة معايير السلامة AILuminate التابعة لـMLCommons. وقالت AVERI إن أسئلة الاختبار لم تكن قد كُشفت سابقاً لـGoogle DeepMind، وإنها استُخدمت لفحص سلوك النموذج في مجالات تشمل المساعدة على شن هجمات سيبرانية، والمخاطر الكيميائية والبيولوجية، وخطاب الكراهية، وإيذاء النفس، واستدراج النموذج إلى التحريض على جرائم عنيفة. 1

وظلت مواد الاختبار سرية طوال العملية. فقد شفّرت AVERI الأسئلة، ثم شغّلت البيئة المحمية النموذجَ وبرنامجَ التقييم، وبعد ذلك فُك تشفير المخرجات وتقييمها وفق المعايير المتفق عليها. ولم يكن الهدف نشر قائمة ترتيب عامة للنماذج؛ لذلك لم تُنشر درجات رئيسية أو أسئلة الاختبار الأصلية. 1

كيف عمل نظام «التقييم مزدوج التعمية»؟

نُفّذت العملية داخل Confidential Space، وهي بيئة للحوسبة السرية ضمن Google Cloud Confidential Computing، وعلى آلة افتراضية من طراز A3 Confidential VM. ووفق التقرير التقني، استخدمت Intel TDX لتشفير ذاكرة المضيف وعزلها، بينما حمت وحدة معالجة الرسوميات NVIDIA H100 Confidential أوزان النموذج في ذاكرتها عبر تشفير قائم على العتاد. كما نُقلت أسئلة المقيّمين وأصول النموذج إلى البيئة المحمية عبر اتصالات مشفّرة. 13

وشمل التصميم كذلك مسارات بيانات مشفّرة، وجدران حماية عتادية، ودورة حياة مؤقتة للبيئة المعزولة، وطبقة سياسات PySyft من OpenMined. ووفق هذا الترتيب، لا تجتمع أوزان النموذج، وكود الاستدلال، والأسئلة، وكود التقييم إلا داخل البيئة المعتمدة، حيث تُنفَّذ العملية المحددة مسبقاً وتُعاد مخرجات محدودة فقط. 13

لماذا كان التحقق عن بُعد مهماً؟

لا يكفي التشفير وحده لإخبار المشاركين بالبرمجيات التي تعمل فعلياً داخل البيئة. وهنا يأتي دور «التحقق عن بُعد» (Remote Attestation). فقبل إرسال أصولهم المحمية، كان بإمكان Google والمقيّمين فحص عبء العمل المعلن والتحقق من شهادة تشفيرية تحدد العتاد وإعدادات البيئة المعزولة.

وبعد إتمام هذا التحقق فقط، أُتيحت الأسئلة المشفّرة وأصول النموذج للبيئة المحمية. وفي نهاية العملية، أعادت البيئة مخرجات التقييم المسموح بها ثم أُغلقت. وضمن نموذج الثقة المقصود، لم تستطع Google قراءة الأسئلة داخل البيئة، ولم يتمكن المقيّمون الخارجيون من استخراج أوزان النموذج. وهذا أقوى من الاكتفاء بتعهد تعاقدي بعدم تسجيل البيانات أو إعادة استخدامها، لكنه لا يلغي كل افتراضات الثقة. 13

ما المشكلة التي تحاول الطريقة حلها؟

يُعد تلوث المعايير من المشكلات المستمرة في تقييم الذكاء الاصطناعي. فاختبار ما يصبح أقل دلالة إذا كان النموذج قد رأى أسئلته أثناء التدريب أو الضبط الدقيق أو اختبارات سابقة. وتقول MLCommons إن المعايير الموثوقة تحتاج إلى بيانات نظيفة، وسجل موثق لمصدرها، وأخذ عينات دقيق، وشفافية كافية لفهم كيفية إنتاج النتائج. 2024

وتقدم التقييمات مزدوجة التعمية خياراً ثالثاً بين ترتيبين تقليديين، لكل منهما مشكلة:

• تسليم الأسئلة إلى مطوّر النموذج: يجعل التقييم أسهل من الناحية التشغيلية، لكنه قد يكشف مواد الاختبار المحجوزة ويزيد خطر تسربها إلى التدريب أو الاختبارات اللاحقة.
• تسليم أوزان النموذج إلى المقيّمين: يحمي سرية المعيار، لكنه غير مناسب عادةً للنماذج المتقدمة المملوكة بسبب القيمة التجارية والحساسية الأمنية للأوزان.
• استخدام بيئة محمية: يلتقي النموذج والمعيار داخل بيئة محمية عتادياً، من دون أن يحصل أي طرف على أصل الطرف الآخر بصورته المكشوفة.

وبذلك، تُظهر التجربة آلية ممكنة للحفاظ على السرية من الجانبين مع السماح بإجراء تقييم خارجي. لكنها لا تثبت وحدها أن استنتاجات السلامة كاملة أو حاسمة بصورة مستقلة.

حدود مهمة للتجربة

رغم أهميتها التقنية، كانت هذه تجربة لإثبات المنهج وليست دليلاً مستقلاً على أن نتائج سلامة Gemini نهائية أو قاطعة.

أولاً، استطاع المقيّمون التحقق من عبء العمل المعلن وواجهة النموذج، لكنهم لم يتمكنوا من فحص أوزان Google المملوكة أو تنفيذ الاستدلال بصورة مستقلة. لذلك بقيت قدرتهم محدودة على تدقيق ما إذا كان وقت التشغيل يتصرف في كل جانب بالطريقة المقصودة. 13

ثانياً، لم تكن البيئة قابلة لإعادة الإنتاج بصورة مستقلة من البداية إلى النهاية. فقد ظل نشر Confidential Space والبنية السحابية التشغيلية تحت سيطرة Google، بدلاً من أن يعيد طرف غير تابع بناءها وتشغيلها. كما ظل مسار التحقق معتمداً على عتاد Google Cloud وبرمجياته الثابتة وأنظمة تقديم الخدمة وبنية التحقق الخاصة به. ويُعد التحقق المدعوم بالعتاد أقوى من وعد تعاقدي بعدم التسجيل، لكنه لا يلغي الاعتماد على مزود السحابة وسلسلة توريد العتاد والبنية التي تصدر شهادات التحقق. 13

ثالثاً، لم تُنشر الأسئلة الخاصة ولا النتائج الرقمية. ويساعد إبقاء الأسئلة سرية في الحفاظ على قيمتها للاختبارات المستقبلية، لكنه يحد أيضاً من التدقيق العام، والمقارنة بين النماذج، والتحقق المستقل من النتائج الموضوعية. وتصف AVERI العمل بأنه تقييم نوعي وقياس كمي محدود النطاق، وليس نتيجة معيار عامة كاملة. 1

لماذا لا يُعد هذا معياراً صناعياً بعد؟

تحل الأجهزة الآمنة جزءاً واحداً فقط من مشكلة تقييم الذكاء الاصطناعي. ولكي يصبح الاختبار مزدوج التعمية ممارسة مستقرة، يجب أن تنضج البنية المحيطة به أيضاً.

الضمانات القانونية والمؤسسية: ينبغي تحديد قواعد واضحة للتعامل مع البيانات، والمخرجات المسموح بها، والإفصاح، والمسؤولية، وحقوق الوصول، خصوصاً عندما تتناول الاختبارات قدرات خطرة.

إدارة المعايير: يجب توثيق مصدر الأسئلة، وطريقة أخذ العينات، وآليات التصنيف، والقيود، وإجراءات تحديث المواد ومراقبة تلوثها. وتؤكد MLCommons أن المعيار لا يصبح موثوقاً لمجرد أن بياناته سرية؛ بل يجب أن تكون طريقة بنائه وصيانته قابلة للدفاع عنها. 2025

إعادة الإنتاج والحوكمة المستقلة: يحتاج أطراف خارج مزود النموذج ومشغّل السحابة إلى إمكانية التحقق، بالقدر المناسب، من البناء، وسلسلة التحقق، وسياسات التنفيذ، والنتائج المعلنة.

قابلية التوسع: ينبغي أن يعمل أي معيار عملي مع مطورين وبنى نماذج وبيئات سحابية ومقيّمين وأنواع معايير مختلفة، ومع إصدارات متكررة للنماذج، لا أن ينجح فقط في تعاون خاص يعتمد على منظومة عتاد واحدة.

في المحصلة، تمثل تجربة Google DeepMind مع Gemini خطوة في بناء بنية تحتية لتقييم أكثر استقلالاً وسرية، وليست إجابة نهائية عن سؤال الثقة في معايير الذكاء الاصطناعي. فهي توضح كيف يمكن للحوسبة السرية تقليل التعارض بين حماية أسئلة الاختبار وحماية النماذج المملوكة. لكن تحولها إلى دليل موثوق على نطاق الصناعة سيتوقف على الرقابة المستقلة، وحوكمة المعايير، والحماية القانونية، وقابلية إعادة الإنتاج، والجدوى التشغيلية—وليس على تشفير البيئة المعزولة وحده. 1320