Private Safety Processing من OpenAI: رصد إساءة الاستخدام مع إبقاء بيانات العملاء خارج متناول الشركة

تختبر OpenAI بنية أمان جديدة تحمل اسم Private Safety Processing، صُممت لعملاء واجهة برمجة التطبيقات (API) المؤهلين لاستخدام سياسة Zero Data Retention (ZDR)، أي عدم الاحتفاظ ببيانات العملاء بعد معالجة الطلب. الفكرة الأساسية: اكتشاف أنماط إساءة استخدام لا تظهر إلا عند جمع عدة تفاعلات مترابطة، من دون منح موظفي OpenAI وصولاً افتراضياً إلى محتوى العميل نفسه.

لماذا تحتاج أنظمة الأمان إلى رؤية أوسع؟

مع انتقال نماذج الذكاء الاصطناعي إلى تنفيذ مهام أطول وأكثر استقلالية، لم يعد الطلب الضار بالضرورة واضحاً في رسالة واحدة. فقد يُقسّم المستخدم هدفاً خطراً بين حسابات أو جلسات أو طلبات متعددة، بحيث يبدو كل تفاعل منفرداً غير حاسم.

وتشمل الأمثلة المحتملة محاولات الالتفاف المنسقة على حواجز الأمان، أو توزيع خطوات تطوير برمجية خبيثة على مجموعة من الطلبات. لذلك تريد OpenAI توسيع نطاق الحماية من فحص كل طلب ورد على حدة إلى البحث عن صلات وأنماط تمتد عبر تفاعلات متعددة.

كيف يعمل Private Safety Processing؟

كانت أنظمة الحماية المتوافقة مع ZDR تقيّم التفاعلات بصورة منفردة. أما المعاينة الجديدة فتستخدم أنظمة آلية لتحليل العلاقات بين التفاعلات المرتبطة، بحثاً عن مؤشرات على إساءة استخدام محتملة.

والتمييز الأهم هنا هو بين تحليل البيانات والاحتفاظ بها. فالنظام مصمم لتحليل النشاط المرتبط لأغراض السلامة، بينما تقول OpenAI إن المطالبات والردود الأساسية لا تُكشف لموظفيها عبر هذه العملية.

وتصف الشركة مسارين محتملين للتحكم في البيانات ضمن عمليات نشر ZDR:

• يمكن أن يبقى محتوى العميل على بنية تحتية يسيطر عليها العميل نفسه.
• أو يمكن تخزين المحتوى على بنية OpenAI التحتية مع تشفيره بمفاتيح يتحكم فيها العميل، لا موظفو OpenAI.

وفي كلتا الحالتين، تستطيع الأنظمة الآلية رصد إساءة الاستخدام المحتملة وإرجاع إشارة أمان محدودة، من دون كشف المطالبات أو الردود الأساسية.

ماذا تتلقى OpenAI عند اكتشاف تهديد؟

بحسب وصف المعاينة، لا تتلقى OpenAI سجل المحادثة، بل تنبيهاً ضيق النطاق يحدد نوع النشاط محل الاشتباه. ويعرض مخطط النظام لدى الشركة المخرج على شكل فئة للتنبيه ومستوى للخطورة، لا على شكل نص المحادثة نفسها.

عملياً، تسير العملية على النحو الآتي:

1. تفحص الأنظمة الآلية التفاعلات المرتبطة بحثاً عن نمط ضار محتمل.
2. إذا تجاوز النمط عتبة معينة من المخاطر، ينشئ النظام تصنيفاً أمنياً محدوداً.
3. تتلقى OpenAI هذا التصنيف بدلاً من المطالبات والردود أو نص المحادثة.
4. يحتفظ العميل بالقدرة على فحص النشاط الأصلي داخل بيئته الخاصة.

وبما أن الخدمة لا تزال في مرحلة المعاينة، فإن تفاصيل التنفيذ، وعتبات الكشف، وإجراءات التعامل مع الإنذارات الخاطئة ستكون عوامل مهمة أمام مشتري الخدمات المؤسسية. وقالت OpenAI إنها تخطط لطرح أوسع ونشر ورقة تقنية بيضاء في سبتمبر 2026.

لماذا لا يستطيع موظفو OpenAI عادةً قراءة محادثة أُشير إليها؟

لا يؤدي ظهور إشارة أمان تلقائياً إلى منح موظفي OpenAI حق الاطلاع على المحادثة. فوفق ترتيبات ZDR الموصوفة، تقول الشركة إنها لا تحتفظ بمحتوى العميل، كما أنها لا تملك مفاتيح فك التشفير التي يتحكم فيها العميل في سيناريو التخزين على بنية OpenAI التحتية.

ويستطيع العميل، إذا أراد، مشاركة مواد ذات صلة للطعن في إجراء إنفاذ، أو توضيح استخدام مشروع، أو المساعدة في التحقيق في إساءة استخدام مؤكدة. لكن من دون هذه المشاركة الطوعية، تظل الإشارة المرسلة إلى OpenAI مقتصرة على معلومات أمان مولدة آلياً، ولا تفتح باب الوصول إلى المحادثة كاملة.

ينشئ ذلك فصلاً بين الأدلة التي يسيطر عليها العميل وإشارات المخاطر التي تصل إلى مزود الخدمة. وقد يقلل هذا الفصل كمية المواد الحساسة التي يتعين على المزود التعامل معها، مع الإبقاء على قدرة رصد أنماط قد تفلت من مرشح يفحص الطلبات واحداً تلو الآخر.

من يختبر المعاينة؟ ومتى تتوافر على نطاق أوسع؟

ذكرت OpenAI أن Glean وDatabricks وAbridge وMicrosoft من بين العملاء الذين يساعدون في تشكيل المعاينة أو اختبارها. كما أشارت تقارير أخرى إلى Microsoft وDatabricks ضمن العملاء الأوائل المشاركين في الاختبار.

ولا تُقدَّم الميزة بوصفها إعداداً عاماً للمستهلكين، بل كخيار موجه إلى عمليات نشر API المؤسسية المؤهلة لـZDR، حيث تحتاج المؤسسات إلى استخدام نماذج متقدمة مع إبقاء السيطرة الصارمة على المطالبات والردود.

OpenAI وAnthropic: مقايضتان مختلفتان في السلامة والخصوصية

تضع OpenAI أولوية على اكتشاف إساءة الاستخدام مع تقليص وصول مزود الخدمة إلى محتوى العميل. أما سياسة Anthropic الخاصة بـالنماذج المشمولة فتتخذ مقايضة تشغيلية مختلفة: إذ تُحتفظ بالمطالبات والردود المرسلة إلى هذه النماذج لمدة 30 يوماً لدعم أعمال السلامة، مع إمكان إخضاعها لمراجعة بشرية منضبطة.

وتوضح وثائق Anthropic أن هذا الشرط ينطبق على النماذج المشمولة، بما فيها نماذج فئة Mythos، وأنها غير متاحة ضمن ترتيبات ZDR. كما تقول الشركة إن البيانات المحتفظ بها لا تُستخدم لتدريب النماذج من دون إذن صريح من العميل.

والفارق العملي هو الآتي:

• Private Safety Processing لدى OpenAI: تحليل آلي لتفاعلات مترابطة، مع إرسال إشارة أمان محدودة إلى OpenAI بدلاً من المحتوى الأصلي، وفق وصف المعاينة.
• سياسة Anthropic للنماذج المشمولة: الاحتفاظ بالمطالبات والردود لمدة 30 يوماً لدعم أعمال السلامة والمراجعة المنضبطة.

لا يلغي أي من النهجين حاجة المؤسسات إلى الحوكمة. فعلى المشتري التحقق من أهلية النموذج والبيئة التشغيلية لـZDR، ومكان معالجة البيانات، ومن يملك مفاتيح التشفير، وحقول تنبيه الأمان، وآلية الطعن، وشروط الاحتفاظ والمراجعة، قبل تمرير أعباء عمل حساسة إلى أي مزود.

لماذا يهم هذا الاختلاف للقطاعات المنظمة؟

تتعامل المؤسسات المالية والصحية والقانونية غالباً مع معلومات تخضع للسرية التعاقدية، وضوابط الخصوصية، والواجبات المهنية، أو المتطلبات الخاصة بكل قطاع. ولذلك قد يؤثر احتفاظ المزود بالمطالبات وإمكان مراجعتها في تقييم تقليل البيانات، والموافقات الداخلية، وتصميم عمليات التدقيق، وتقييم مخاطر الموردين.

ولا يعني ذلك أن سياسة الاحتفاظ لمدة 30 يوماً محظورة تلقائياً، كما لا يعني أن ZDR وحدها تجعل أي عملية نشر متوافقة مع جميع القوانين. لكنه يعني أن التصميمين يفرضان أسئلة مختلفة على فرق الأمن والشؤون القانونية. فشروط Anthropic تتطلب احتساب احتفاظ المزود وإمكان المراجعة، بينما تقدم OpenAI ZDR وPrivate Safety Processing على أساس الحد من وصول المزود إلى المحتوى نفسه.

ومن أبرز الأسئلة العملية للمؤسسة:

• هل النموذج وبيئة النشر مؤهلان لـZDR؟
• أين تُعالج البيانات، ومن يسيطر على مفاتيح التشفير إذا جرى تخزينها؟
• ما الحقول التي تظهر تحديداً في تنبيه الأمان؟
• هل يستطيع العميل تدقيق الإشارة أو الاعتراض عليها من دون كشف المحادثة كاملة؟
• ماذا يحدث عندما يشتبه المزود في إساءة استخدام خطيرة؟
• هل تتسق شروط الاحتفاظ والمراجعة مع الالتزامات التعاقدية والتنظيمية للمؤسسة؟

الخصوصية تتحول إلى ميزة تنافسية في سوق الذكاء الاصطناعي

تأتي هذه المقارنة في وقت تتنافس فيه OpenAI وAnthropic على العملاء المؤسسيين وعلى ثقة المستثمرين. فقد أفادت تقارير بأن معدل الإيرادات السنوي المتوقع لـAnthropic تجاوز 65 مليار دولار في نهاية يوليو 2026، مقابل نحو 40 مليار دولار لـOpenAI وفق أرقام منسوبة إلى تحديثات للمستثمرين ومصادر مطلعة.

كما ذكرت تقارير أن إيرادات Anthropic الأولية في الربع الثاني من 2026 تجاوزت 11.5 مليار دولار، وأنها تخطت إيرادات OpenAI الفصلية للمرة الأولى، مع بقاء هذه الأرقام تقديرات وبيانات لشركات خاصة وليست نتائج مدققة لشركات مدرجة.

وتحدثت تقارير أخرى عن توقعات مستثمرين بإمكان وصول تقييم Anthropic في طرح عام أولي محتمل إلى تريليوني دولار، لكن ذلك يظل توقعاً وليس تقييماً نهائياً أو حقيقة مثبتة في السوق العامة.

أما فرضية إيداع OpenAI سراً نموذج S-1 في يونيو 2026، فلا تؤكدها الأدلة عالية الجودة المتاحة ضمن هذه المادة؛ إذ ترتبط التقارير المتوفرة عن الإيداع السري بـAnthropic لا بـOpenAI. وبالمثل، ينبغي التعامل مع الحديث عن تباطؤ نمو OpenAI في الربع الثاني بوصفه مقارنة منشورة تحتاج إلى تأكيد من إفصاحات الشركة أو وثائقها الرسمية.

في هذا السياق، لا تبدو الخصوصية مجرد خلاف في سياسة السلامة، بل جزءاً من تصميم المنتج وموقعه التنافسي. تراهن OpenAI على فكرة السلامة من دون وصول المزود إلى المحتوى، بينما تعطي Anthropic أولوية أكبر لإمكان التحقيق المباشر والمحدود زمنياً في إساءة استخدام النماذج الأكثر قدرة.

الخلاصة

تحاول Private Safety Processing حل معضلة واضحة: كيف تكتشف الشركة إساءة استخدام منسقة تمتد عبر جلسات طويلة، من دون أن تطلب من المؤسسات التخلي عن السيطرة على بياناتها؟ إجابة OpenAI الحالية هي إبقاء المحتوى تحت سيطرة العميل أو حمايته بمفاتيح يملكها العميل، واستخدام أنظمة آلية للبحث عن الأنماط، ثم إرسال تصنيف مخاطر محدود إلى الشركة.

أما نموذج Anthropic فيحتفظ بالمطالبات والردود ذات الصلة لفترة محدودة كي يدعم أعمال السلامة والمراجعة المنضبطة، مع تعهد بعدم استخدامها لتدريب النماذج من دون إذن صريح.

وسيحدد مستوى حساسية البيانات، وقدرة المؤسسة على تحمل مخاطر الاحتفاظ، وحاجتها إلى تحقيق مباشر في الحوادث، النهج الأنسب لها. ومن المنتظر أن تكشف الورقة التقنية التي وعدت بها OpenAI والتوسع المرتقب في الإتاحة ما إذا كانت هذه الوعود المتعلقة بالخصوصية تصمد في عمليات النشر الفعلية.