كيف تساعد «ملخصات الأمان» الجديدة في ChatGPT على اكتشاف المخاطر عبر المحادثات الطويلة

على سبيل المثال، قد يبدأ المستخدم بالحديث عن الإرهاق أو الضغوط اليومية، ثم ينتقل لاحقاً إلى التعبير عن مشاعر أكثر حدة. إذا لم يكن النظام مدركاً لما قيل في بداية المحادثة، فقد لا يفسر الرسائل اللاحقة بالشكل الصحيح.

لهذا السبب، تهدف التحديثات الجديدة إلى جعل ChatGPT قادراً على تحليل المخاطر على مستوى المحادثة كاملة بدلاً من الاكتفاء بتحليل كل رسالة على حدة.

ما هي «ملخصات الأمان»؟

«ملخصات الأمان» هي ملاحظات قصيرة ينشئها النظام أثناء بعض المحادثات. وبدلاً من حفظ سجل كامل للمحادثة، يتم تسجيل فقط المعلومات التي قد تكون مرتبطة بالمخاطر أو السلامة.

تساعد هذه الملخصات النموذج على فهم الرسائل الجديدة في ضوء الإشارات السابقة التي ظهرت في الحوار.

أبرز خصائصها:

• نطاق محدود: تركز على الإشارات المرتبطة بالسلامة فقط، وليس على كامل محتوى المحادثة.
• سياق مؤقت: ليست ذاكرة دائمة ولا وسيلة لتخصيص التجربة للمستخدم.
• كشف الأنماط: تسمح للنظام برصد إشارات الخطر التي تتطور عبر عدة رسائل متتالية.

بهذه الطريقة، يحتفظ النظام بما يكفي من السياق لفهم المخاطر المحتملة دون الاحتفاظ بسجل كامل للمحادثة لهذا الغرض.

متى يتم استخدام هذه الملخصات؟

يتم إنشاء ملخصات الأمان عندما يلاحظ النظام إشارات قد تدل على وجود مخاطر مرتفعة داخل المحادثة.

تشمل الحالات التي قد تُفعِّل هذه الميزة محادثات تحتوي على مؤشرات مثل:

• الحديث عن الانتحار أو إيذاء النفس
• الضيق النفسي أو الأزمات العاطفية
• نية متصاعدة للقيام بسلوك ضار
• احتمالات العنف

عند ظهور مثل هذه الإشارات، يمكن لـChatGPT استخدام الملخص لفهم تطور الحوار واختيار استجابة أكثر أماناً وملاءمة.

ما أنواع المخاطر التي يستهدفها النظام؟

تركز هذه التحديثات بشكل أساسي على السلامة المرتبطة بالصحة النفسية والأزمات الشخصية.

وتهدف جهود OpenAI في هذا المجال إلى تحسين قدرة ChatGPT على:

• التعرف على علامات الضيق النفسي
• تهدئة المحادثات الحساسة أو المتوترة
• توجيه المستخدمين نحو مصادر دعم حقيقية عند الحاجة

تم تطوير هذه التحسينات بالتعاون مع أكثر من 170 خبيراً في الصحة النفسية ساعدوا في تحديد أفضل أساليب الاستجابة في المواقف الحساسة.

كما تستهدف الإجراءات الوقائية مخاطر أخرى قد تظهر في التفاعلات الطويلة مع أنظمة الذكاء الاصطناعي، مثل النقاشات المتعلقة بإيذاء النفس أو الاعتماد العاطفي المفرط على الأنظمة الرقمية.

هل تحسنت استجابات النظام فعلاً؟

تقول OpenAI إن تحديثات النموذج الافتراضي في ChatGPT حسّنت قدرة النظام على التعرف على حالات الضيق النفسي والاستجابة لها بشكل مناسب.

وتشير بعض التقارير إلى أن التحسينات التي طُورت بالتعاون مع متخصصين في الصحة النفسية ساعدت في تقليل الردود غير الآمنة في الاختبارات بنسبة تتراوح بين 65% و80% في بعض السيناريوهات التجريبية.

مع ذلك، لا تتوفر دائماً تفاصيل كاملة حول منهجيات الاختبار أو مجموعات البيانات المستخدمة في التقييمات المنشورة علناً، لذلك يبقى حجم التحسن الفعلي أقل وضوحاً خارج بيئات الاختبار.

لماذا يهم هذا التحديث المدارس والمؤسسات التعليمية؟

بالنسبة للمدارس والجامعات ومنصات التعليم الرقمي، هناك مشكلة عملية واضحة: المخاطر لدى الطلاب غالباً لا تظهر في رسالة واحدة فقط.

فالطلاب قد يتحدثون مع أنظمة الذكاء الاصطناعي لفترات طويلة، وقد تظهر مؤشرات الضيق النفسي أو السلوك الخطر تدريجياً أثناء الحوار.

الأنظمة القادرة على تحليل المحادثة كاملة قد تساعد على رصد:

• تصاعد الضيق النفسي لدى المستخدم
• إشارات مبكرة لاحتمال إيذاء النفس
• نيات ضارة قد تتطور خلال الحوار

وهذا قد يقلل من احتمال صدور ردود غير آمنة أثناء المحادثات الطويلة، وهي نقطة ضعف معروفة في أنظمة الدردشة الذكية سابقاً.

مع ذلك، تبقى أدوات الذكاء الاصطناعي طبقة واحدة فقط من الحماية. فالحماية الفعالة للطلاب تتطلب أيضاً سياسات واضحة، وتدريباً للكوادر التعليمية، وآليات حقيقية للتدخل والدعم عند الحاجة.

تحوّل أوسع في تصميم أنظمة سلامة الذكاء الاصطناعي

إدخال «ملخصات الأمان» يعكس تحولاً أوسع في طريقة تصميم أنظمة سلامة الذكاء الاصطناعي.

فبدلاً من التركيز فقط على الرسائل الفردية، يتجه المطورون إلى بناء أنظمة تستطيع تحليل الأنماط عبر المحادثات الكاملة. وهذا يعكس بشكل أفضل الطريقة التي تتطور بها المخاطر في التفاعلات البشرية الحقيقية.

وتصف OpenAI عملية السلامة لديها بأنها سلسلة مستمرة تشمل التدريب، والتقييم قبل الإطلاق، والمراقبة بعد النشر، ثم التحسينات المتكررة بناءً على الاستخدام الفعلي.

ومع تزايد استخدام الذكاء الاصطناعي في التعليم والعمل والحياة اليومية، قد تصبح الأنظمة القادرة على رصد الإشارات الدقيقة للمخاطر عبر المحادثات الطويلة جزءاً أساسياً من معايير نشر الذكاء الاصطناعي المسؤول.