تقرير: متعاقدون قد يطّلعون على محادثات ChatGPT الحقيقية لتحسين النموذج

أظهر تحقيق نشره موقع 404 Media عن عملية داخلية لدى OpenAI تحمل اسم «مشروع ليلي» (Project Lily) أن تحسين ChatGPT قد يستند إلى مراجعة بشرية لمحادثات حقيقية أجراها مستخدمون. وبحسب وثائق مسرّبة وأمثلة على مطالبات وتصريحات راجعها الموقع، قد يطّلع متعاقدون خارجيون على سياق المحادثات لتقييم ردود النموذج، حتى عندما تتضمن تلك المحادثات تفاصيل شخصية حساسة. 1

والخلاصة العملية لمستخدمي ChatGPT في الأسئلة الشخصية أو الصحية أو المهنية أو القانونية: كتابة طلب مثل «أبقِ هذا بيننا» ليست إعداداً للخصوصية ولا تمنع وصول المحادثة إلى مسار تحسين النموذج. الإعداد المؤثر هو ما إذا كان الحساب يسمح باستخدام المحادثات الجديدة لتحسين النماذج. 1

ماذا يفعل مراجعو «مشروع ليلي»؟

ذكرت 404 Media أن مئات المتعاقدين، الذين يُوظَّفون عبر شركات توظيف ويتقاضون أكثر من 50 دولاراً في الساعة، يراجعون تدفقاً كبيراً من محادثات ChatGPT الحقيقية. وتشمل مهامهم، وفقاً للتقرير:

• تلخيص نية المستخدم؛
• مقارنة أربعة ردود محتملة من النموذج؛
• منح تقييم من 1 إلى 7؛
• رصد ما يجعل الإجابة أقل فائدة أو أقل جدارة بالثقة. 1

ويركز التقييم على تحسين جودة الإجابات وطبيعتها. ويُطلب من المراجعين، بحسب ما ورد، رصد اللغة التي تبدو مصطنعة أو «مولّدة آلياً»، والمعلومات الخاطئة، والمبالغة في الموافقة أو التملق، ومشكلات السلامة، والردود التي توحي على نحو غير صحيح بأن للنموذج خبرات أو مشاعر شخصية. 1

تساعد هذه الحلقة من الملاحظات البشرية في جعل الردود أكثر طبيعية وأقل آلية، لكنها تعني أيضاً أن تحسين الجودة قد يقتضي وصول أشخاص إلى مضمون محادثات المستخدمين. 1

حذف الاسم لا يجعل المحادثة مجهولة بالضرورة

قالت OpenAI لـ404 Media إنها تزيل أسماء المستخدمين وتطبّق مرشح خصوصية قبل إرسال المواد إلى المراجعين. لكن التحقيق أورد أمثلة لمواد مراجعة يمكن أن تشمل السياق الكامل للمحادثة وملخصات ذاكرة ينشئها النموذج. وقد تضمنت هذه الملخصات، وفق التقرير، تفاصيل مثل الموقع التقريبي والمهنة وظروف شخصية شديدة الخصوصية. 1

المشكلة هنا هي إمكان التعرف إلى الشخص من السياق: فقد يُحذف الاسم أو معرّف الحساب، لكن اجتماع أحداث حياتية أو تفاصيل عمل أو موقع جغرافي أو إشارات غير معتادة قد يجعل المحادثة قابلة للتعرّف لمن يعرف صاحبها، أو يظل تعريضها للآخرين شديد الحساسية. وأقرت OpenAI، بحسب 404 Media، بأن المرشحات قد تواجه صعوبة مع المعرّفات غير الشائعة والإشارات الخاصة الملتبسة أو التي لا تُفهم إلا في سياقها. 1

عبارة «أبقِ الأمر بيننا» لا تمنع المراجعة

طلب السرية من ChatGPT داخل المحادثة هو تعليمات يقرأها النموذج، وليس تفضيلاً للخصوصية على مستوى الحساب. لذلك لا يتجاوز إعدادات استخدام البيانات في الخدمة، ولا يمنع اختيار المحادثة لمسار تحسين من النوع الذي وصفه تقرير 404 Media. 1

لهذا، لا ينبغي التعامل مع روبوت محادثة استهلاكي على أنه قناة سرية لمجرد أن الحديث يبدو شخصياً. وإذا كانت المعلومة قد يسبب اطلاع مراجع مخوّل عليها ضرراً أو حرجاً، فالأكثر أماناً عدم إدخالها في مساحة عمل شخصية مفعّل فيها تحسين النموذج.

كيف توقف استخدام محادثات ChatGPT الجديدة لتحسين النموذج؟

توضح وثائق Data Controls لدى OpenAI أن مستخدمي مساحة العمل الشخصية يمكنهم إيقاف تحسين النموذج عبر الخطوات التالية:

1. الملف الشخصي ← الإعدادات
2. عناصر التحكم بالبيانات (Data Controls)
3. إيقاف خيار «Improve the model for everyone» أو «تحسين النموذج للجميع»

عند إيقاف هذا الخيار، تبقى المحادثات الجديدة ظاهرة في سجل المحادثات، لكن OpenAI تقول إنها لن تُستخدم لتدريب نماذج ChatGPT أو تحسينها. ويُطبَّق الإعداد على الحساب نفسه، لا على جهاز محدد.

وتوقيت تغيير الإعداد مهم: تقول OpenAI إن الانسحاب يسري على المحادثات الجديدة، ولا يسحب بأثر رجعي المحادثات التي أُرسلت سابقاً عندما كان تحسين النموذج مفعّلاً.

ماذا عن مستخدمي الأعمال والمؤسسات والتعليم؟

تقول OpenAI إنها لا تستخدم المدخلات والمخرجات من ChatGPT Business وEnterprise وEdu أو منصة API لتدريب النماذج افتراضياً. وعلى النقيض، تكون مشاركة البيانات لتحسين النموذج مفعّلة افتراضياً لمستخدمي ChatGPT Free وPlus وPro في مساحات العمل الشخصية، مع إتاحة إيقافها عبر عناصر التحكم بالبيانات.

لا يعفي ذلك المؤسسات من التزامات حوكمة البيانات أو سياسات جهة العمل؛ إذ ينبغي للفرق دائماً الالتزام بسياسات مؤسساتها ومراجعة إعدادات مساحة العمل المطبقة عليها. لكنه فرق مهم عن المعالجة الافتراضية لمحادثات المستهلكين.

هل تستخدم شركات الذكاء الاصطناعي الأخرى مراجعين بشريين؟

ليست المراجعة البشرية ممارسة حصرية على OpenAI. فتنص سياسة خصوصية Anthropic على أنها قد تدرّب نماذجها وتحسنها باستخدام المدخلات والمخرجات التي يقدمها المستخدمون أو العاملون عبر منصات العمل الجماعي، ما لم ينسحب المستخدمون من ذلك. كما خلصت مراجعة أكاديمية لممارسات الخصوصية لدى أبرز مزودي الذكاء الاصطناعي إلى أن Google وOpenAI تناقشان مراجعة بشرية لمحادثات المستخدمين لأغراض التدريب أو التحسين.

إذن، السؤال الأهم ليس ما إذا كانت المراجعة البشرية موجودة، بل ما إذا كان المستخدمون يفهمون متى قد تدخل محادثاتهم في هذه العملية، وما الذي تستطيع إجراءات إزالة الهوية حمايته وما الذي قد تعجز عن حمايته، وكيف يمكنهم تغيير الإعدادات المعنية.

الخلاصة: تعامل مع المحادثة الاستهلاكية بحذر

يشكّل «مشروع ليلي»، وفق ما نشرته 404 Media، تذكيراً بأن الدردشة مع ذكاء اصطناعي استهلاكي ليست تلقائياً تبادلاً سرياً بين طرفين. قد تقلل إزالة الهوية من حجم التعرض، لكنها لا تزيل بالضرورة كل تفصيل كاشف في محادثة مليئة بالسياق الشخصي. 1

قبل مشاركة معلومات حساسة في ChatGPT، راجع المسار: الإعدادات ← عناصر التحكم بالبيانات ← تحسين النموذج للجميع. إذا كان تحسين النموذج مفعّلاً، فتعامل مع المحادثات الجديدة بوصفها مؤهلة محتملة للمساهمة في تحسين الخدمة؛ وإذا كان معطلاً، فتقول OpenAI إن المحادثات الجديدة لن تُستخدم لهذا الغرض.