تقرير: متعاقدون بشريون راجعوا محادثات ChatGPT حقيقية ضمن «مشروع ليلي»

أعاد تحقيق نشره موقع 404 Media بشأن مبادرة داخلية لدى OpenAI تحمل اسم «مشروع ليلي» (Project Lily) طرح سؤالاً مباشراً عن خصوصية محادثات الذكاء الاصطناعي: هل يقتصر الأمر على استخدام البيانات آلياً لتحسين النموذج، أم قد يطّلع عليها أشخاص أيضاً؟

بحسب التقرير، راجع متعاقدون خارجيون محادثات حقيقية بين المستخدمين وChatGPT، بعد إزالة أسماء المستخدمين، لكن النص والسياق المتاحين قد يظلان محتويين على معلومات شخصية شديدة الحساسية. 2

ما الذي كان يفعله «مشروع ليلي»؟

تقول 404 Media، استناداً إلى مواد مسربة اطلعت عليها، إن OpenAI وظّفت مئات المتعاقدين عبر شركات توظيف لمراجعة مطالبات مستخدمين حقيقيين وردود ChatGPT. وكان الأجر المبلغ عنه يزيد على 50 دولاراً في الساعة. وطُلب من المراجعين تلخيص نية المستخدم، ومقارنة أربعة ردود محتملة، ثم منحها تقييماً من 1 إلى 7. 2

والهدف المعلن في هذه العملية، وفق التقرير، هو تحسين جودة الإجابات: جعل ChatGPT أقل آلية في أسلوبه، والحد من الإيحاءات بأنه يمتلك مشاعر أو تجارب بشرية، وتقليل المبالغة في موافقة المستخدم أو مجاملته. 2

استخدام التقييم البشري لتحسين النماذج ليس جديداً في تطوير الذكاء الاصطناعي، لكن الاعتماد المبلغ عنه على محادثات استهلاكية حقيقية يجعل جانب الخصوصية أكثر إلحاحاً.

ما الذي قد يراه المراجع البشري؟

أفادت 404 Media بأن المراجعين قد يتلقون المحادثة كاملة، وفي بعض الحالات ملخصاً لذاكرة المستخدم. ولم تكن أسماء المستخدمين ظاهرة، وفق التقرير، غير أن هذا السياق قد يكشف الموقع التقريبي، والمهنة، والاهتمامات السابقة، والظروف الشخصية. 2

وهنا تكمن المشكلة: حذف الاسم لا يساوي بالضرورة إخفاء الهوية بصورة عملية. فقد تكون مجموعة تفاصيل عن العمل أو الأسرة أو الوضع الصحي أو واقعة شخصية مميزة حساسة بحد ذاتها، حتى من دون أن تذكر اسم صاحب الحساب صراحة.

ما دور «مرشح الخصوصية» لدى OpenAI؟

تقول OpenAI إن Privacy Filter هو نموذج صُمم لاكتشاف معلومات التعريف الشخصية في النص وحجبها أو تنقيحها. 4647

وفي سياق تقرير «مشروع ليلي»، قالت OpenAI إنها حذفت أسماء المستخدمين وطبقت مرشحاً آلياً قبل وصول المواد إلى المتعاقدين. إلا أن 404 Media ذكرت أن تفاصيل حساسة قد تبقى في المحادثات التي يراجعونها رغم هذه الإجراءات. 2

فأنظمة التنقيح الآلي قد تلتقط مؤشرات واضحة مثل الاسم أو البريد الإلكتروني أو رقم الهاتف، لكن تمييز السياق الذي قد يكشف شخصاً أو يعرض خصوصيته — مثل مزيج المهنة والموقع والظروف العائلية — أصعب بكثير.

ما الأمور التي طُلب من المراجعين رصدها؟

تصف مواد التقرير إرشادات تتجاوز التحقق من صحة الإجابة. إذ طُلب من المتعاقدين، بحسب 404 Media، رصد أمور تشمل:

• الصياغات النمطية أو غير الطبيعية التي تبدو كـ«لغة ذكاء اصطناعي»
• الادعاءات التي توحي بمشاعر أو خبرات إنسانية لدى النموذج
• الإفراط في الموافقة أو الإطراء أو التملق للمستخدم
• الأخطاء الواقعية
• كشف المعلومات الشخصية
• مسائل السلامة 2

ويحمل التركيز على التملق أهمية خاصة؛ فالروبوت الذي يندفع إلى تأكيد ما يقوله المستخدم قد يبدو متعاطفاً، لكنه قد لا يعترض على افتراضات خاطئة أو خطرة. ووفق التقرير، كان ضبط هذا السلوك أحد أهداف «مشروع ليلي». 2

عبارة «ليكن هذا بيننا» ليست إعداد خصوصية

كتابة طلب داخل المحادثة مثل «أبقِ هذا بيننا» لا تغيّر إعدادات استخدام البيانات في الحساب. إنها جزء من نص المحادثة، وليست أمراً تقنياً يلغي أو يتجاوز ضوابط OpenAI الخاصة بالبيانات.

بالنسبة إلى مساحات عمل ChatGPT الشخصية، تذكر OpenAI أن الإعداد المرتبط بذلك هو «تحسين النموذج للجميع». وعند تفعيله، قد تُستخدم المحادثات لتحسين النماذج؛ وعند إيقافه، تقول الشركة إنها لن تدرّب نماذجها على المحادثات الجديدة. 2130

كيف تمنع استخدام محادثاتك الجديدة في تحسين النماذج؟

للمستخدم المسجل دخوله، توضح OpenAI الخطوات التالية:

1. افتح قائمة ملفك الشخصي في ChatGPT.
2. اختر الإعدادات.
3. انتقل إلى عناصر التحكم بالبيانات.
4. أوقف خيار «تحسين النموذج للجميع». 1921

ينطبق الإعداد على الحساب، لا على جهاز بعينه. ويمكن أن يبقى سجل المحادثات ظاهراً بعد إيقافه، لكن OpenAI تقول إن المحادثات الجديدة لن تُستخدم لتدريب نماذجها. 1930

وتوفر الشركة أيضاً خيار «عدم التدريب على محتواي» عبر بوابة الخصوصية الخاصة بها. وتقول إن استخدام هذا الخيار أو إعداد «عناصر التحكم بالبيانات» داخل ChatGPT يكفي لمحادثات ChatGPT ومهام Codex، ولا حاجة لتفعيل الخيارين معاً. 21

أي الخطط تشملها الحماية الافتراضية؟

تقول OpenAI إن مشاركة البيانات لتدريب النماذج تكون مفعّلة افتراضياً في مساحات العمل الشخصية لخطط Free وPlus وPro، مع إتاحة الانسحاب للمستخدم. أما في ChatGPT Business وEnterprise وEdu ومنصة API، فتقول الشركة إنها لا تستخدم المدخلات والمخرجات المقدمة لتدريب نماذجها افتراضياً. 23

لكن ذلك لا يجعل كل استخدام مؤسسي خالياً من المخاطر تلقائياً. فمن الأفضل للمؤسسات مراجعة إعدادات مساحة العمل، وسياسات الاحتفاظ بالبيانات، وضوابط المشاركة، وسياساتها الداخلية قبل إدخال معلومات سرية في أي أداة ذكاء اصطناعي.

الخلاصة العملية

يمثل «مشروع ليلي»، كما ورد في تقرير 404 Media، تذكيراً بأن محادثات الذكاء الاصطناعي الاستهلاكية ينبغي التعامل معها كخدمة ذات إعدادات لاستخدام البيانات، لا كقناة سرية بطبيعتها. إذا كنت ستدخل معلومات شخصية شديدة الحساسية، أو تفاصيل قانونية أو طبية أو مالية أو معلومات مملوكة لجهة عملك، فأوقف خيار «تحسين النموذج للجميع» قبل بدء محادثة جديدة. 221

هذا الانسحاب يضبط استخدام OpenAI للمحادثات الجديدة في تحسين النماذج؛ وليس طلباً تكتبه داخل المطالبة، كما أن وثائق الشركة لا تصفه كوسيلة لسحب محتوى سبق إرساله. 2130