دراسة من MIT تكشف تلاشي أثر مصادر صور الذكاء الاصطناعي مع اتساع البيانات

تواجه محاولات تتبّع صورة مولّدة بالذكاء الاصطناعي إلى مصدر تدريبي محدد مشكلة تقنية أطلق عليها باحثان من مختبر علوم الحاسوب والذكاء الاصطناعي في معهد ماساتشوستس للتكنولوجيا (MIT CSAIL) اسم تلاشي الإسناد (Attribution Decay). فكلما درّب نموذج الانتشار على عدد أكبر من الصور، قد يصبح التأثير السببي لأي صورة واحدة على مخرج بعينه ضئيلًا إلى درجة أن حذفها لا يُحدث فرقًا ملحوظًا.

لا تعني هذه النتيجة أن النموذج لم يرَ الصورة قط، أو أنه عاجز عن إعادة إنتاجها، أو أن مخاطر حقوق النشر اختفت. إنها تصف نتيجة تقنية أضيق: في اختبار حذف مضبوط، قد لا تعود وحدة تدريب معينة ضرورية لإنتاج مخرج معين.

كيف اختبر الباحثان تأثير بيانات التدريب؟

تعتمد طرق تحليل التأثير التقليدية عادةً على تقدير مقدار تأثير كل مثال تدريبي في النموذج. أما تشنغ داي وديفيد غيفورد فصمّما بنية تجميع للانتشار تتيح اختبار سيناريو افتراضي مضبوطًا. وتتكوّن هذه البنية من مكوّنات دُرّبت بصورة مستقلة، بحيث اطّلع كل مكوّن على جزء هندسيًا محدد من بيانات التدريب.

سمح هذا التصميم بطرح سؤال دقيق: ماذا كان النموذج سينتج لو لم تؤثر هذه الصورة في التدريب؟ وبدلًا من إعادة تدريب نموذج ضخم من الصفر، يستطيع الباحثون تعطيل المكوّنات التي اطّلعت على الصورة المختارة، ثم مقارنة الناتج. وبذلك يقيسون إزالة تأثير الصورة، لا مجرد تقدير تقريبي له.

اختبر الفريق 24 تجميعًا للانتشار عبر سبع مجموعات صور عامة. وتراوحت مجموعات البيانات بين 256 صورة وأكثر من 160 ألف صورة، ما أتاح فحص كيفية تغير الإسناد مع زيادة حجم بيانات التدريب. وقارن الباحثون بين الصورة الأصلية ونسخ افتراضية أُنشئت بعد حذف وحدات تدريب مرشحة.

وأطلق الباحثون اسم نصف القطر الافتراضي (Counterfactual Radius) على أكبر فرق مقاس بين الناتج الأصلي والنسخ الافتراضية. واستخدموا هذا المقياس لتقدير مقدار التغيير الذي يمكن أن تحدثه إزالة وحدة تدريب واحدة في النتيجة.

ماذا يعني «تلاشي الإسناد»؟

انخفض نصف القطر الافتراضي كلما كبرت مجموعات بيانات التدريب. وعمليًا، أصبحت إزالة صورة واحدة تنتج صورة يصعب تمييزها عن الناتج الأصلي وفق مقياس الدراسة.

وتكمن المفارقة في أن إضافة المزيد من بيانات التدريب قد تجعل الصورة المولّدة أقل قابلية للإسناد إلى مثال واحد، حتى لو كانت تلك الصورة جزءًا من بيانات التدريب. فقد يتعلم النموذج أنماطًا عامة ومتداخلة من مصادر كثيرة، بدل الاعتماد على صورة محددة يمكن تحديدها بوصفها سببًا مباشرًا لنتيجة بعينها.

وعند مقاييس كبيرة بما يكفي، امتد الأثر إلى ما هو أبعد من الصور الفردية. فقد أفادت الدراسة بأن إزالة جميع صور فنان معين، أو جميع الصور التي يظهر فيها شخص محدد، قد تترك العينة المولّدة من دون تغيير فعلي في بيئة الاختبار الافتراضية.

ولهذا يصف الباحثون الظاهرة بأنها «تلاشٍ» لا مجرد عجز مؤقت عن الكشف. فالمشكلة قد لا تكون في أن أدوات التتبّع غير قوية بما يكفي؛ بل إن الصلة السببية بين مصدر واحد ومخرج واحد قد تصبح نفسها موزعة على نحو يصعب عزله.

هل تصعّب الظاهرة دعاوى حقوق النشر؟

قد تجعل ظاهرة تلاشي الإسناد إثبات نظرية محددة من دعاوى حقوق النشر أكثر صعوبة، وهي النظرية التي تقول إن مخرجًا متنازعًا عليه نتج مباشرة عن أعمال فنان معيّن أو عن نسخ منها ضمن بيانات التدريب. فإذا لم تؤدِ إزالة كامل أعمال الفنان إلى تغيير ملموس في الصورة، يصبح من الأصعب القول إن تلك المجموعة كانت ضرورية بصورة فردية لإنتاج ذلك المخرج وفق هذا الاختبار السببي.

وقد يهم ذلك النزاعات المتعلقة بخدمات توليد الصور التجارية، مثل Midjourney وOpenAI وMicrosoft، والادعاءات بأن النماذج تنسخ أساليب الفنانين. فالتدريب على نطاق واسع قد يضعف الرواية البسيطة التي تُعامل صورة واضحة السمات على أنها نتاج مباشر لعمل واحد أو لفنان يمكن تحديده. لذلك وُصفت الدراسة بأنها قد تعقّد بعض قضايا الملكية الفكرية المرتبطة بأنظمة توليد الصور.

لكن البحث لا يقرر ما إذا كانت شركة ما قد انتهكت حقوق النشر، ولا ينشئ دفاعًا قانونيًا تلقائيًا. فقضايا حقوق النشر قد تتناول أسئلة مختلفة، منها: هل نُسخت الأعمال المحمية أثناء التدريب؟ وهل يشبه الناتج عملًا محميًا بدرجة جوهرية؟ وما الذي يستطيع النظام إعادة إنتاجه عند استخدام مطالبات محددة؟ وما الأضرار أو الالتزامات التعاقدية التي قد تنطبق؟

لذلك لا ينبغي مساواة المعنى التقني لعبارة «غير قابل للإسناد» بالمعنى القانوني لعبارة «لم يُنسخ».

لماذا لا تثبت الدراسة غياب الحفظ أو النسخ؟

يختبر التجريب مدى حساسية الناتج لحذف وحدات التدريب، لكنه لا يفحص كل الطرق التي قد يحتفظ بها النموذج بالمعلومات أو يعيد إنتاجها.

فقد يُظهر النموذج اعتمادًا محدودًا على أي صورة واحدة في اختبار الحذف الذي أُجري عبر التجميع، ومع ذلك يعيد إنتاج عمل محدد عند استخدام مطالبات أو ظروف أخذ عينات معينة. كما قد يشبه الناتج عملًا محميًا حتى إذا لم تُثبت أي صورة تدريب منفردة بوصفها ضرورية سببيًا لإنتاجه.

وبعبارة أخرى، هذه أسئلة مختلفة:

• هل أثرت الصورة في هذا الناتج؟ يجيب اختبار الحذف من خلال رصد تغير قابل للقياس عند إزالة تأثير الصورة.
• هل رأى النموذج الصورة أو احتفظ بها؟ يعني ذلك أن النموذج تعرض لها أو ربما حفظ بعض جوانبها.
• هل ينسخ الناتج عملًا محميًا؟ هذا استنتاج قانوني وتقني يحتاج إلى أدلة إضافية.

وتتناول ظاهرة تلاشي الإسناد السؤال الأول مباشرة، لكنها لا تحسم السؤالين الثاني والثالث.

هل تنطبق النتيجة على نماذج اللغة الكبيرة؟

تتعلق الدراسة بنماذج توليد الصور القائمة على الانتشار، وبوسائط سمعية وبصرية مرتبطة بها. ولا ينبغي تعميم بنيتها التجميعية أو نمط التوسع الذي رصدته تلقائيًا على نماذج اللغة الكبيرة القائمة على المحوّلات.

فنموذج اللغة يختلف من حيث البنية، وإجراءات التدريب، وتمثيل الرموز، وطريقة إنتاج المخرجات. وقد تقترح الدراسة مسارًا تجريبيًا مفيدًا لأبحاث الإسناد المستقبلية، لكنها لا تثبت أن الشكل نفسه من تلاشي الإسناد يحدث في نماذج اللغة الكبيرة.

ما الأدلة التي سيظل المحققون بحاجة إليها؟

عندما يكون السؤال هو ما إذا كان نظام للذكاء الاصطناعي قد نسخ عملًا، فإن تلاشي الإسناد لا يمثل سوى جزء واحد من الأدلة. وقد تحتاج المحاكم والباحثون التقنيون إلى فحص ما يلي:

• قدرة النظام على إعادة إنتاج عمل محدد عند استخدام مطالبات مضبوطة؛
• التشابه البصري بين الناتج والعمل الذي يُدّعى نسخه؛
• مصدر بيانات التدريب، وإمكانية الوصول إليها، والسجلات المتعلقة بها؛
• نتائج تدقيق النموذج والوثائق الخاصة بالنظام؛
• ما إذا كان الناتج يعكس أسلوبًا عامًا أم تعبيرًا محميًا يمكن تحديده؛ و
• المعايير القانونية السارية في النزاع المعني.

الدرس الأساسي للدراسة أضيق وأكثر فائدة من القول إن الذكاء الاصطناعي «ينسى» مصادره. فمع توسع مجموعات بيانات نماذج الانتشار، قد يصبح الإسهام السببي لكل مثال تدريبي منفرد موزعًا إلى حد يصعب كشفه في مخرج معين. وهذا يجعل إسناد المصدر أكثر صعوبة، لكنه لا يجعل إثبات الحفظ أو إعادة الإنتاج أو انتهاك حقوق النشر مستحيلًا.