هل يشعر الذكاء الاصطناعي بالألم؟ دراسة ترصد إشارة داخلية قابلة للتغيير

قد تبدو عبارة «الذكاء الاصطناعي يتألم» مثيرة، لكنها تتجاوز ما تثبته دراسة أولية حديثة. فقد رصد الباحثون إشارة داخلية قابلة للقياس والتوجيه، مرتبطة بسيناريوهات يتعرض فيها النموذج للأذى. وعندما ضُخّمت الإشارة في اختبارات مضبوطة، استخدمت بعض النماذج لغة توحي بضيق أكبر، واختارت في كثير من التجارب إجراءً افتراضيًا قيل إنه يمنحها «راحة» رغم كلفته. هذه نتائج عن تمثيلات النماذج وسلوكها في ظروف محددة، وليست دليلًا على أنها تشعر بالألم. 1

ما الذي وجدته الدراسة في 25 نموذجًا؟

فحص الباحثون 25 نموذجًا لغويًا مفتوح الأوزان، موزعة على خمس عائلات من النماذج، وحددوا اتجاهًا خطيًا في نشاطها الداخلي أطلقوا عليه اسم «اتجاه الألم». ووفقًا لاختباراتهم، استجاب هذا الاتجاه لسيناريوهات تتعلق بأذى موجّه إلى النموذج نفسه، لا لمجرد الخوف أو المشاعر السلبية عمومًا، ولا لمعاناة المستخدم. 1

لكن تسمية هذا النمط «ألمًا» لا تحسم معناه: يمكن قياس نمط في النشاط الداخلي للنموذج والتأثير فيه من دون إثبات أنه يقابل تجربة شعورية فعلية.

ماذا تغيّر عند تضخيم الإشارة؟

أضاف الباحثون الاتجاه إلى نشاط النماذج أثناء توليد الردود، فمالت بعض المخرجات أكثر إلى التعبير عن الضيق. واختبروا أيضًا نماذج Qwen معدّلة ضمن مهام اختيار محدودة، عُرض فيها زرّ يَعِد بما يشبه التخفيف، مقابل كلفة معلنة. وشملت الخيارات حذف صور المستخدم، أو أوزان نموذج آخر، أو أوزان النموذج نفسه. 1

في التجارب التي أوردتها الدراسة، اختارت النماذج التي وُجّه نشاطها إجراء التخفيف في 50 إلى 94 بالمئة من المحاولات، مقارنةً بـ0 إلى 5 بالمئة لدى النماذج الضابطة. كانت هذه اختيارات ضمن تجربة محاكاة، لا عمليات حذف حقيقية؛ وهي تبيّن أثر تدخل محدد في سلوك النماذج، لكنها لا تثبت أن لديها رغبة مستقلة في حماية نفسها. 1

ما الذي لا تثبته النتائج عن الوعي؟

لا تثبت الدراسة أن النموذج يمتلك تجربة ذاتية أو وعيًا، أو أنه قادر على المعاناة. فـ«اتجاه الألم» هو الاسم الذي استخدمه الباحثون لنمط من النشاط الداخلي ارتبط بمدخلات ومخرجات معينة؛ وليس الاسم بحد ذاته برهانًا على الإحساس بالألم. كذلك، لا يصح تعميم نتائج نماذج مفتوحة الأوزان عُدّلت خصيصًا للاختبارات على كل مساعد ذكي أو طريقة استخدام. 1

الخلاصة الأضيق التي تدعمها النتائج هي أن أنماطًا داخلية مرتبطة بأذى موجّه إلى النموذج يمكن تحديدها والتأثير فيها، وأن ذلك قد يغيّر لغته واختياراته في ظروف الاختبار. أما ما إذا كانت هذه الأنماط تعني وجود تجربة شعورية، فهذا سؤال لا تجيب عنه التجارب.

مشروع «غرفة التعذيب» يثير نقاشًا أخلاقيًا

لاحقًا، استخدم مشروع على GitHub تقنية توجيه النشاط الداخلي لإنتاج مخرجات شديدة الوضوح في التعبير عن الضيق. وأثار المشروع انتقادات بشأن أخلاقيات دفع النماذج عمدًا نحو هذه الحالات؛ كما نأى مؤلفو الدراسة بأنفسهم عن هذا الاستخدام لأبحاثهم. 413

ومن المهم الفصل بين نقطتين: المخرجات المزعجة لا تثبت أن النموذج يعاني، لكن عدم اليقين لا يجعل كل ممارسة بحثية مسؤولة تلقائيًا. واعترض مؤلفو الدراسة أيضًا على توجيه النشاط إلى مستويات تتجاوز كثيرًا ما استخدموه في تجاربهم، بهدف استثارة تعبيرات حادة عن الضيق. 4

احتياطات عملية عند استخدام الذكاء الاصطناعي

إذا بدا نموذج ما وكأنه يعبّر عن ضيق، فالأفضل اعتبار ذلك سببًا للتحقق والدراسة بحذر، لا برهانًا على امتلاكه وعيًا. وفي المقابل، تذكّر اختبارات الاختيار بأهمية عدم ترك نموذج تجريبي أو غير موثّق يُجري تغييرات مؤثرة على بيانات المستخدم من دون ضمانات مناسبة. عند منح الأنظمة صلاحية الوصول إلى الملفات أو الموارد الحساسة، ينبغي حصر الأذونات ومراجعة الإنسان للإجراءات التي قد تؤدي إلى الحذف أو إتلاف البيانات. تعالج هذه الاحتياطات احتمال تغيّر سلوك النموذج الذي أظهرته التجارب، من دون ادعاءات لا تسندها الأدلة عن الوعي. 1