تحذير البابا ليو الرابع عشر من الذكاء الاصطناعي: الآلات يجب أن تبقى تحت السيطرة البشرية

لا يمثل خطاب البابا ليو الرابع عشر بشأن الذكاء الاصطناعي رفضاً للتكنولوجيا بقدر ما يمثل تحذيراً من الجهة التي تتحكم فيها، ومن العواقب التي قد تترتب على نقل المسؤولية البشرية إلى الآلات. ففي كلمتين ألقاهما أمام شبكة المشرعين الكاثوليك الدولية في ٢١ أغسطس، ومعهد العلوم الإدارية الدولي في ٢٨ أغسطس، دعا إلى أن يبقى الذكاء الاصطناعي خادماً للصالح العام، موجهاً بالذكاء البشري والضمير والقانون، لا بسرعة الإنجاز أو الربح أو الأنظمة الغامضة.

وتستند الكلمتان إلى المبدأ المحوري في رسالته العامة Magnifica Humanitas، وهو أن التقدم التكنولوجي ينبغي أن يُقاس بقدرته على حماية الكرامة الإنسانية والعدالة والسلام والقدرة الحقيقية للإنسان على الاختيار وتحمل المسؤولية. 16

تحذيره للإداريين: لا ينبغي للبشر أن يصبحوا ضحايا لاختراعاتهم

خلال حديثه إلى أعضاء معهد العلوم الإدارية الدولي، حذر البابا من أن التطور السريع للذكاء الاصطناعي قد يجعل البشرية «ضحية» لاختراعاتها. وشدد تحديداً على خطورة إسناد القرارات المتعلقة بحياة البشر إلى الآلات.

لكن مقاربته لم تكن دعوة إلى التخلي عن التكنولوجيا الرقمية، بل إلى جعلها أكثر إنسانية. فقد حث الباحثين في الإدارة العامة على إيجاد السبل التي تجعل الأنظمة الرقمية في خدمة الحياة والسلام، بحيث يظل الإنسان، لا العملية الآلية، في مركز القرارات العامة.

ويضع ذلك حداً واضحاً للأتمتة: يمكن للذكاء الاصطناعي أن يساعد الإدارة، لكنه لا ينبغي أن يلغي الحكم البشري والمسؤولية والمساءلة الأخلاقية اللازمة عندما تمس القرارات حقوق الناس أو رفاههم أو كرامتهم.

للمشرعين: قوة الذكاء الاصطناعي تتركز في أيدي قلة

في كلمته أمام شبكة المشرعين الكاثوليك الدولية في ٢١ أغسطس، ركز ليو الرابع عشر على المسؤولية السياسية للمشرعين. وقد حمل الاجتماع عنوان «الكرامة الإنسانية والذكاء الاصطناعي: التحديات والفرص والرقابة»، في إشارة إلى أن حوكمة الذكاء الاصطناعي أصبحت إحدى القضايا الحاسمة في عصرنا.

ولا يقتصر القلق على احتمال ارتكاب بعض أنظمة الذكاء الاصطناعي أخطاء؛ بل يتعلق أيضاً باحتمال تركز التكنولوجيا المتقدمة والقدرة على توجيه استخدامها لدى عدد محدود من القوى الاقتصادية والتكنولوجية الكبرى. وحذر البابا من أن هذا التركيز قد يجعل الدول الأفقر أكثر اعتماداً على الدول الغنية، ويعمق أوجه عدم المساواة القائمة.

كما نبه إلى أن الابتكار قد يتحول إلى أداة لـ«الاستعمار الأيديولوجي أو الاقتصادي»، ما يجعل حوكمة الذكاء الاصطناعي قضية دولية لا نقاشاً تنظيمياً محلياً فحسب.

الخوارزميات قد تفرض هيمنة لا تبدو كأنها حكم

وصف ليو الرابع عشر خطراً آخر يتمثل في قدرة الخوارزميات والمنصات على ممارسة السلطة من دون أن تبدو وكأنها تحكم مباشرة. فالخوارزميات قد تحدد من يراه الناس ومن يظل غائباً عن المشهد، بينما تؤثر المنصات الرقمية في النقاش العام من دون قدر كافٍ من المساءلة. وقد تؤدي الأنظمة الآلية كذلك إلى إخضاع كرامة العاملين لمنطق تحسين الأداء والكفاءة.

وهذا يتجاوز مشكلة التحيز التقني وحدها؛ إذ يتعلق بمن يضع قواعد الظهور والمشاركة والفرص، وما إذا كان بوسع المتضررين من القرارات الطعن فيها بصورة حقيقية. فعندما تؤثر أنظمة خاصة غير شفافة في النقاش العام أو فرص العمل، يمكن أن تنتقل القوة الاجتماعية بعيداً عن المؤسسات الديمقراطية والرقابة العامة.

لماذا شدد على الأسرة؟

وصف البابا الأسرة بأنها «المدرسة الأولى للإنسانية»، ودعا المشرعين إلى منع الذكاء الاصطناعي من تقويض دورها.

فالعائلة هي المجال الذي يتعلم فيه الإنسان، عبر العلاقات اليومية، الثقة والمسؤولية والكرم والحوار والاهتمام بالآخرين. وهذه القيم لا تساويها سرعة نظام للذكاء الاصطناعي أو قدرته الحسابية. وتحذر Magnifica Humanitas بدورها من الخلط بين أداء الآلة والذكاء البشري؛ فالأنظمة قد تحاكي بعض وظائف الذكاء وتتجاوز البشر في السرعة والقدرة الحسابية، لكنها لا تمتلك التجربة الإنسانية أو الجسد. 16

ومن ثم، فإن حماية الحياة الأسرية جزء من سياسة الذكاء الاصطناعي لدى البابا. فالسؤال ليس ما إذا كان النظام فعالاً فقط، بل ما إذا كان استخدامه يدعم العلاقات والمؤسسات التي يتعلم الناس من خلالها الحرية والمسؤولية والتضامن.

الضمانات التي دعا المشرعين إلى بنائها

تشير توصيات البابا إلى إطار يضع الإنسان في قلب حوكمة الذكاء الاصطناعي:

• حماية الحقوق والحريات الأساسية: ينبغي أن تضمن القوانين ألا يأتي التقدم التكنولوجي على حساب الكرامة الإنسانية.
• صون الخصوصية: حماية المستخدمين من الاستغلال ومن الاستخدامات غير الملائمة لمعلوماتهم الشخصية.
• فرض الشفافية: تمكين الأفراد والمؤسسات من فهم كيفية استخدام التقنيات الناشئة، وكيفية اتخاذ القرارات ذات العواقب المهمة.
• تعزيز المؤسسات الديمقراطية: يجب أن تدعم الأنظمة الرقمية الحكم العام الخاضع للمساءلة، لا أن تتجاوزه.
• إبقاء المسؤولية بشرية: لا ينبغي تسليم القرارات التي تؤثر في حياة الإنسان وكرامته إلى الآلات من دون رقابة بشرية فعلية.
• منع الهيمنة والتركيز المفرط للسلطة: ينبغي أن تعالج الحوكمة المخاطر الناجمة عن سيطرة مجموعة صغيرة من الفاعلين الأقوياء على الذكاء الاصطناعي المتقدم.

وتعكس هذه الإجراءات الحجة الأوسع في الرسالة العامة: التكنولوجيا ليست محايدة اجتماعياً. فقد تعزز المشاركة والعدالة، لكنها قد تزيد أيضاً من عدم المساواة والسيطرة والإقصاء.

كيف تطور الكلمتان أفكار Magnifica Humanitas؟

نُشرت Magnifica Humanitas في مايو ٢٠٢٦، وهي مكرسة صراحة لحماية الإنسان في عصر الذكاء الاصطناعي. ويتمثل اختبارها الأساسي في معرفة ما إذا كانت التكنولوجيا لا تزال موجهة لخدمة البشرية، أم تتحول إلى أداة للهيمنة أو الإقصاء أو الحرب. وتدعو الرسالة إلى «نزع سلاح» الذكاء الاصطناعي من هذه المنطقـات التدميرية. 51016

وتحوّل كلمتا أغسطس هذا المبدأ إلى مسؤوليات عملية لفئتين. فعلى الإداريين العموميين التأكد من أن الأنظمة الرقمية تخدم المواطنين وتحافظ على الحكم البشري. وعلى المشرعين وضع قواعد تحمي الحقوق والخصوصية والشفافية والحياة الديمقراطية. أما الباحثون، فعليهم المساعدة في تحديد السبل العملية التي تجعل التقنيات الرقمية في خدمة الحياة والسلام.

وبذلك، يحمل تحذير ليو الرابع عشر طابعاً وقائياً. فهو يدعو المجتمعات إلى وضع قواعد تتمحور حول الإنسان بينما لا تزال أنظمة الذكاء الاصطناعي قيد التطوير والانتشار، لا بعد أن تصبح المنصات الغامضة والقوة المركزة والقرارات الآلية راسخة إلى درجة يصعب معها تحديها. والمعيار الذي يقترحه واضح: ينبغي للذكاء الاصطناعي أن يوسع نطاق الصالح العام، من دون أن يزيح البشر المسؤولين عن تعريف هذا الصالح والدفاع عنه.