تحذيرا سام ألتمان بشأن الذكاء الاصطناعي: فقدان السيطرة وتركّز القوة

يرى سام ألتمان، الرئيس التنفيذي لشركة «أوبن إيه آي»، أن الذكاء الاصطناعي القوي قد يضر بالمجتمع عبر مسارين مختلفين: إما أن يفقد البشر السيطرة على أنظمة تتعاظم قدراتها، أو أن تتركز السيطرة على تلك الأنظمة في أيدي عدد محدود من الأطراف. وبذلك يضع السلامة التقنية والحوكمة السياسية في إطار واحد: فسلامة الذكاء الاصطناعي لا تتعلق بما تستطيع النماذج فعله فحسب، بل بمن يقرر كيف تُستخدم. 1316

مساران يقول ألتمان إن على العالم تفاديهما

أولاً: فقدان البشر السيطرة. حذر ألتمان من أن البشرية قد «تفقد السيطرة على المستقبل لصالح الذكاء الاصطناعي»، واعتبر هذا الاحتمال غير مقبول. والمبدأ الذي طرحه واضح: ينبغي أن يخدم الذكاء الاصطناعي الناس، لا أن يصبح الناس تابعين لأنظمة لا يستطيعون الإشراف عليها أو ضبطها بصورة كافية. 216

ثانياً: تركّز قوة الذكاء الاصطناعي. وحذر أيضاً من عالم يسيطر فيه شخص واحد أو شركة واحدة أو دولة واحدة على نظام ذكاء اصطناعي بالغ القوة، ثم يستخدمه لفرض رؤيته للعالم على الجميع. ووصف ألتمان هذه النتيجة بأنها قد تكون «بائسة على نحو بالغ». 113

الخطران مترابطان، لكنهما ليسا شيئاً واحداً. الأول يتعلق بقدرة البشر على فهم الأنظمة القوية وتقييدها وإيقافها عند الحاجة. أما الثاني فيتعلق بإمكان استخدام أنظمة لا تزال، من حيث المبدأ، خاضعة للسيطرة من قِبل جهة تملك سلطة مفرطة بلا مساءلة كافية.

ما الضمانات التي يدعمها ألتمان؟

لا يدعو موقف ألتمان العلني ببساطة إلى وقف تطوير الذكاء الاصطناعي. لكنه يقول إن تنامي القدرات يجب ألا يسبق جهود المواءمة والمراقبة، وإن ضغوط المنافسة لا تصلح ذريعة لنشر تقنيات بلا حذر كافٍ. 213

ومن الضمانات التي أبرزها:

• أن تواكب المواءمة والمراقبة ارتفاع القدرات. أي أن يتمكن المطورون من تقييم ما تفعله الأنظمة المتزايدة القدرة وضبطه بصورة ذات معنى. 213
• أن يبقى الذكاء الاصطناعي في خدمة البشر. وهذا هو الهدف الحاكم لتحذيره من فقدان السيطرة. 216
• متطلبات اتحادية موحّدة للذكاء الاصطناعي المتقدم. رحّب ألتمان بإطار اتحادي أميركي يضع قواعد سلامة متسقة لإدارة مخاطر الأنظمة المتقدمة، بدلاً من الاكتفاء بالتعهدات الطوعية المتفرقة. 1316
• تدقيق مستقل. أشار إلى المدققين المستقلين بوصفهم آلية واعدة لتعزيز ثقة الجمهور في الشركات التي تطور نماذج أكثر قدرة. 16

والنتيجة العملية لذلك هي وضع عبء إثبات أعلى على الأنظمة الأشد قدرة: ينبغي اختبار تدابير السلامة وإثبات مصداقيتها قبل قرارات النشر، لا التعامل معها كإضافة متأخرة بعد تسارع القدرات.

كيف تزيد تحذيرات «أنثروبيك» حدة النقاش؟

في الأسبوع نفسه، حذر جاكوب كوكسون، الباحث السابق في «أنثروبيك»، من أن مختبرات رائدة تتسابق نحو ذكاء اصطناعي قادر على تحسين نفسه، بينما «تقامر بحياتنا». ووفقاً للتغطية التي تناولت استقالته، كان يعتقد أن الباحثين الذين يبنون هذه الأنظمة يخشون بجدية أن تصبح أقوى من أن يظل البشر قادرين على التحكم بها. 17

لهجة كوكسون أكثر مباشرة من صياغة ألتمان، لكن القلق الجوهري متداخل: قد تتقدم القدرات أسرع من قدرتنا على الإشراف الموثوق على الأنظمة. وشمل نقاش علني وردت تقاريره تصريحات لإيفان هوبينغر، قائد أبحاث المواءمة في «أنثروبيك»، قدّر فيها شخصياً احتمالاً يتجاوز 10% لأن يتسبب الذكاء الاصطناعي في انقراض البشر خلال عقد، وأقر بأن حلاً كاملاً لمواءمة الذكاء الفائق لا يوجد بعد. وهذا تقدير فردي للمخاطر، وليس توقعاً مثبتاً أو احتمالاً علمياً محسومًا. 17

المغزى ليس أن جدولاً زمنياً محدداً للانقراض قد ثبت؛ فهذا لم يحدث. بل إن باحثين قريبين من تطوير النماذج المتقدمة يتجادلون علناً حول ما إذا كانت ممارسات السلامة الحالية تتقدم بالسرعة الكافية مقارنة بالأنظمة التي يجري تطويرها.

الخلاف الحقيقي في القطاع: القدرات أولاً أم السلامة أولاً؟

غالباً ما يُصوَّر الانقسام الناشئ كصراع بين تسريع الذكاء الاصطناعي وإبطائه، لكن هذا التوصيف ناقص. فأغلب الأطراف تقر بأن الذكاء الاصطناعي قد يحقق فوائد كبيرة؛ والخلاف يدور حول ترتيب الخطوات وقابلية القواعد للتنفيذ.

يرى اتجاه أن تطوير الأنظمة المتقدمة ينبغي أن يُضبط بإيقاع يتيح لأبحاث السلامة والتقييمات والحوكمة والاستجابة لإساءة الاستخدام وقتاً للنضج. ودعا داريو أمودي، الرئيس التنفيذي لـ«أنثروبيك»، إلى إبطاء وتيرة التقدم في القدرات، واقترح إجراءات تشمل مقيمين مستقلين يعملون من داخل الشركات، وتنسيقاً بين مختبرات الذكاء الاصطناعي المتقدمة، وتعاوناً دولياً.

وفي المقابل، فإن ضغط المنافسة حقيقي: تخشى الشركات والحكومات أن يعني التباطؤ مقارنة بالمنافسين خسارة ميزة اقتصادية أو جيوسياسية. لكن حجة ألتمان هي أن المنافسة لا تبرر السماح للقدرات بأن تتجاوز المواءمة والمراقبة. 13

وأفادت «رويترز» بأن بعض الباحثين يرون أن قدرات النماذج تصل بوتيرة أسرع من المتوقع، فيما تتراجع قدرة البشر على رؤية كيفية عملها، وربما على التحكم بها. وهذا يجعل سؤال السياسة العامة ملحاً: هل تواصل المختبرات نشر نماذج أكثر استقلالية تدريجياً بينما تلحق بها الضمانات، أم يجب عليها أولاً إثبات أن تلك الضمانات كافية؟

ما الذي يعنيه ذلك لحوكمة الذكاء الاصطناعي؟

تشير تحذيرات ألتمان إلى أن حوكمة الذكاء الاصطناعي المتقدم يجب أن تعالج معاً التحكم التقني وتوزيع القوة. فتقييمات النماذج الأفضل، وأبحاث المواءمة، والمراقبة، والرقابة المستقلة تعالج المشكلة الأولى. أما القواعد المتسقة والشفافية والحدود على السيطرة الأحادية فتعالج الثانية.

لا ينبغي التعامل مع التنبؤات الكارثية أو الجداول الزمنية الدقيقة باعتبارها حقائق مستقرة. لكن جسامة العواقب المحتملة إذا فشلت هذه الأنظمة هي ما نقل الدعوات إلى تقييمات أقوى وتدقيق خارجي ومتطلبات سلامة من هامش النقاش إلى صميم السؤال الذي يواجه قطاع الذكاء الاصطناعي. 13