توقع جاك كلارك لعام 2028: لماذا يقلق الخبراء من ذكاء اصطناعي يبني خليفته؟

بعبارة أبسط: يحذر كلارك من انتقال الذكاء الاصطناعي من دور المساعد للبشر في بناء ذكاء اصطناعي أفضل، إلى دور يسيطر على جزء كبير من عملية التطوير نفسها، بحيث يمكن إنتاج النموذج التالي بمشاركة بشرية ضئيلة أو معدومة .

ماذا يعني أن يبني الذكاء الاصطناعي خليفته؟

الخليفة هنا هو النظام التالي، الأكثر قدرة، في سلسلة تطوير النماذج. قلق كلارك هو أن نظاماً متقدماً بما يكفي قد يشارك في الأعمال الحاسمة اللازمة لصناعة ذلك النظام التالي، أو يؤتمتها .

وهذا يختلف عن الصورة المألوفة اليوم للذكاء الاصطناعي كمساعد برمجة. كتابة الكود مهمة واحدة داخل عملية بحثية أوسع. أما السيناريو الذي يتحدث عنه كلارك فيتعلق بأتمتة خط البحث والتطوير نفسه: تصميم النماذج، تدريبها، تقييمها، ثم تحسينها .

النقطة المهمة أن كلارك لا يقول إن هذا حدث بالفعل. هو يقدم توقعاً احتماليّاً لما قد يحدث قبل نهاية 2028 .

لماذا يسمى ذلك التحسين الذاتي التكراري؟

يوصف هذا السيناريو غالباً باسم التحسين الذاتي التكراري: نظام ذكاء اصطناعي يساعد في إنشاء نظام أقوى، ثم يستخدم النظام الأقوى قدراته للمساعدة في إنشاء نظام أقوى منه، وهكذا .

النسخة الأعلى خطراً من هذه الحلقة ليست مجرد أن الذكاء الاصطناعي يحسن البرمجيات. الخطر أن تصبح الآلة التي تحسن الذكاء الاصطناعي أكثر قدرة في كل جيل. لذلك تربط تقارير عن تحذير كلارك هذا الاحتمال بفكرة انفجار الذكاء، حيث تتسارع قدرات الذكاء الاصطناعي عندما تستطيع الأنظمة تحسين الأنظمة التي تأتي بعدها .

لهذا لا يُعامل التوقع كإنجاز تقني عادي. إذا انتقل عنق الزجاجة في تقدم الذكاء الاصطناعي من الباحثين البشر إلى أنظمة ذكاء اصطناعي تطور أنظمة ذكاء اصطناعي أخرى، فقد تصبح وتيرة نمو القدرات أصعب على البشر في المراقبة والضبط والحوكمة .

أين يكمن الخطر؟

الخطر المركزي هو فقدان الإشراف الفعّال على خط تطوير الذكاء الاصطناعي. في عملية بحث وتطوير مؤتمتة من البداية إلى النهاية، قد تتراجع نقاط التحقق البشرية قبل أن يظهر نظام خليفة أكثر قدرة .

ويتفرع من ذلك ثلاثة مخاوف رئيسية:

• نقاط مراجعة بشرية أقل. إذا استطاعت أنظمة الذكاء الاصطناعي تنفيذ قدر كافٍ من البحث والتدريب والتحسين بمفردها، فقد يتاح للشركات والباحثين وقت أقل لاختبار السلامة قبل ظهور النظام التالي .
• تسارع أكبر في القدرات. تحذير كلارك مرتبط بإمكان زيادة سرعة تقدم الذكاء الاصطناعي عندما يبدأ الذكاء الاصطناعي بتحسين الذكاء الاصطناعي، وهي ديناميكية وُصفت في التغطيات بأنها خطر انفجار الذكاء .
• ضغط على الحوكمة. كتب كلارك أن الآثار المترتبة على أتمتة بحث وتطوير الذكاء الاصطناعي كبيرة، وأنه غير واثق من أن المجتمع مستعد لنوع التغيرات التي قد تترتب عليها .

بكلمات أخرى: ليست الصورة هنا روبوتاً يصنع روبوتاً كما في أفلام الخيال العلمي. المسألة هي حلقة إنتاج أسرع وأكثر أتمتة لنماذج ذكاء اصطناعي متقدمة، قد تتحرك بوتيرة تتجاوز الإيقاع المعتاد لاختبارات السلامة والتنظيم والفهم العام .

ما الذي لا يزال غير محسوم؟

تقدير كلارك، أي أكثر من 60%، هو حكم احتمالي وليس حقيقة مثبتة . والجدول الزمني نفسه محل خلاف.

إحدى القراءات النقدية للتوقع ترى أن التحسين الذاتي التكراري الكامل، من البداية إلى النهاية ومن دون بشر، بحلول 2028 غير مرجح، وتضع الاحتمال دون 10%، مع الإقرار بأن شيئاً شبيهاً قد يصبح ممكناً على مدى أطول يصل إلى 2036 .

هناك أيضاً خلاف تقني حول ما إذا كان التحسين الذاتي التكراري سيؤدي فعلاً إلى مكاسب متسارعة. تقرير نقل عن عالم الحاسوب بيدرو دومينغوس أن المسألة ليست فقط قدرة أنظمة الذكاء الاصطناعي على توليد البرمجيات أو تعديلها، بل ما إذا كان ذلك سيؤدي إلى عوائد متزايدة وموثوقة؛ وهو يرى أن هذا لم يثبت بوضوح حتى الآن .

هذه الفروق مهمة. فقولنا إن الذكاء الاصطناعي يستطيع مساعدة أبحاث الذكاء الاصطناعي، أو يستطيع أتمتة معظم البحث والتطوير، أو يستطيع تحسين نفسه بسرعة تكفي لإحداث انفجار في الذكاء، ليست عبارات متطابقة، وإن كانت مترابطة . تحذير كلارك يتعلق بالنسخة الأكثر حساسية وتأثيراً من هذا المسار .

الخلاصة

يتوقع كلارك أنه بحلول نهاية 2028 قد يصبح من الأرجح وجود أنظمة ذكاء اصطناعي قادرة على تنفيذ بحث وتطوير بلا تدخل بشري، وبناء خلفائها على نحو معقول .

إذا كان محقاً، فلن يكون الخطر مجرد ابتكار أسرع. الخطر أن تبدأ صناعة أنظمة ذكاء اصطناعي أقوى بالتحرك أسرع مما تستطيع الرقابة البشرية واختبارات السلامة والحوكمة مواكبته . أما التحفظ الأهم، فهو أن هذا لا يزال توقعاً متنازعاً عليه، مع منتقدين يرون أن موعد 2028 قد يكون متفائلاً أو مبالغاً في قربه .