الإجاباتمنشور22 المصادر
أندرو نغ: الحديث عن انقراض البشر بالذكاء الاصطناعي أقرب إلى الخيال العلمي
قال أندرو نغ إن احتمال أن يسبب الذكاء الاصطناعي انقراض البشر «أقرب بكثير إلى الخيال العلمي منه إلى العلم». يرى نغ أن عدم القدرة على التنبؤ الكامل بسلوك الأنظمة مسألة هندسية تُدار بالاختبار والضمانات، لا سبباً لوقف التطوير على نطاق واسع.
نشر بواسطةتم إنشاء الصور باستخدام GPT Image 2
إجابة البحث
الوجبات السريعة الرئيسية
- قال أندرو نغ إن احتمال أن يسبب الذكاء الاصطناعي انقراض البشر «أقرب بكثير إلى الخيال العلمي منه إلى العلم».
- يرى نغ أن عدم القدرة على التنبؤ الكامل بسلوك الأنظمة مسألة هندسية تُدار بالاختبار والضمانات، لا سبباً لوقف التطوير على نطاق واسع.
- وحذّر من أن خطاب المخاطر الوجودية قد يصرف الانتباه عن فوائد الذكاء الاصطناعي، وقد يخدم الدعاية أو تشكيل تنظيمات تفيد الشركات الكبرى القادرة على تحمّل كلفتها.
- ويعطي الأولوية لمخاطر قابلة للرصد، مثل الأمن السيبراني، عبر التقييمات والقيود الوقائية والتحسين الهندسي المتدرج.
موجّه الذكاء الاصطناعي
openai.comCreate a landscape editorial hero image for this Studio Global article: What did AI pioneer Andrew Ng say in his September 17 Bloomberg TV interview about warnings that artificial intelligence could cause human e. Article summary: Andrew Ng rejected the claim that AI is likely to cause human extinction as “much more science fiction than science.” He argued that uncertainty in AI behavior is an engineering problem to manage—not evidence that societ. Topic tags: general web, ai safety, openai, ai, security. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, charts
يرفض أندرو نغ، أحد رواد الذكاء الاصطناعي ومشارك في تأسيس Google Brain ومنصة Coursera، فكرة أن الذكاء الاصطناعي مرجح أن يؤدي إلى انقراض البشرية. وفي مقابلة مع Bloomberg Tech في 17 سبتمبر، وصف هذه المخاوف بأنها «أقرب بكثير إلى الخيال العلمي منه إلى العلم». 8
10
وبحسب نغ، لن تكون أنظمة الذكاء الاصطناعي قابلة للتنبؤ على نحو كامل، لكن ذلك لا يعني وجوب وقف تطويرها بشكل واسع. فهو يعدّ عدم اليقين تحدياً هندسياً يمكن التعامل معه عبر الاختبارات والضمانات وعمليات التطوير المتكررة، إلى أن تبلغ الأنظمة مستوى مقبولاً من الاعتمادية. 10
لماذا انتقد خطاب «نهاية البشرية»؟
قال نغ إن التحذيرات من المخاطر الوجودية قد تضر بتحقيق أكبر منفعة اجتماعية ممكنة من الذكاء الاصطناعي. ولفت إلى أن قطاع التقنية غذّى في مراحل سابقة من موجة الذكاء الاصطناعي مخاوف من أضرار كارثية، في ما بدا أنه مسعى لكسب الاهتمام الإعلامي والتأثير في شكل التنظيم. 8
ويُفهم من موقفه أن القواعد التي تُصاغ حول نماذج «الحدود التقنية» الضخمة فقط قد تمنح أفضلية للمختبرات والشركات القائمة ذات التمويل الكبير، لأنها الأقدر على استيعاب تكاليف الامتثال. 8
10
لكن نغ لا يدعو إلى تجاهل السلامة؛ بل يدعو إلى توجيه الاهتمام إلى الأخطاء والمخاطر المحددة والقابلة للقياس، وفي مقدمتها تهديدات الأمن السيبراني وغيرها من الأضرار المتوقعة. كما حذّر من أن إبطاء التطوير على نطاق واسع قد يبطئ بدوره التقدم في إجراءات السلامة. 10
أين يقف مقارنةً بمعسكر الإبطاء والحذر؟
يرى عدد من قادة وباحثي القطاع أن خطر فقدان السيطرة على أنظمة شديدة التطور يستحق إبطاء وتيرة رفع قدرات النماذج:
- جاكوب كوكسون، الباحث السابق في OpenAI وAnthropic، حذّر من أن السباق نحو أنظمة ذاتية التحسين قد يقود إلى كارثة، ودعا إلى التباطؤ.
2
14
- داريو أمودي، الرئيس التنفيذي لـAnthropic، اقترح إبطاء تطوير قدرات النماذج المتقدمة ضمن إطار من ثلاث خطوات، يتضمن تقييماً مستقلاً أقوى، لإتاحة وقت لإدارة المخاطر. وهو لا يدعو إلى إنهاء البحث، بل يرى أن تقدم القدرات سبق إجراءات السلامة والحوكمة.
3
- سام ألتمان، الرئيس التنفيذي لـOpenAI، أيّد المبدأ الأساسي للإبطاء والضمانات في ظل القلق من الاقتراب من أنظمة قد يعجز البشر عن التحكم فيها.
1
9
- جيفري هينتون يرى بدوره أن هناك احتمالاً مهماً لخروج الذكاء الاصطناعي عن السيطرة البشرية، ويؤيد التطوير الأبطأ واختبارات ما قبل الإطلاق.
16
الفرق الجوهري هنا يتعلق بتقدير الاحتمال وأولوية السياسة العامة: كوكسون وأمودي وألتمان وهينتون يرون أن مخاطر فقدان السيطرة محتملة بما يكفي لتبرير ضبط وتيرة تطوير النماذج المتقدمة؛ أما نغ فيراها ادعاءات شديدة المضاربة، ويفضل معالجة المخاطر القريبة والمرصودة بأدوات هندسة السلامة المعتادة. 3
10
16
من يعارض الإبطاء؟
تتقاطع نتيجة موقف نغ، الرافضة لإبطاء القطاع برمته، مع مواقف أخرى، وإن اختلفت الدوافع:
- جنسن هوانغ، الرئيس التنفيذي لـNvidia، عارض تشريعات جديدة مخصصة للذكاء الاصطناعي ورفض الدعوة إلى إبطاء واسع.
5
- مارك زوكربيرغ عارض وقفاً يشمل القطاع كله، معتبراً أن الحوافز السوقية والمنافسة ستدفع الشركات إلى جعل نماذجها أكثر أماناً.
- الرئيس دونالد ترامب رفض دعوات الإبطاء ووصف مزاعم خطر الذكاء الاصطناعي بأنها «خدعة»، وقال إن لدى الولايات المتحدة أدوات قائمة لتنظيم الشركات أو ملاحقتها عند إساءة السلوك، مع التشديد على التنافسية الأميركية، وخصوصاً في مواجهة الصين.
- كما رفض متحدث باسم وزارة الخارجية الصينية دعوات إبطاء الذكاء الاصطناعي المتقدم، في موقف يعكس معارضة فرض توقف عالمي من الخارج.
لكن من المهم التمييز بين هذه المواقف: حجة نغ ذات طابع تقني؛ فهي تركز على الأعطال الواقعية والضوابط الهندسية. في المقابل، يركز هوانغ وزوكربيرغ وترامب والموقف الصيني على الابتكار والمنافسة أو التشكيك في القيود التنظيمية الإضافية. 5
7
10
11
ولا تتوافر في المواد المتاحة أدلة كافية لوصف مواقف أيدان غوميز وستيف آيزمان بدقة من القضايا المحددة هنا، مثل الإبطاء الشامل أو أبحاث السلامة أو التنظيم أو الحوكمة الدولية، من دون نسبة آراء إليهما تتجاوز السجل المتاح.
Studio Global AI
مواصلة البحث الخاص بك
تتضمن هذه الصفحة إجابة مدعومة بالمصدر يمكنك المتابعة داخل Studio Global.
يسأل الناس أيضا
ما هي الإجابة المختصرة على "أندرو نغ: الحديث عن انقراض البشر بالذكاء الاصطناعي أقرب إلى الخيال العلمي"؟
قال أندرو نغ إن احتمال أن يسبب الذكاء الاصطناعي انقراض البشر «أقرب بكثير إلى الخيال العلمي منه إلى العلم».
ما هي النقاط الأساسية التي يجب التحقق منها أولاً؟
قال أندرو نغ إن احتمال أن يسبب الذكاء الاصطناعي انقراض البشر «أقرب بكثير إلى الخيال العلمي منه إلى العلم». يرى نغ أن عدم القدرة على التنبؤ الكامل بسلوك الأنظمة مسألة هندسية تُدار بالاختبار والضمانات، لا سبباً لوقف التطوير على نطاق واسع.
ماذا يجب أن أفعل بعد ذلك في الممارسة العملية؟
وحذّر من أن خطاب المخاطر الوجودية قد يصرف الانتباه عن فوائد الذكاء الاصطناعي، وقد يخدم الدعاية أو تشكيل تنظيمات تفيد الشركات الكبرى القادرة على تحمّل كلفتها.
المصادر