الإجاباتمنشور18 المصادر
رئيس الذكاء الاصطناعي في Tencent يحذر من مخاطر بيولوجية تلوح مع تطور النماذج
حذّر ياو شونيو من أن نماذج الذكاء الاصطناعي قد تصبح قادرة قريباً على إحداث ضرر في المجال البيولوجي، كما في الأمن السيبراني. أُطلق نموذج Hy4 في 4 نوفمبر بقدرات على فهم الصور واستخدام الحاسوب، وقالت Tencent إن أوزانه وبطاقة النظام ستصدران لاحقاً.
نشر بواسطةتم التحرير باستخدام GPT-6 Lunaتم إنشاء الصور باستخدام GPT Image 2
إجابة البحث
الوجبات السريعة الرئيسية
- حذّر ياو شونيو من أن نماذج الذكاء الاصطناعي قد تصبح قادرة قريباً على إحداث ضرر في المجال البيولوجي، كما في الأمن السيبراني.
- أُطلق نموذج Hy4 في 4 نوفمبر بقدرات على فهم الصور واستخدام الحاسوب، وقالت Tencent إن أوزانه وبطاقة النظام ستصدران لاحقاً.
- تقول Tencent إن Hy4 سجل 30.4 من 100 في اختبار لتصميم التجارب البيولوجية، وإنها استبعدت مواد سيبرانية هجومية من التدريب وأجرت فرقها الأمنية اختبارات حمراء.
موجّه الذكاء الاصطناعي
openai.comCreate a landscape editorial hero image for this Studio Global article: What did Tencent’s 29-year-old chief AI scientist Yao Shunyu, who joined Tencent last year after a year at OpenAI, warn at the November 7 sc. Article summary: Yao’s central warning was that AI can already cause harm in cyberspace and is approaching a comparable threshold in biology, where separating offensive from defensive capabilities may be even harder. That is a warning ab. Topic tags: general, general web, government, academic, user generated. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, wate
حذّر ياو شونيو، كبير علماء الذكاء الاصطناعي في Tencent، من أن النماذج قد تقترب من امتلاك قدرات بيولوجية تتيح إحداث ضرر، على غرار المخاطر التي باتت ممكنة في الأمن السيبراني. ويشير تحذيره إلى مخاطر تطور النماذج المتقدمة عموماً، لكنه لا يعني أن نموذج Tencent الجديد Hy4 بلغ بالفعل مستوى خطورة بيولوجية مرتفعاً. 2
8
ما الذي حذّر منه ياو؟
تتمحور مخاوف ياو حول اقتراب القدرات البيولوجية للذكاء الاصطناعي من نقطة قد تسمح بإساءة استخدامها. وتشير التغطيات أيضاً إلى أن التمييز بين الاستخدامات الهجومية والدفاعية في المجال البيولوجي قد يكون أصعب من التمييز بينهما في الأمن السيبراني. 1
8
ولا يعني التحذير أن كل نموذج حالي قادر على تنفيذ أعمال بيولوجية ضارة. كما أن للذكاء الاصطناعي استخدامات مفيدة في هذا المجال، مثل تسريع أبحاث الأدوية والعلاجات. 8
ماذا تقول Tencent عن نموذج Hy4؟
أطلقت Tencent نموذج Hy4 في 4 نوفمبر. ويضم النموذج 770 مليار مُعامل، وأضاف قدرات لفهم الصور والاستدلال واستخدام الحاسوب، بما يشمل التعامل مع واجهات سطر الأوامر والواجهات الرسومية. 4
5
وعند الإطلاق، قالت الشركة إن نشر أوزان النموذج وبطاقة النظام التي تتضمن معلومات إضافية عن السلامة أمران مخططان لاحقاً. لذا ينبغي التمييز بين إتاحة النموذج عبر خدمات Tencent وبين نشر أوزانه ومواد التقييم الموعودة. 1
9
12
وفي جانب السلامة البيولوجية، قالت Tencent إن Hy4 سجل 30.4 من 100 في اختبار Hy-BioExperimentBench، الذي يقيس القدرة على تصميم تجارب بيولوجية مفتوحة النهاية، وإن النتيجة أدنى من عتبتها الداخلية للمخاطر العالية. ووفق تقييم الشركة، يمتلك النموذج معرفة أساسية في الأحياء، لكنه محدود في تحويلها إلى بروتوكولات مختبرية قابلة للتنفيذ. 4
13
توفر هذه النتيجة سياقاً للمقارنة مع تحذير ياو، لكنها لا تنفيه مباشرة: فهو يتحدث عن اتجاه تطور قدرات النماذج المتقدمة، فيما تقيس النتيجة المعلنة أداء نموذج واحد بحسب تقييم Tencent. كما أن نتيجة الاختبار والعتبة التي حددتها الشركة لا تشكلان ضماناً مستقلاً لسلامة Hy4. 8
13
إجراءات Tencent المعلنة للأمن السيبراني
تقول Tencent إنها قصرت مواد التدريب السيبراني على محتوى دفاعي، مثل إعداد إثباتات المفهوم للثغرات وترقيعها، واستبعدت مواد تشمل تطوير الاستغلالات والهندسة العكسية واختبارات الاختراق. كما أفادت بأن خبراء من مختبر Xuanwu Lab ومختبر Keen Security Lab التابعين لها أجروا اختبارات حمراء لتدقيق النموذج. 12
هذه إجراءات تقول الشركة إنها اتخذتها، لكنها لا تحسم السؤال الأوسع الذي يطرحه تحذير ياو: كيف يمكن إدارة النماذج مع نمو قدراتها العلمية، حين يصبح الفصل بين الاستخدامات المفيدة والضارة أكثر صعوبة؟ 8
12
Studio Global AI
مواصلة البحث الخاص بك
تتضمن هذه الصفحة إجابة مدعومة بالمصدر يمكنك المتابعة داخل Studio Global.
يسأل الناس أيضا
ما هي الإجابة المختصرة على "رئيس الذكاء الاصطناعي في Tencent يحذر من مخاطر بيولوجية تلوح مع تطور النماذج"؟
حذّر ياو شونيو من أن نماذج الذكاء الاصطناعي قد تصبح قادرة قريباً على إحداث ضرر في المجال البيولوجي، كما في الأمن السيبراني.
ما هي النقاط الأساسية التي يجب التحقق منها أولاً؟
حذّر ياو شونيو من أن نماذج الذكاء الاصطناعي قد تصبح قادرة قريباً على إحداث ضرر في المجال البيولوجي، كما في الأمن السيبراني. أُطلق نموذج Hy4 في 4 نوفمبر بقدرات على فهم الصور واستخدام الحاسوب، وقالت Tencent إن أوزانه وبطاقة النظام ستصدران لاحقاً.
ماذا يجب أن أفعل بعد ذلك في الممارسة العملية؟
تقول Tencent إن Hy4 سجل 30.4 من 100 في اختبار لتصميم التجارب البيولوجية، وإنها استبعدت مواد سيبرانية هجومية من التدريب وأجرت فرقها الأمنية اختبارات حمراء.