الإجاباتمنشور24 المصادر
أوبن إيه آي تفتح نماذجها المتقدمة لمراجعات سلامة مستقلة في مراحل أبكر
تقول أوبن إيه آي إنها ستمنح جهات مستقلة وصولاً أعمق لتقييم سلامة النماذج المتقدمة أثناء التدريب والتقييم والنشر، لا قبيل الإطلاق فقط. تطرح الشركة أربعة شروط لمراجعة موثوقة: الاستقلالية، والصرامة العلمية، والأمن، وتحديد المسؤوليات بوضوح.
نشر بواسطةتم التحرير باستخدام GPT-5.6 Terraتم إنشاء الصور باستخدام GPT Image 2
إجابة البحث
الوجبات السريعة الرئيسية
- تقول أوبن إيه آي إنها ستمنح جهات مستقلة وصولاً أعمق لتقييم سلامة النماذج المتقدمة أثناء التدريب والتقييم والنشر، لا قبيل الإطلاق فقط.
- تطرح الشركة أربعة شروط لمراجعة موثوقة: الاستقلالية، والصرامة العلمية، والأمن، وتحديد المسؤوليات بوضوح.
- يرى المنتقدون أن الوعود الطوعية لن تصبح رقابة مستقلة فعلاً ما لم تقترن بحقوق وصول ونشر وتصعيد واضحة، وعواقب عملية عند ظهور نتائج خطرة.
موجّه الذكاء الاصطناعي
openai.comCreate a landscape editorial hero image for this Studio Global article: What is OpenAI’s new plan to allow independent organizations to conduct technical safety assessments earlier in the training, evaluation, an. Article summary: OpenAI says it will give independent organizations deeper, earlier access to frontier models so they can perform technical safety assessments during training, evaluation, and deployment—not merely shortly before release.. Topic tags: general, news, general web, user generated. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, charts w
تقول أوبن إيه آي إنها ستدعم تقييمات تقنية مستقلة للسلامة في مراحل أبكر من دورة تطوير نماذج الذكاء الاصطناعي المتقدمة: أثناء التدريب والتقييم والنشر، بدلاً من حصرها في الفترة القريبة من الإطلاق. والهدف المعلن هو منح جهات خارجية وصولاً كافياً لاختبار ادعاءات السلامة، ورصد نقاط العمى، والتحقق مما إذا كانت إجراءات التخفيف تعمل فعلاً. 5
يمثل ذلك توسعاً ملحوظاً عن نموذج «الفريق الأحمر» الذي يختبر المنتج قبيل طرحه. لكنه، وفق ما أُعلن حتى الآن، إطار طوعي وليس نظام ترخيص خارجي أو قاعدة ملزمة توقف النشر. ولذلك ستتحدد قيمته العملية بشروط الوصول، واستقلال المقيمين، وما يترتب على اكتشافهم مخاطر جسيمة.
ما الذي سيفحصه المقيمون الخارجيون؟
تصف أوبن إيه آي تقييمات الطرف الثالث بأنها وسيلة لاختبار الأدلة التي تستند إليها ادعاءات قدرات النماذج المتقدمة ومخاطرها وضماناتها بصورة مستقلة. وتقول إن العمل ينبغي أن يتمتع بوصول عميق عبر التدريب والتقييم والنشر. 5
وتفيد تقارير عن الإطار بأن إحدى الأولويات هي التقييم المستقل لـ«حالة السلامة» التي تقدمها الشركة، عبر التدريب والتقييم والنشر الداخلي والنشر الخارجي. كما يحدد الإطار أربعة مجالات للتقييم وسبعة مبادئ لتشغيله، مع منح المختبرات وقتاً لمعالجة النتائج قبل النشر، وإتاحة طلب حجب بعض المعلومات. 2
تكمن أهمية المراجعة المبكرة في أن التقييم الذي لا يأتي إلا في نهاية التطوير قد يكتشف مشكلات بعد اتخاذ قرارات تقنية وتجارية يصبح التراجع عنها صعباً. لكن إتاحة الوصول في مرحلة مبكرة قد تكشف أيضاً أوزان النماذج أو قدراتها أو مواد الاختبار الحساسة، وهي قيود أمنية حقيقية يجب إدارتها.
الشروط الأربعة لمراجعة موثوقة
تحدد أوبن إيه آي أربعة متطلبات أساسية لنجاح تقييمات الطرف الثالث: آليات استقلال قوية، وصرامة علمية، وممارسات أمن متينة، ومسؤوليات واضحة. 5
الاستقلالية
لا تكون المراجعة مستقلة فعلياً إذا كان المطور يفرض منهجيتها، أو يضيّق نطاق الوصول بعد نتيجة غير مريحة، أو يوقف التمويل لأنه لا يرضى عن الاستنتاجات. فالاستقلالية تتعلق بالحوكمة والتمويل والنطاق والتواصل، لا بمجرد كون المقيم موظفاً خارج الشركة.
وطالب تحالف من المقيمين أيضاً باستقلال جوهري يحميهم من سيطرة الشركات الخاضعة للتقييم، ويمنحهم صلاحية نشر النتائج الرئيسية، مع استثناءات محدودة ومحددة بوضوح للمعلومات التي تستدعي الحجب. 17
34
الصرامة العلمية
تحتاج التقييمات إلى خبراء مؤهلين، ومنهجيات سليمة، وأدلة قابلة للفحص أو إعادة الإنتاج. ويرى «مؤشر سلامة الذكاء الاصطناعي» الصادر عن معهد مستقبل الحياة أن المجال يحتاج إلى منهجيات أقوى واستقلالية أكبر، بدلاً من تقييمات مجزأة وضعيفة الصلاحية. 8
12
الأمن
قد ينطوي منح أطراف خارجية وصولاً أبكر إلى الأنظمة المتقدمة على مخاطر بحد ذاته. وتقول أوبن إيه آي إن على المطورين تمكين التدقيق الهادف مع حماية المعلومات الحساسة. 5 وينبغي أن يحد الأمن من الكشف غير الضروري، لا أن يتحول إلى مبرر شامل لمنع التقييم أو إخفاء النتائج الجوهرية.
المسؤوليات والمساءلة
تتطلب العملية الموثوقة أدواراً محددة: من يتيح الوصول؟ من يختار المنهج؟ من يتلقى النتائج؟ من يقرر كفاية إجراءات التخفيف؟ وماذا يحدث إن بقيت مشكلة خطرة بلا حل؟ من دون مسارات واضحة للإبلاغ والتصعيد، قد تتحول المراجعة إلى نصيحة يمكن للإدارة تجاهلها بصمت.
ما علاقتها بمواءمة الذكاء الاصطناعي والتحسين الذاتي التكراري؟
تقييم الطرف الثالث آلية رقابة وتحقيق، لا حل تقني لمشكلة مواءمة الذكاء الاصطناعي مع الأهداف والقيم البشرية. وظيفته هي اختبار ما إذا كانت ادعاءات الشركة بشأن المخاطر وإجراءات الحد منها مدعومة بالأدلة.
وفي مسار منفصل، تدعو الخطة الفدرالية التي قدمتها أوبن إيه آي مطوري النماذج المتقدمة إلى تقييم المخاطر والتخفيف منها في مجالات القدرات السيبرانية، والمخاطر الكيميائية والبيولوجية والإشعاعية والنووية، وفقدان السيطرة، وعدم المواءمة، والتقدم نحو التحسين الذاتي التكراري (RSI). كما تدعو إلى أطر سلامة وتقارير شفافية عامة، مع تنقيحات مناسبة لحماية الأمن والمعلومات التجارية والملكية. 7
بهذا المعنى، يستطيع المقيمون الخارجيون المساعدة في التحقق من مصداقية اختبارات المطور وضماناته، لكنهم لا يحلون بمفردهم مخاطر فقدان السيطرة أو عدم المواءمة أو التحسين الذاتي التكراري.
مقارنة مع نموذج المقيمين المدمجين لدى أنثروبيك
يدافع داريو أمودي، الرئيس التنفيذي لشركة أنثروبيك، عن نموذج أكثر استمرارية: مقيمون مستقلون من طرف ثالث يعملون داخل مختبرات الذكاء الاصطناعي المتقدمة بوصول شبيه بوصول الموظفين. وبموجب هذا النهج، لا يقتصر الفحص على النموذج النهائي، بل يمتد إلى مسارات التدريب وممارسات النشر والضمانات الداخلية وحوادث السلامة المهمة. 18
21
وأعلنت أنثروبيك ترتيباً يتيح لموظفي أكسنتشر العمل داخل الشركة لتدقيق النماذج والممارسات، فيما تناقش تجارب مع جهات أخرى. لكنها أقرت أيضاً بأن معايير الوصول ووسائل التواصل الخاصة بالمقيمين لم تُحسم بعد. 19
22
يتقاطع إطار أوبن إيه آي مع هذا الهدف في الدعوة إلى تدقيق أسبق وأعمق، لكن وصفه العلني يركز على تقييمات تقنية عبر مراحل التطوير. أما ما إذا كان سيمنح وصولاً مستمراً بمستوى نموذج المقيمين المدمجين، فلا تزال تفاصيله غير مكتملة علناً. 5
لماذا تُطرح معايير مشتركة للصناعة؟
تشير التقارير إلى أن أنثروبيك وأوبن إيه آي وغوغل ديب مايند ناقشت إنشاء هيئة طوعية مشتركة لمعايير سلامة الذكاء الاصطناعي. 20 وقد تسهّل المعايير المشتركة مقارنة مناهج التقييم، وتعريف عتبات المخاطر، ووضع توقعات متسقة للإبلاغ عن الحوادث.
لكن هيئة المعايير لا تزيل تلقائياً تضارب المصالح، ولا تخلق سلطة إنفاذ. وتكون المعايير الطوعية أقوى عندما تقترن بقياس شفاف، وتحقيق مستقل، وعواقب ذات معنى عند عدم الامتثال.
لماذا يبقى النقاد متشككين؟
لا يرفض المنتقدون بالضرورة الاختبارات الخارجية، بل يشككون في قدرة ترتيب تتحكم فيه الشركة المطورة على توفير رقابة مستقلة حقاً. فالشركة قد تظل قادرة على اختيار المقيمين، وتحديد مستوى الوصول، وتأخير العمل، وطلب حجب نتائج، أو المضي في النشر رغم النتائج السلبية.
وتتركز المخاوف في نقاط عملية:
- استقلال التمويل والمؤسسة: يجب حماية المقيمين من الضغط المالي أو إنهاء العلاقة بعد استنتاجات غير مواتية.
17
34
- الوصول الكافي وفي الوقت المناسب: ينبغي أن يصل الاختبار إلى النماذج والأنظمة وقرارات التطوير ذات الصلة، وفي وقت يسمح بتغيير المسار.
- حرية إيصال النتائج: قد تكون التنقيحات الأمنية مبررة، لكن يجب أن تكون ضيقة وتحكمها قواعد تمنع إخفاء جوهر النتيجة السلبية.
2
- التصعيد والعواقب: تحتاج المراجعة إلى طريق مباشر إلى أصحاب القرار وإلى استجابة محددة عندما تتجاوز المخاطر عتبة معينة.
وانتقد الباحث السابق في أوبن إيه آي دانيال كوكوتاجلو المختبرات الكبرى لاندفاعها في السعي إلى حصة السوق، وهو ما يعكس قلقاً أوسع من أن الضغوط التنافسية والمالية تجعل التأخير الطوعي مكلفاً. 36
40 المشكلة هنا بنيوية: ما دامت الشركات تحتفظ بالسيطرة المنفردة على الوصول والنشر وقرار الإطلاق، فقد تحسن مراجعة الطرف الثالث جودة الأدلة، من دون أن ترقى إلى رقابة مستقلة.
الخلاصة
تنقل مبادرة أوبن إيه آي تقييم السلامة إلى مرحلة أبكر، حيث يمكن للنتائج، من حيث المبدأ، أن تؤثر في قرارات التدريب والنشر. وأركانها الأربعة المعلنة — الاستقلالية والصرامة والأمن ووضوح المسؤوليات — تمثل معايير منطقية. 5
لكن الاختبار الحاسم هو تحويل هذه المعايير إلى شروط تشغيل فعلية: وصول دائم للمقيمين، وحرية منهجية، وحماية للإبلاغ، وشفافية في التعامل مع التنقيحات، وآلية موثوقة للتصرف عند ظهور مخاطر خطرة. ومن دون هذه الضمانات، قد تكون التقييمات الخارجية المبكرة شكلاً مفيداً من الاختبارات الهجومية، لكنها لن تحقق مستوى الرقابة المستقلة الذي يطالب به النقاد.
Studio Global AI
مواصلة البحث الخاص بك
تتضمن هذه الصفحة إجابة مدعومة بالمصدر يمكنك المتابعة داخل Studio Global.
يسأل الناس أيضا
ما هي الإجابة المختصرة على "أوبن إيه آي تفتح نماذجها المتقدمة لمراجعات سلامة مستقلة في مراحل أبكر"؟
تقول أوبن إيه آي إنها ستمنح جهات مستقلة وصولاً أعمق لتقييم سلامة النماذج المتقدمة أثناء التدريب والتقييم والنشر، لا قبيل الإطلاق فقط.
ما هي النقاط الأساسية التي يجب التحقق منها أولاً؟
تقول أوبن إيه آي إنها ستمنح جهات مستقلة وصولاً أعمق لتقييم سلامة النماذج المتقدمة أثناء التدريب والتقييم والنشر، لا قبيل الإطلاق فقط. تطرح الشركة أربعة شروط لمراجعة موثوقة: الاستقلالية، والصرامة العلمية، والأمن، وتحديد المسؤوليات بوضوح.
ماذا يجب أن أفعل بعد ذلك في الممارسة العملية؟
يرى المنتقدون أن الوعود الطوعية لن تصبح رقابة مستقلة فعلاً ما لم تقترن بحقوق وصول ونشر وتصعيد واضحة، وعواقب عملية عند ظهور نتائج خطرة.