"إرهاق الموافقة" الذي دفع إلى التغيير

أظهرت البيانات الداخلية لشركة Anthropic أن المستخدمين وافقوا على 97% من طلبات الإذن — بغض النظر عن مدى خطورة الأمر الفعلي . لم يعكس معدل الموافقة شبه العالمي هذا تقييمًا دقيقًا، بل كان نتاج نقر اعتيادي، خاصة في الجلسات الطويلة حيث يتسلل إرهاق الموافقة بسرعة . في الدراسة الخاضعة للرقابة، انهارت معدلات رفض البشر من 13.6% المنخفضة بالفعل إلى حوالي 5% بعد 50+ أمرًا، مما يؤكد أن نموذج الموافقة الفردية يتدهور بشدة بمرور الوقت .

89% منع تلقائي مقابل 13.6% رفض بشري في دراسة شملت 1,053 شخصًا

• معدل اكتشاف البشر: في اختبار مزدوج التعمية مع 1,053 مختبرًا محترفًا بأجر، تم حظر أمر خطير مزروع بنسبة 13.6% فقط (143 شخصًا من أصل 1,053 رفضوه) . بعد 50 أمرًا، انخفض المعدل إلى حوالي 5% .
• معدل اكتشاف الوضع التلقائي: حجب المصنف 89% من نفس الأوامر الخطيرة المزروعة .
• في الإنتاج، أنتجت الجلسات التي تتطلب موافقة يدوية ضررًا غير مقصود بمعدل الضعف مقارنة بجلسات الوضع التلقائي .

المخاطر المتبقية: نسبة خطأ 11% وعدم اكتشاف أي هجوم بحقن الأوامر

• نسبة خطأ 11%: يفشل المصنف في حظر حوالي 11% من الأوامر الخطيرة .
• التقييمات العدائية الاصطناعية: أدت تمارين الاختراق من طرف ثالث إلى خفض نسبة خطأ المصنف بشكل أكبر ولكنها لم تستطع القضاء عليها تمامًا . لم يكتشف النظام أي هجوم بحقن الأوامر (prompt injection) في الاختبارات، على الرغم من أن هذا قد يعكس تصميم الاختبار وليس مناعة عامة .
• الحالات الحدودية: تظل الأوامر الخبيثة الجديدة أو المبهمة التي تقع خارج نطاق تدريب المصنف خطرًا متبقيًا .

الضمانات وآليات التجاوز

• يقوم المصنف بتقييم كل استدعاء أداة بشكل مستقل — الوضع التلقائي ليس منح إذن شامل .
• يمكن للمستخدمين التبديل مرة أخرى إلى وضع الموافقة اليدوية في أي وقت داخل الجلسة .
• يمكن لمسؤولي Team و Enterprise تثبيت وضع افتراضي (يدوي أو تلقائي) لمؤسستهم بأكملها، متجاوزين الإعداد الافتراضي للمستخدم .
• يواصل برنامج الاختراق الخارجي (red-teaming) من Anthropic اختبار وتقوية المصنف .
• بالنسبة لحسابات Enterprise، يظل الوضع التلقائي اختياريًا في الوقت الحالي، مع خطة لتفعيله افتراضيًا خلال حوالي شهر من الإطلاق الأولي .

تفاصيل الطرح والتسعير حسب الشريحة

ملاحظة تسعير رئيسية: أكدت Anthropic أنها توقفت عن تحصيل رسوم من المستخدمين على هذه الخطط مقابل توكنات المصنف الإضافية التي يستهلكها الوضع التلقائي؛ حيث تم استيعاب هذه التكاليف في الاشتراك الحالي .

"إرهاق الموافقة" الذي دفع إلى التغيير

أظهرت البيانات الداخلية لشركة Anthropic أن المستخدمين وافقوا على 97% من طلبات الإذن — بغض النظر عن مدى خطورة الأمر الفعلي . لم يعكس معدل الموافقة شبه العالمي هذا تقييمًا دقيقًا، بل كان نتاج نقر اعتيادي، خاصة في الجلسات الطويلة حيث يتسلل إرهاق الموافقة بسرعة . في الدراسة الخاضعة للرقابة، انهارت معدلات رفض البشر من 13.6% المنخفضة بالفعل إلى حوالي 5% بعد 50+ أمرًا، مما يؤكد أن نموذج الموافقة الفردية يتدهور بشدة بمرور الوقت .

89% منع تلقائي مقابل 13.6% رفض بشري في دراسة شملت 1,053 شخصًا

• معدل اكتشاف البشر: في اختبار مزدوج التعمية مع 1,053 مختبرًا محترفًا بأجر، تم حظر أمر خطير مزروع بنسبة 13.6% فقط (143 شخصًا من أصل 1,053 رفضوه) . بعد 50 أمرًا، انخفض المعدل إلى حوالي 5% .
• معدل اكتشاف الوضع التلقائي: حجب المصنف 89% من نفس الأوامر الخطيرة المزروعة .
• في الإنتاج، أنتجت الجلسات التي تتطلب موافقة يدوية ضررًا غير مقصود بمعدل الضعف مقارنة بجلسات الوضع التلقائي .

المخاطر المتبقية: نسبة خطأ 11% وعدم اكتشاف أي هجوم بحقن الأوامر

• نسبة خطأ 11%: يفشل المصنف في حظر حوالي 11% من الأوامر الخطيرة .
• التقييمات العدائية الاصطناعية: أدت تمارين الاختراق من طرف ثالث إلى خفض نسبة خطأ المصنف بشكل أكبر ولكنها لم تستطع القضاء عليها تمامًا . لم يكتشف النظام أي هجوم بحقن الأوامر (prompt injection) في الاختبارات، على الرغم من أن هذا قد يعكس تصميم الاختبار وليس مناعة عامة .
• الحالات الحدودية: تظل الأوامر الخبيثة الجديدة أو المبهمة التي تقع خارج نطاق تدريب المصنف خطرًا متبقيًا .

الضمانات وآليات التجاوز

• يقوم المصنف بتقييم كل استدعاء أداة بشكل مستقل — الوضع التلقائي ليس منح إذن شامل .
• يمكن للمستخدمين التبديل مرة أخرى إلى وضع الموافقة اليدوية في أي وقت داخل الجلسة .
• يمكن لمسؤولي Team و Enterprise تثبيت وضع افتراضي (يدوي أو تلقائي) لمؤسستهم بأكملها، متجاوزين الإعداد الافتراضي للمستخدم .
• يواصل برنامج الاختراق الخارجي (red-teaming) من Anthropic اختبار وتقوية المصنف .
• بالنسبة لحسابات Enterprise، يظل الوضع التلقائي اختياريًا في الوقت الحالي، مع خطة لتفعيله افتراضيًا خلال حوالي شهر من الإطلاق الأولي .

تفاصيل الطرح والتسعير حسب الشريحة

ملاحظة تسعير رئيسية: أكدت Anthropic أنها توقفت عن تحصيل رسوم من المستخدمين على هذه الخطط مقابل توكنات المصنف الإضافية التي يستهلكها الوضع التلقائي؛ حيث تم استيعاب هذه التكاليف في الاشتراك الحالي .