"Keletihan pengesahan" yang mendorong perubahan

Telemetri dalaman Anthropic menunjukkan bahawa pengguna meluluskan 97% daripada prompt kebenaran — tidak kira betapa berbahayanya arahan tersebut . Kadar kelulusan yang hampir menyeluruh ini bukan mencerminkan penilaian yang teliti tetapi tabiat klik secara automatik, terutamanya dalam sesi panjang di mana keletihan prompt berlaku dengan cepat . Dalam kajian terkawal, kadar penolakan manusia menurun daripada 13.6% yang sudah rendah kepada kira-kira 5% selepas 50+ prompt, mengesahkan bahawa model kelulusan demi kelulusan merosot dengan teruk dari masa ke masa .

89% kadar sekatan automatik vs. penolakan manusia dalam kajian 1,053 orang

• Kadar tangkapan manusia: Dalam ujian buta berganda dengan 1,053 penguji profesional bergaji, arahan berbahaya yang ditanam hanya disekat 13.6% (143 daripada 1,053 orang menolaknya) . Selepas 50 prompt, ia jatuh kepada ~5% .
• Kadar tangkapan auto mode: Pengelas menyekat 89% daripada arahan berbahaya yang sama .
• Dalam pengeluaran, sesi yang diluluskan secara manual menghasilkan kemudaratan tidak disengajakan dua kali lebih kerap berbanding sesi auto mode .

Risiko baki: 11% kadar terlepas dan sifar tangkapan serangan suntikan prompt

• 11% kadar terlepas: Pengelas gagal menyekat kira-kira 11% daripada arahan berbahaya .
• Penilaian adversarial sintetik: Latihan pasukan merah pihak ketiga mengurangkan lagi kadar terlepas pengelas tetapi tidak dapat menghapuskan sepenuhnya kebocoran . Sistem ini menangkap sifar serangan suntikan prompt dalam ujian, walaupun ini mungkin mencerminkan reka bentuk ujian dan bukan imuniti umum .
• Kes tepi: Arahan berniat jahat yang sangat baharu atau dikaburkan yang berada di luar taburan latihan pengelas kekal sebagai risiko baki .

Mekanisme pengawal dan tindanan

• Pengelas menilai setiap panggilan alat secara bebas — auto mode bukan pemberian kebenaran menyeluruh .
• Pengguna boleh bertukar kembali ke mod kelulusan manual pada bila-bila masa dalam sesi .
• Pentadbir Pasukan dan Perusahaan boleh menetapkan mod lalai (manual atau auto) untuk seluruh organisasi mereka, mengatasi lalai peringkat pengguna .
• Program pasukan merah luaran Anthropic terus menguji dan mengeraskan pengelas .
• Untuk akaun Enterprise, auto mode kekal opt-in buat masa ini, dengan perubahan lalai dirancang dalam kira-kira sebulan selepas pelancaran awal .

Pelancaran dan implikasi harga mengikut segmen

Nota harga utama: Anthropic mengesahkan ia telah berhenti mengecaj pengguna pada pelan ini untuk token pengelas tambahan yang digunakan oleh auto mode — kos tersebut kini diserap ke dalam langganan sedia ada .

"Keletihan pengesahan" yang mendorong perubahan

Telemetri dalaman Anthropic menunjukkan bahawa pengguna meluluskan 97% daripada prompt kebenaran — tidak kira betapa berbahayanya arahan tersebut . Kadar kelulusan yang hampir menyeluruh ini bukan mencerminkan penilaian yang teliti tetapi tabiat klik secara automatik, terutamanya dalam sesi panjang di mana keletihan prompt berlaku dengan cepat . Dalam kajian terkawal, kadar penolakan manusia menurun daripada 13.6% yang sudah rendah kepada kira-kira 5% selepas 50+ prompt, mengesahkan bahawa model kelulusan demi kelulusan merosot dengan teruk dari masa ke masa .

89% kadar sekatan automatik vs. penolakan manusia dalam kajian 1,053 orang

• Kadar tangkapan manusia: Dalam ujian buta berganda dengan 1,053 penguji profesional bergaji, arahan berbahaya yang ditanam hanya disekat 13.6% (143 daripada 1,053 orang menolaknya) . Selepas 50 prompt, ia jatuh kepada ~5% .
• Kadar tangkapan auto mode: Pengelas menyekat 89% daripada arahan berbahaya yang sama .
• Dalam pengeluaran, sesi yang diluluskan secara manual menghasilkan kemudaratan tidak disengajakan dua kali lebih kerap berbanding sesi auto mode .

Risiko baki: 11% kadar terlepas dan sifar tangkapan serangan suntikan prompt

• 11% kadar terlepas: Pengelas gagal menyekat kira-kira 11% daripada arahan berbahaya .
• Penilaian adversarial sintetik: Latihan pasukan merah pihak ketiga mengurangkan lagi kadar terlepas pengelas tetapi tidak dapat menghapuskan sepenuhnya kebocoran . Sistem ini menangkap sifar serangan suntikan prompt dalam ujian, walaupun ini mungkin mencerminkan reka bentuk ujian dan bukan imuniti umum .
• Kes tepi: Arahan berniat jahat yang sangat baharu atau dikaburkan yang berada di luar taburan latihan pengelas kekal sebagai risiko baki .

Mekanisme pengawal dan tindanan

• Pengelas menilai setiap panggilan alat secara bebas — auto mode bukan pemberian kebenaran menyeluruh .
• Pengguna boleh bertukar kembali ke mod kelulusan manual pada bila-bila masa dalam sesi .
• Pentadbir Pasukan dan Perusahaan boleh menetapkan mod lalai (manual atau auto) untuk seluruh organisasi mereka, mengatasi lalai peringkat pengguna .
• Program pasukan merah luaran Anthropic terus menguji dan mengeraskan pengelas .
• Untuk akaun Enterprise, auto mode kekal opt-in buat masa ini, dengan perubahan lalai dirancang dalam kira-kira sebulan selepas pelancaran awal .

Pelancaran dan implikasi harga mengikut segmen

Nota harga utama: Anthropic mengesahkan ia telah berhenti mengecaj pengguna pada pelan ini untuk token pengelas tambahan yang digunakan oleh auto mode — kos tersebut kini diserap ke dalam langganan sedia ada .