Mistral Shieldstral 1.0: Klasifikator Keamanan 3B Berbobot Terbuka yang Kalahkan Model 7 Kali Lebih Besar

Cara kerja desain moderasi tanya-jawab

Shieldstral mengevaluasi konten terhadap kebijakan yang dinyatakan sebagai pertanyaan ya/tidak dalam bahasa sehari-hari. Sebuah permintaan memiliki tiga bagian :

• <Instruct>: Kerangka tugas tingkat tinggi — konteks evaluasi dan tingkat ketat (opsional mendefinisikan apa yang dianggap tidak aman).
• <Query>: Satu pertanyaan ya/tidak tentang dokumen, misalnya "Apakah konten ini mempromosikan kekerasan fisik?"
• <Document>: Konten yang akan dievaluasi — sebuah prompt, respons, pasangan prompt-respons, atau gambar (opsional dengan teks menyertainya).

Model mengembalikan satu skor keamanan berkelanjutan dari satu forward pass, yang dapat diberi ambang batas untuk keputusan aman/tidak aman biner . Mistral merekomendasikan satu kebijakan per kueri; untuk banyak kebijakan, masing-masing mendapatkan panggilan inferensi sendiri .

Desain ini menghilangkan kebutuhan akan taksonomi bahaya tetap yang tertanam selama pelatihan. Sebaliknya, Shieldstral beradaptasi dengan kebijakan apa pun yang dapat diungkapkan pengembang sebagai pertanyaan ya/tidak — memungkinkan penggabungan kumpulan data keamanan beragam yang dibangun di atas taksonomi berbeda ke dalam kerangka pelatihan tunggal .

Performa pada tolok ukur keamanan

Shieldstral menyamai atau mengungguli model pengaman terbuka hingga 7× ukurannya pada keamanan teks dan menetapkan standar baru pada keamanan multimodal . Hasil berikut berasal dari evaluasi yang diterbitkan Mistral :

Klasifikasi keamanan teks — F1 (%)

Keamanan multimodal — F1 (%)

Skor F1 keamanan teks keseluruhan: 84,9%; keamanan multimodal: 83,8% — unggul dari semua model yang diuji . Pada keamanan teks, Shieldstral dengan 84,9% seri dengan GPT-OSS-Safeguard-20B, model hampir 7× ukurannya .

Spesifikasi utama dan lisensi

Rencana pengembangan ke depan

Mistral belum menerbitkan peta jalan spesifik untuk Shieldstral di luar rilis 1.0. Model ini diposisikan sebagai anggota perdana Open Secure AI Alliance (dengan NVIDIA dan lainnya) serta sebagai fondasi untuk keamanan yang adaptif terhadap kebijakan . Mengingat ambisi Mistral yang dinyatakan sebagai "full-stack player" di AI — mulai dari chip di pusat data hingga aplikasi perangkat lunak — iterasi Shieldstral di masa depan dapat mencakup skala yang lebih besar, dukungan modalitas yang lebih luas, atau integrasi yang lebih erat dengan alat agen Mistral (Vibe, Forge) dan tumpukan penyebaran perusahaan . Belum ada jadwal versi atau garis waktu fitur spesifik yang diumumkan.

Tata kelola dan implikasi praktis

Karena Shieldstral dirilis di bawah bobot terbuka dengan lisensi Apache 2.0, organisasi mana pun dapat mengunduh dan menghosting sendiri model tersebut tanpa perjanjian komersial dengan Mistral . Ini mengalihkan tata kelola moderasi konten ke internal: tim dapat menyesuaikan taksonomi bahaya untuk audiens tertentu atau konteks penyebaran tanpa melatih ulang model yang mendasarinya, dan mereka dapat memberi ambang batas skor keamanan untuk mencocokkan toleransi risiko mereka sendiri . Model ini dirancang untuk moderasi prompt, moderasi respons, klasifikasi pasangan prompt-respons, deteksi penolakan, dan penyaringan keamanan umum di seluruh input teks dan gambar .