Shieldstral 1.0 Mistral: Model Kecil, Prestasi Gergasi dalam Keselamatan AI

Bagaimana reka bentuk moderasi soal-jawab berfungsi

Shieldstral menilai kandungan berdasarkan dasar yang dinyatakan sebagai soalan ya/tidak dalam bahasa biasa. Setiap permintaan mempunyai tiga bahagian :

• <Instruct>: Rangka tugas peringkat tinggi — konteks penilaian dan tahap ketat (secara pilihan, mentakrifkan apa yang dianggap tidak selamat).
• <Query>: Satu soalan ya/tidak tentang dokumen, seperti "Adakah kandungan ini mempromosikan keganasan fizikal?"
• <Document>: Kandungan untuk dinilai — prompt, respons, pasangan prompt–respons, atau imej (dengan teks pilihan).

Model ini mengembalikan satu skor keselamatan berterusan daripada satu hantaran ke hadapan, yang boleh diambang untuk keputusan selamat/tidak selamat . Mistral mengesyorkan satu dasar setiap pertanyaan; untuk pelbagai dasar, setiap dasar memerlukan panggilan inferens sendiri .

Reka bentuk ini menghapuskan keperluan untuk taksonomi bahaya tetap yang dibenamkan semasa latihan. Sebaliknya, Shieldstral menyesuaikan diri dengan mana-mana dasar yang boleh dinyatakan oleh pembangun sebagai soalan ya/tidak — membolehkan penyatuan pelbagai set data keselamatan yang dibina berdasarkan taksonomi berbeza ke dalam satu rangka kerja latihan .

Prestasi pada penanda aras keselamatan

Shieldstral menandingi atau mengatasi model pengawal terbuka sehingga 7× saiznya dalam keselamatan teks dan menetapkan tahap baharu dalam keselamatan multimodal . Keputusan berikut adalah daripada penilaian yang diterbitkan Mistral :

Klasifikasi keselamatan teks — F1 (%)

Keselamatan multimodal — F1 (%)

Keseluruhan F1 keselamatan teks: 84.9%; keselamatan multimodal F1: 83.8% — mendahului setiap model yang diuji . Untuk keselamatan teks, 84.9% Shieldstral adalah sama dengan GPT-OSS-Safeguard-20B, model yang hampir 7× saiznya .

Spesifikasi utama dan pelesenan

Pelan pembangunan masa depan

Mistral tidak menerbitkan peta jalan khusus untuk Shieldstral selepas keluaran 1.0. Model ini diposisikan sebagai ahli sulung Open Secure AI Alliance (bersama NVIDIA dan lain-lain) dan sebagai blok binaan asas untuk keselamatan yang boleh menyesuaikan dasar . Memandangkan cita-cita Mistral yang dinyatakan untuk menjadi "pemain penuh-stack" dalam AI — daripada cip di pusat data kepada aplikasi perisian — lelaran Shieldstral pada masa hadapan mungkin melihat skala yang lebih besar, sokongan modaliti yang lebih luas, atau integrasi yang lebih ketat dengan alat agen Mistral (Vibe, Forge) dan timbunan penggunaan perusahaan . Tiada kaden versi atau garis masa ciri khusus telah diumumkan.

Tadbir urus dan implikasi praktikal

Oleh kerana Shieldstral dikeluarkan di bawah pemberat terbuka dengan lesen Apache 2.0, mana-mana organisasi boleh memuat turun dan mengehos sendiri model ini tanpa perjanjian komersial dengan Mistral . Ini mengalihkan tadbir urus moderasi kandungan ke dalam rumah: pasukan boleh menyesuaikan taksonomi bahaya kepada khalayak atau konteks penggunaan tertentu tanpa melatih semula model asas, dan mereka boleh mengambang skor keselamatan untuk dipadankan dengan toleransi risiko mereka sendiri . Model ini direka untuk moderasi prompt, moderasi respons, klasifikasi pasangan prompt-respons, pengesanan penolakan, dan penapisan keselamatan am merentas input teks dan imej .