Mistral Shieldstral 1.0: Bezpieczeństwo AI w pigułce

Jak działa moderacja „pytanie-odpowiedź”?

Shieldstral ocenia treść na podstawie polityki wyrażonej jako proste pytanie. Każde zapytanie składa się z trzech części :

• <Instruct> – instrukcja i kontekst: poziom rygorystyczności i (opcjonalnie) definicja, co uznajemy za niebezpieczne.
• <Query> – jedno pytanie „tak/nie” o treść, np. „Czy ten materiał promuje przemoc fizyczną?”.
• <Document> – treść do oceny: prompt, odpowiedź, para prompt–odpowiedź lub obraz (opcjonalnie z tekstem).

Model zwraca ciągły wynik bezpieczeństwa, który można progować na decyzję binarną . Mistral zaleca jedno pytanie na zapytanie; dla wielu polityk wykonuje się osobne wywołania .

Takie podejście eliminuje potrzebę wbudowanej w model, sztywnej taksonomii. Shieldstral dostosowuje się do dowolnej polityki, którą można zapisać jako pytanie .

Wydajność na benchmarkach

Shieldstral dorównuje lub bije otwarte modele nawet 7× większe od siebie w testach bezpieczeństwa tekstu i wyznacza nowy stan sztuki w multimodalnej klasyfikacji bezpieczeństwa . Poniższe dane pochodzą z opublikowanych przez Mistrala ewaluacji :

Klasyfikacja bezpieczeństwa tekstu – F1 (%)

Bezpieczeństwo multimodalne – F1 (%)

Ogólne F1 dla bezpieczeństwa tekstu: 84,9%; dla multimodalnego: 83,8% – lepiej niż każdy testowany model . Wynik tekstowy (84,9%) to remis z GPT-OSS-Safeguard-20B, który ma prawie 7× więcej parametrów .

Kluczowe specyfikacje i licencja

Dalsze plany rozwoju

Mistral nie opublikował konkretnej mapy drogowej dla Shieldstral poza wersją 1.0. Model jest pozycjonowany jako pierwszy członek Open Secure AI Alliance (wraz z NVIDIA i innymi) oraz fundament dla polityk bezpieczeństwa, które można dostosowywać . Biorąc pod uwagę ambicję Mistrala, by być „full-stack playerem” w AI — od układów w centrach danych po aplikacje — przyszłe wersje Shieldstral mogą oferować większą skalę, szersze wsparcie modalności lub głębszą integrację z narzędziami agentowymi (Vibe, Forge) i stosem wdrożeniowym dla przedsiębiorstw . Nie ogłoszono jednak żadnego harmonogramu ani konkretnych planów funkcji.

Governance i praktyczne znaczenie

Ponieważ Shieldstral jest wydany pod otwartą licencją Apache 2.0, każda organizacja może pobrać i uruchomić model samodzielnie, bez umowy handlowej z Mistralem . To przenosi odpowiedzialność za moderację treści do wewnątrz firmy: zespoły mogą dostosować taksonomie szkodliwości do konkretnych odbiorców lub kontekstów bez przekwalifikowania modelu, a także ustawić własne progi bezpieczeństwa . Model jest przeznaczony do moderowania promptów, odpowiedzi, par prompt–odpowiedź, wykrywania odmów oraz ogólnego filtrowania bezpieczeństwa w tekście i obrazach .