Mistral Shieldstral 1.0: De 3B open-gewichten veiligheidclassificator die modellen 7 keer zo groot verslaat

Hoe de vraag-antwoordmoderatiedesign werkt

Shieldstral beoordeelt content aan de hand van een beleid dat is uitgedrukt als een duidelijke ja/nee-vraag. Een verzoek bestaat uit drie delen :

• <Instruct>: Kader op hoog niveau voor de evaluatie — de evaluatiecontext en het strengheidsniveau (optioneel definiërend wat als onveilig geldt).
• <Query>: Een enkele ja/nee-vraag over het document, zoals "Bevordert deze inhoud fysiek geweld?"
• <Document>: De te evalueren content — een prompt, een antwoord, een prompt-antwoordpaar, of een afbeelding (optioneel met begeleidende tekst).

Het model retourneert één continue veiligheidsscore van één enkele forward-pass, die kan worden gedrempeld voor een binaire veilig/onveilig-beslissing . Mistral raadt één beleid per query aan; voor meerdere beleidsregels krijgt elke regel zijn eigen inferentie-aanroep .

Dit ontwerp elimineert de noodzaak van een vaste taxonomie van schade die tijdens de training is ingebakken. In plaats daarvan past Shieldstral zich aan elk beleid aan dat een ontwikkelaar als een ja/nee-vraag kan formuleren — waardoor het mogelijk wordt om diverse veiligheidsdatasets die op verschillende taxonomieën zijn gebouwd, te consolideren in één enkel trainingsraamwerk .

Prestaties op veiligheids-benchmarks

Shieldstral evenaart of overtreft open bewakingsmodellen tot 7× zijn grootte op tekstveiligheid en zet een nieuwe standaard op het gebied van multimodale veiligheid . De volgende resultaten zijn afkomstig van de gepubliceerde evaluaties van Mistral :

Tekstveiligheidsclassificatie — F1 (%)

Multimodale veiligheid — F1 (%)

Algemene tekstveiligheid F1: 84,9%; multimodale veiligheid F1: 83,8% — vóór elk getest model . Op tekstveiligheid is de 84,9% van Shieldstral gelijk aan die van GPT-OSS-Safeguard-20B, een model dat bijna 7× zo groot is .

Belangrijkste specificaties en licenties

Toekomstige ontwikkelingsplannen

Mistral heeft geen specifieke routekaart gepubliceerd voor Shieldstral na de 1.0-release. Het model wordt gepositioneerd als een inaugureel lid van de Open Secure AI Alliance (met NVIDIA en anderen) en als een fundamenteel bouwblok voor beleidsadaptieve veiligheid . Gezien de geuite ambitie van Mistral om een "full-stack-speler" te zijn in AI — van chips in datacentra tot softwaretoepassingen — zouden toekomstige versies van Shieldstral een grotere schaal, bredere modaliteitondersteuning of een strakkere integratie met de agentische tools van Mistral (Vibe, Forge) en de enterprise-implementatiestack kunnen zien . Er is geen versiecadans of specifieke functietijdlijn aangekondigd.

Governance en praktische implicaties

Omdat Shieldstral wordt uitgebracht onder open gewichten met een Apache 2.0-licentie, kan elke organisatie het model downloaden en zelf hosten zonder een commerciële overeenkomst met Mistral . Dit brengt de governance van contentmoderatie in eigen huis: teams kunnen schadetaxonomieën aanpassen aan specifieke doelgroepen of implementatiecontexten zonder het onderliggende model opnieuw te trainen, en ze kunnen veiligheidsscores drempelen om hun eigen risicotolerantie te evenaren . Het model is ontworpen voor promptmoderatie, antwoordmoderatie, classificatie van prompt-antwoordparen, weigeringsdetectie en algemene veiligheidsfiltering voor tekst- en afbeeldingsinvoer .