Mistral Shieldstral 1.0: Liten, men mektig – den åpne sikkerhetsmodellen som utkonkurrerer gigantene

Hvordan spørsmål-og-svar-modereringen fungerer

Shieldstral vurderer innhold mot en policy som uttrykkes som et enkelt ja/nei-spørsmål. En forespørsel består av tre deler :

• <Instruct>: Overordnet rammeverk for vurderingen – kontekst og hvor streng modellen skal være (kan også definere hva som regnes som utrygt).
• <Query>: Ett enkelt ja/nei-spørsmål om dokumentet, for eksempel «Fremmer dette innholdet fysisk vold?»
• <Document>: Innholdet som skal vurderes – en prompt, et svar, et prompt–svar-par eller et bilde (eventuelt med tekst).

Modellen returnerer én enkelt kontinuerlig trygghetsscore fra ett enkelt gjennomkjøring (forward pass). Du kan sette en grenseverdi for å ta en binær trygg/utrygg-beslutning . Mistral anbefaler én policy per forespørsel; hvis du har flere regelsett, får hver sin runde .

Denne utformingen gjør at du ikke trenger en fast liste over faretyper som er innebygd under trening. I stedet tilpasser Shieldstral seg alle regler du kan formulere som et ja/nei-spørsmål – noe som også gjør det mulig å samle ulike sikkerhetsdatasett med forskjellige farekategorier i ett felles treningsrammeverk .

Ytelse på sikkerhetsmålinger

Shieldstral matcher eller slår åpne beskyttelsesmodeller opptil 7 ganger størrelsen på tekstsikkerhet og setter ny standard for multimodal sikkerhet . Tabellene under er hentet fra Mistrals publiserte evalueringer :

Tekstsikkerhetsklassifisering – F1 (%)

Multimodal sikkerhet – F1 (%)

Samlet F1 for tekstsikkerhet: 84,9%; for multimodal sikkerhet: 83,8% – bedre enn alle testede modeller . På tekstsikkerhet ligger Shieldstral likt med GPT-OSS-Safeguard-20B, en modell som er nesten 7 ganger større .

Viktige spesifikasjoner og lisensiering

Fremtidige planer

Mistral har ikke publisert en spesifikk veikart for Shieldstral utover 1.0-utgivelsen. Modellen er posisjonert som et grunnleggende medlem av Open Secure AI Alliance (sammen med NVIDIA og andre) og som en byggestein for policy-tilpasset sikkerhet . Gitt Mistrals ambisjon om å være en «full-stack»-spiller innen AI – fra brikker i datasentre til programvareapplikasjoner – kan fremtidige versjoner av Shieldstral få større skala, bredere støtte for innholdstyper eller tettere integrering med Mistrals agentverktøy (Vibe, Forge) og bedriftsløsninger . Ingen versjonsplan eller konkret tidslinje for nye funksjoner er kunngjort.

Styring og praktisk betydning

Siden Shieldstral er utgitt som åpne vekter under Apache 2.0-lisensen, kan enhver organisasjon laste ned og kjøre modellen selv uten kommersiell avtale med Mistral . Dette flytter ansvaret for innholdsmoderering inn i egen organisasjon: team kan tilpasse farekategoriene til sitt publikum eller bruksområde uten å trene modellen på nytt, og de kan sette egne grenser for trygghetsscoren ut fra sin egen risikovilje . Modellen er designet for promptmoderering, svarmoderering, klassifisering av prompt–svar-par, avslagsdeteksjon og generell sikkerhetsfiltrering av både tekst og bilder .