Mistral Shieldstral 1.0: Den kompakta AI-säkerhetsmodellen som utklassar jättar

Så fungerar fråge-baserad moderering

Shieldstral bedömer innehåll mot en policy som uttrycks som en ja/nej-fråga i naturligt språk. En förfrågan består av tre delar :

• <Instruct>: Ramverket för utvärderingen – kontext och strikthetsnivå (valfritt definieras vad som räknas som olämpligt).
• <Query>: En enkel ja/nej-fråga om dokumentet, till exempel ”Uppmanar detta innehåll till fysiskt våld?”
• <Document>: Innehållet som ska granskas – en prompt, ett svar, ett prompt–svar-par eller en bild (eventuellt med tillhörande text).

Modellen returnerar en enda kontinuerlig säkerhetspoäng från ett enda framåtriktat anrop. Poängen kan trösklas för ett binärt beslut om innehållet är säkert eller inte . Mistral rekommenderar en policy per fråga; om flera policyer behövs görs ett separat anrop för varje .

Den här designen eliminerar behovet av en fast harm-taxonomi som tränats in i modellen. Istället anpassar sig Shieldstral till vilken policy som helst som kan uttryckas som en ja/nej-fråga, vilket gör det möjligt att slå samman olika säkerhetsdataset – även om de bygger på olika taxonomier – i ett enda träningsramverk .

Prestanda i säkerhetsjämförelser

Shieldstral matchar eller överträffar öppna guard-modeller upp till 7× sin storlek på textsäkerhet och sätter en ny standard för multimodal säkerhet . Nedan följer resultat från Mistrals publicerade utvärderingar :

Textsäkerhetsklassificering – F1 (%)

Multimodal säkerhet – F1 (%)

Total F1 för textsäkerhet: 84,9 %; multimodal säkerhet: 83,8 % – före alla testade modeller . Inom textområdet är Shieldstrals 84,9 % identiskt med GPT-OSS-Safeguard-20B, en modell nästan 7× större .

Viktiga specifikationer och licens

Framtida utvecklingsplaner

Mistral har inte publicerat en specifik färdplan för Shieldstral bortom 1.0-versionen. Modellen presenteras som en grundpelare i det nybildade Open Secure AI Alliance (tillsammans med NVIDIA och andra) . Med tanke på Mistrals ambition att bli en ”full-stack-spelare” inom AI – från chip i datacenter till mjukvaruapplikationer – kan framtida versioner av Shieldstral komma att bli större, få stöd för fler modaliteter eller integreras tätare med Mistrals agentverktyg (Vibe, Forge) och företagsstack . Ingen versionsintervall eller specifik funktionstidslinje har dock tillkännagivits.

Styrning och praktiska konsekvenser

Eftersom Shieldstral distribueras med öppna vikter under Apache 2.0-licens kan vilken organisation som helst ladda ner modellen och köra den själv utan kommersiellt avtal med Mistral . Detta flyttar styrningen av innehållsmoderering in-house: team kan skräddarsy sina taxonomier för specifika målgrupper eller sammanhang utan att träna om den underliggande modellen, och de kan själva bestämma tröskelvärden för säkerhetspoängen . Modellen är utformad för promptmoderering, svarsmoderering, klassificering av prompt–svar-par, avvisningsdetektering och allmän säkerhetsfiltrering av text och bilder .