Mistral Shieldstral 1.0: Lille model, kæmpe præstation inden for AI-sikkerhed

Sådan fungerer spørgsmål-svar-designet

Shieldstral vurderer indhold op imod en politik, der er formuleret som et ja/nej-spørgsmål i almindeligt sprog. En forespørgsel består af tre dele :

• <Instruct>: Overordnet opgavebeskrivelse – evalueringskonteksten og strenghedsniveauet (kan også definere, hvad der betragtes som usikkert).
• <Query>: Et enkelt ja/nej-spørgsmål om dokumentet, f.eks. "Fremmer dette indhold fysisk vold?"
• <Document>: Det indhold, der skal vurderes – en prompt, et svar, et prompt–svar-par eller et billede (eventuelt med tilhørende tekst).

Modellen returnerer en enkelt kontinuerlig sikkerhedsscore fra ét enkelt gennemløb, som kan tærskelværdiindstilles for en binær sikker/usikker-beslutning . Mistral anbefaler én politik pr. forespørgsel; for flere politikker får hver sin egen inferens .

Dette design eliminerer behovet for en fast taksonomi for skadeligt indhold, der er indbygget under træning. I stedet tilpasser Shieldstral sig til enhver politik, en udvikler kan udtrykke som et ja/nej-spørgsmål – hvilket gør det muligt at samle forskellige sikkerhedsdatasæt bygget på forskellige taksonomier i én enkelt træningsramme .

Præstation på sikkerhedsbenchmarks

Shieldstral matcher eller overgår åbne beskyttelsesmodeller op til 7× sin størrelse på tekstsikkerhed og sætter ny rekord for multimodal sikkerhed . Følgende resultater stammer fra Mistrals offentliggjorte evalueringer :

Tekstsikkerhedsklassifikation – F1 (%)

Multimodal sikkerhed – F1 (%)

Samlet tekstsikkerheds-F1: 84,9 %; multimodal sikkerheds-F1: 83,8 % – bedre end alle testede modeller . På tekstsikkerhed er Shieldstral's 84,9 % på niveau med GPT-OSS-Safeguard-20B, en model næsten 7× sin størrelse .

Nøglespecifikationer og licens

Fremtidige udviklingsplaner

Mistral har ikke offentliggjort en specifik køreplan for Shieldstral ud over 1.0-udgivelsen. Modellen er positioneret som et indledende medlem af Open Secure AI Alliance (sammen med NVIDIA og andre) og som en grundlæggende byggesten for politik-adaptiv sikkerhed . Givet Mistrals erklærede ambition om at være en "full-stack-aktør" inden for AI – fra chips i datacentre til softwareapplikationer – kan fremtidige iterationer af Shieldstral få større skala, bredere modalitetsunderstøttelse eller tættere integration med Mistrals agentiske værktøjer (Vibe, Forge) og virksomhedsimplementeringsstak . Ingen versionsrytme eller specifik funktionstidslinje er blevet annonceret.

Governance og praktiske implikationer

Fordi Shieldstral er udgivet med åbne vægte under Apache 2.0-licensen, kan enhver organisation downloade og selv hoste modellen uden en kommerciel aftale med Mistral . Dette flytter content moderation-governance internt: teams kan tilpasse skadelighedstaksonomier til specifikke målgrupper eller implementeringskontekster uden at genoptræne den underliggende model, og de kan tærskelværdiindstille sikkerhedsscorer for at matche deres egen risikotolerance . Modellen er designet til promptmoderation, responsmoderation, prompt–svar-par-klassifikation, afvisningsdetektion og generel sikkerhedsfiltrering på tværs af tekst- og billedinput .