Mistral Shieldstral 1.0: 3 miljardin parametrin turvaluokittelija, joka päihittää 7 kertaa isommat mallit

Miten kysymys-vastaus-pohjainen moderointi toimii

Shieldstral arvioi sisällön käytäntöä vasten, joka ilmaistaan luonnollisen kielen kyllä/ei-kysymyksenä. Pyyntö koostuu kolmesta osasta :

• <Instruct>: Korkean tason tehtävän kehystys – arviointikonteksti ja tiukkuustaso (valinnaisesti määrittelee, mikä on turvatonta).
• <Query>: Yksi kyllä/ei-kysymys dokumentista, esim. "Edistääkö tämä sisältö fyysistä väkivaltaa?"
• <Document>: Arvioitava sisältö – kehote, vastaus, kehote-vastaus-pari tai kuva (valinnaisesti tekstin kanssa).

Malli palauttaa yhden jatkuvan turvallisuuspistemäärän yhdellä läpimenolla, ja sitä voidaan kynnystää binääristä turvallinen/turvaton-päätöstä varten . Mistral suosittelee yhtä käytäntöä per kysely; useita käytäntöjä varten jokainen saa oman päättelykutsunsa .

Tämä suunnittelu poistaa tarpeen kiinteälle harmitaksonomialle, joka on upotettu malliin koulutusvaiheessa. Shieldstral mukautuu mihin tahansa käytäntöön, jonka kehittäjä osaa ilmaista kyllä/ei-kysymyksenä – mikä mahdollistaa eri taksonomioihin rakennettujen turvallisuusdatasettien yhdistämisen yhteen koulutuskehykseen .

Suorituskyky turvallisuustesteissä

Shieldstral yltää samoihin tai parempiin tuloksiin kuin jopa 7 kertaa suuremmat avoimet turvamallit tekstin turvallisuudessa ja asettaa uuden tason monimuotoisessa turvallisuudessa . Seuraavat tulokset ovat Mistralin julkaisemista arvioista :

Tekstin turvallisuusluokittelu – F1 (%)

Monimuotoinen turvallisuus – F1 (%)

Kokonaistekstin turvallisuuden F1: 84,9 %; monimuotoisen turvallisuuden F1: 83,8 % – parempi kuin jokainen testattu malli . Tekstin turvallisuudessa Shieldstralin 84,9 % on tasoissa GPT-OSS-Safeguard-20B:n kanssa, joka on malli lähes 7 kertaa suurempi .

Keskeiset tekniset tiedot ja lisensointi

Tulevaisuuden suunnitelmat

Mistral ei ole julkaissut erityistä tiekarttaa Shieldstralille 1.0-julkaisun jälkeen. Malli on asemoitu Open Secure AI Alliance -allianssin (NVIDIAn ja muiden kanssa) perustajajäseneksi ja käytäntöön mukautuvan turvallisuuden perusrakennuspalikaksi . Ottaen huomioon Mistralin ilmoitetun tavoitteen olla "täyspino-pelaaja" tekoälyssä – piireistä datakeskuksissa ohjelmistosovelluksiin – Shieldstralin tulevat versiot voisivat olla suurempia, tukea laajempia modaliteetteja tai integroitua tiiviimmin Mistralin agenttityökaluihin (Vibe, Forge) ja yrityskäyttöön tarkoitettuun pinon . Versioaikataulua tai erityistä ominaisuuksien aikajanaa ei ole ilmoitettu.

Hallinto ja käytännön vaikutukset

Koska Shieldstral on julkaistu avoimilla painoilla Apache 2.0 -lisenssillä, mikä tahansa organisaatio voi ladata ja isännöidä mallin itse ilman kaupallista sopimusta Mistralin kanssa . Tämä siirtää sisällönmoderoinnin hallinnan organisaation omiin käsiin: tiimit voivat mukauttaa harmitaksonomioita tiettyihin yleisöihin tai käyttötilanteisiin ilman taustamallin uudelleenkoulutusta, ja he voivat kynnyttää turvallisuuspistemääriä oman riskinsietokykynsä mukaan . Malli on suunniteltu kehotteiden moderointiin, vastausten moderointiin, kehote-vastaus-parien luokitteluun, kieltäytymisen havaitsemiseen ja yleiseen turvallisuussuodatukseen teksti- ja kuvasyötteiden välillä .