Mistral uvolnil Shieldstral 1.0: Model s otevřenými váhami pro bezpečnostní klasifikaci, který poráží i 7× větší soupeře

Jak funguje konstrukce moderování typu otázka-odpověď

Shieldstral vyhodnocuje obsah na základě pravidel zapsaných jako jednoduchá ano/ne otázka. Každý požadavek má tři části :

• <Instruct>: Rámec celé úlohy – kontext vyhodnocování a míra přísnosti (volitelně definuje, co se považuje za nebezpečný obsah).
• <Query>: Jediná ano/ne otázka k dokumentu, například „Propaguje tento obsah fyzické násilí?“
• <Document>: Vyhodnocovaný obsah – prompt, odpověď, dvojice prompt–odpověď nebo obrázek (volitelně s doprovodným textem).

Model z jediného průchodu vrátí jediné spojité skóre bezpečnosti, které lze prahováním převést na binární rozhodnutí „bezpečný/nebezpečný“ . Pro každou politiku se doporučuje jedna otázka; pokud jich je více, každá se volá zvlášť .

Tento návrh odstraňuje potřebu pevné taxonomie škodlivosti, která by byla zabudovaná už při tréninku. Shieldstral se místo toho přizpůsobí jakékoli politice, kterou vývojář dokáže vyjádřit jako ano/ne otázku – což umožňuje sjednotit různorodé bezpečnostní datasety postavené na odlišných taxonomiích do jediného trénovacího rámce .

Výkon v bezpečnostních testech

Shieldstral se v textové bezpečnosti vyrovná nebo překonává otevřené strážní modely až 7× větší a v multimodální bezpečnosti stanovuje nový standard . Následující výsledky pocházejí z publikovaného hodnocení Mistralu :

Textová bezpečnostní klasifikace – F1 (%)

Multimodální bezpečnost – F1 (%)

Celkové F1 pro textovou bezpečnost: 84,9 %; pro multimodální bezpečnost: 83,8 % – tedy lepší než všechny testované modely . V textové bezpečnosti je Shieldstralův výsledek 84,9 % shodný s modelem GPT-OSS-Safeguard-20B, který je téměř 7× větší .

Klíčové specifikace a licence

Plány budoucího vývoje

Mistral nezveřejnil konkrétní plán pro Shieldstral nad rámec verze 1.0. Model je prezentován jako inaugurační člen Open Secure AI Alliance (společně s NVIDIA a dalšími) a jako základní stavební kámen pro bezpečnost přizpůsobivou pravidlům . Vzhledem k tomu, že Mistral deklaroval ambici být „full-stackovým hráčem“ v AI – od čipů v datových centrech po softwarové aplikace – mohou se budoucí iterace Shieldstralu dočkat většího měřítka, širší podpory modalit nebo těsnější integrace s Mistralovými nástroji pro agenty (Vibe, Forge) a firemním nasazením . Žádný harmonogram verzí ani konkrétní časový plán funkcí nebyl oznámen.

Správa a praktické dopady

Protože je Shieldstral uvolněn jako otevřené váhy s licencí Apache 2.0, může si jej jakákoli organizace stáhnout a hostovat sama, aniž by s Mistralem potřebovala komerční smlouvu . Tím se správa moderování obsahu přesouvá dovnitř firem: týmy mohou přizpůsobit taxonomie škodlivosti konkrétnímu publiku nebo prostředí nasazení, aniž by přetrénovávaly základní model, a mohou si prahováním skóre bezpečnosti nastavit vlastní míru rizika . Model je navržen pro moderaci promptů i odpovědí, klasifikaci dvojic prompt–odpověď, detekci odmítnutí a obecné bezpečnostní filtrování textových i obrazových vstupů .