Mistral Shieldstral 1.0：3B參數嘅安全分類器，效能拍得住大佢7倍嘅模型

點樣用是非題做內容審查？

Shieldstral嘅做法係將內容對住一條用自然語言寫嘅是非題去評估。每次查詢分三部分：

• <Instruct>：任務嘅高層次設定——即係評估嘅背景同嚴格程度（可以自定義咩嘢叫做唔安全）。
• <Query>：一條關於文件嘅是非題，例如「呢段內容有冇鼓吹暴力？」
• <Document>：要評估嘅內容——可以係一段提示、一個回應、提示加回應，或者一張圖（可以附加文字）。

模型只會做一次前向計算，然後俾一個連續嘅安全分數，用家可以自己set門檻決定安全定唔安全。Mistral建議每次只問一條政策問題；如果有多條政策，就要分開逐條問。

呢個設計令到唔再需要事先Train死一套固定嘅有害分類。Shieldstral可以適應任何用是非題表達嘅政策，令到唔同分類系統嘅安全數據集都可以用同一個訓練框架去處理。

效能表現有幾勁？

Shieldstral喺文字安全測試上，效能拍得住甚至超越大佢7倍嘅開源守門模型，仲創咗多模態安全分類嘅新紀錄。以下係Mistral公布嘅測試結果：

文字安全分類 — F1 (%)

多模態安全 — F1 (%)

總括嚟講，文字安全平均F1係84.9%，多模態安全平均F1係83.8%——比晒所有測試過嘅模型都要高分。喺文字安全方面，Shieldstral嘅84.9%同大佢差不多7倍嘅GPT-OSS-Safeguard-20B打成平手。

主要規格同授權

未來發展計劃

Mistral暫時未有公布Shieldstral 1.0之後嘅具體路線圖。呢個模型係Open Secure AI Alliance（同NVIDIA等公司合作）嘅首個成員，定位為政策適應性安全嘅基礎組件。考慮到Mistral話想做到AI界嘅「full-stack player」——由數據中心嘅晶片到企業軟件應用——未來嘅Shieldstral可能會有大啲嘅規模、支援更多模態，或者同Mistral嘅代理工具（Vibe、Forge）同企業部署方案有更緊密嘅整合。不過暫時未有公布任何版本周期或者具體功能時間表。

管治同實際應用嘅影響

由於Shieldstral係開放權重同Apache 2.0授權，任何機構都可以下載同自己host呢個模型，唔使同Mistral簽商業協議。呢個做法將內容審查嘅管治權交返俾用家：團隊可以針對特定用戶群或者應用場景去調整安全分類，而唔使重新訓練個模型，仲可以自己set門檻去配合公司嘅風險接受程度。呢個模型可以用喺提示審查、回應審查、提示-回應配對分類、拒絕檢測，同埋一般嘅文字同圖像安全過濾。