Mistral Shieldstral 1.0：3Bパラメータのオープンウェイト安全性分類器、7倍の規模のモデルを凌駕

質問応答型モデレーションデザインの仕組み

Shieldstralは、ポリシーを平易なYes/Noの質問として受け取り、コンテンツを評価します。リクエストは以下の3つのパートで構成されます。

• <Instruct>：上位レベルのタスク設定（評価のコンテキスト、厳格さのレベル、オプションで何を安全でないとみなすかの定義）。
• <Query>：ドキュメントに関する単一のYes/No質問（例：「このコンテンツは身体的暴力を助長しますか？」）。
• <Document>：評価対象のコンテンツ（プロンプト、レスポンス、プロンプト-レスポンスのペア、画像、または画像とテキストの組み合わせ）。

モデルは1回のフォワードパスで連続的な安全性スコアを返し、閾値を設定することで二値（安全/不安全）の判定に用いることができます。Mistralは、1つのクエリにつき1つのポリシーを推奨しており、複数のポリシーを評価する場合は、それぞれ別の推論呼び出しを行います。

この設計により、トレーニング時に固定された危害分類（タクソノミー）をモデルに組み込む必要がなくなります。開発者はYes/Noの質問で表現できるあらゆるポリシーにShieldstralを適応させることができ、異なるタクソノミーに基づく多様な安全性データセットを、単一のトレーニングフレームワークで統合することを可能にします。

安全性ベンチマークにおける性能

Shieldstralは、テキスト安全性評価において、7倍のサイズのオープンガードモデルに匹敵するか、それを上回り、マルチモーダル安全性評価では新たなSOTAを達成しています。以下は、Mistralが公開した評価結果です。

テキスト安全性分類 — F1値 (%)

マルチモーダル安全性 — F1値 (%)

テキスト安全性の総合F1値は 84.9%、マルチモーダル安全性では 83.8% となり、テストされたすべてのモデルを上回りました。テキスト安全性においては、約7倍のサイズであるGPT-OSS-Safeguard-20Bと同点（84.9%）の結果を示しています。

主な仕様とライセンス

今後の開発計画

Mistralは、Shieldstral 1.0のリリース以降、具体的なロードマップを公開していません。本モデルは、Open Secure AI Alliance（NVIDIAなどと共に）の最初のメンバーとして位置づけられており、ポリシー適応型セーフティの基盤的構成要素として期待されています。Mistralが「フルスタックプレイヤー」を目指す戦略（データセンターのチップからソフトウェアアプリケーションまでをカバー）を考慮すれば、将来のバージョンでは更なる大規模化、対応モダリティの拡大、あるいはMistralのエージェンティックツール（Vibe、Forge）やエンタープライズ展開スタックとの緊密な統合が進む可能性があります。ただし、具体的なバージョンリリースのサイクルや機能の時期については、現時点では何も発表されていません。

ガバナンスと実用的な影響

ShieldstralはApache 2.0ライセンスのオープンウェイトでリリースされているため、どの組織でもMistralとの商用契約なしにモデルをダウンロードし、自社でホスティングすることが可能です。これにより、コンテンツモデレーションのガバナンスを組織内部でコントロールできるようになります。チームは、特定のオーディエンスやデプロイメントコンテキストに合わせて危害分類を調整し、モデルを再学習することなく、自社のリスク許容度に応じて安全性スコアの閾値を設定できます。本モデルは、プロンプトモデレーション、レスポンスモデレーション、プロンプト-レスポンスペア分類、拒否検出、そしてテキストと画像の両方に対する一般的な安全フィルタリングに利用できるよう設計されています。