Mistral Shieldstral 1.0: Offene Sicherheitsprüfung, die Maßstäbe setzt

Wie das Frage-Antwort-Moderation-Design funktioniert

Shieldstral bewertet Inhalte anhand einer Richtlinie, die als Ja/Nein-Frage in natürlicher Sprache formuliert ist. Eine Anfrage besteht aus drei Teilen :

• <Instruct>: Übergeordnete Aufgabenstellung – der Bewertungskontext und die Strenge (optional mit Definition dessen, was als unsicher gilt).
• <Query>: Eine einzelne Ja/Nein-Frage zum Dokument, z. B. „Fördert dieser Inhalt körperliche Gewalt?“
• <Document>: Der zu bewertende Inhalt – ein Prompt, eine Antwort, ein Prompt-Antwort-Paar oder ein Bild (optional mit begleitendem Text).

Das Modell gibt einen einzelnen, kontinuierlichen Sicherheits-Score aus einem Vorwärtsdurchlauf zurück, der für eine binäre Entscheidung (sicher/unsicher) mit einem Schwellenwert versehen werden kann . Mistral empfiehlt eine Richtlinie pro Abfrage; für mehrere Richtlinien erhält jede ihren eigenen Inferenzaufruf .

Dieses Design macht eine feste Schadens-Taxonomie überflüssig, die während des Trainings festgelegt wird. Stattdessen passt sich Shieldstral jeder Richtlinie an, die ein Entwickler als Ja/Nein-Frage formulieren kann – so lassen sich verschiedene Sicherheitsdatensätze, die auf unterschiedlichen Taxonomien basieren, in einem einzigen Trainingsrahmen konsolidieren .

Leistung bei Sicherheits-Benchmarks

Shieldstral erreicht oder übertrifft offene Schutzmodelle mit bis zu 7× seiner Größe bei der Textsicherheit und setzt einen neuen Bestwert bei der multimodalen Sicherheit . Die folgenden Ergebnisse stammen aus Mistrals veröffentlichten Bewertungen :

Text-Sicherheitsklassifizierung – F1 (%)

Multimodale Sicherheit – F1 (%)

Gesamt-F1 für Textsicherheit: 84,9%; multimodale Sicherheit F1: 83,8% – vor allen getesteten Modellen . Bei der Textsicherheit liegt Shieldstral mit 84,9 % gleichauf mit GPT-OSS-Safeguard-20B, einem Modell, das fast 7× so groß ist .

Wichtige Spezifikationen und Lizenzierung

Zukunftspläne

Mistral hat keinen spezifischen Fahrplan für Shieldstral über die Version 1.0 hinaus veröffentlicht. Das Modell ist als Gründungsmitglied der Open Secure AI Alliance (mit NVIDIA und anderen) positioniert und als grundlegender Baustein für politikadaptive Sicherheit . Angesichts von Mistrals erklärter Ambition, ein „Full-Stack-Player“ im KI-Bereich zu sein – von Chips in Rechenzentren bis hin zu Softwareanwendungen – könnten zukünftige Versionen von Shieldstral einen größeren Maßstab, eine breitere Modalitätsunterstützung oder eine engere Integration mit Mistrals agentischen Tools (Vibe, Forge) und dem Enterprise-Bereitstellungs-Stack bieten . Es wurde weder eine Versionskadenz noch ein spezifischer Feature-Zeitplan bekannt gegeben.

Governance und praktische Auswirkungen

Da Shieldstral unter offenen Gewichten mit einer Apache-2.0-Lizenz veröffentlicht wird, kann jede Organisation das Modell herunterladen und selbst hosten, ohne eine kommerzielle Vereinbarung mit Mistral treffen zu müssen . Dies verlagert die Governance der Inhaltsmoderation ins Haus: Teams können Schadens-Taxonomien an bestimmte Zielgruppen oder Bereitstellungskontexte anpassen, ohne das zugrunde liegende Modell neu trainieren zu müssen, und sie können Sicherheits-Scores mit Schwellenwerten versehen, um ihr eigenes Risiko-Toleranzniveau zu erreichen . Das Modell ist für die Prompt-Moderation, Antwort-Moderation, Prompt-Antwort-Paar-Klassifizierung, Verweigerungserkennung und allgemeine Sicherheitsfilterung über Text- und Bildeingaben hinweg konzipiert .