Mistral Shieldstral 1.0: El clasificador de seguridad de código abierto de 3B que supera a modelos 7 veces más grandes

Cómo funciona el diseño de moderación por preguntas y respuestas

Shieldstral evalúa el contenido según una política expresada como una pregunta de sí/no en lenguaje sencillo. Una solicitud consta de tres partes :

• <Instruct>: Marco de la tarea de alto nivel: el contexto de evaluación y el nivel de rigor (opcionalmente, define lo que se considera inseguro).
• <Query>: Una sola pregunta de sí/no sobre el documento, como "¿Este contenido promueve la violencia física?"
• <Document>: El contenido a evaluar: un prompt, una respuesta, un par prompt-respuesta, o una imagen (opcionalmente con texto adjunto).

El modelo devuelve una única puntuación de seguridad continua de una sola pasada hacia adelante, que puede ser umbralizada para una decisión binaria de seguro/inseguro . Mistral recomienda una política por consulta; para múltiples políticas, cada una requiere su propia llamada de inferencia .

Este diseño elimina la necesidad de una taxonomía de daños fija integrada durante el entrenamiento. En cambio, Shieldstral se adapta a cualquier política que un desarrollador pueda expresar como una pregunta de sí/no, lo que permite consolidar diversos conjuntos de datos de seguridad construidos sobre diferentes taxonomías en un único marco de entrenamiento .

Rendimiento en benchmarks de seguridad

Shieldstral iguala o supera a modelos de guardia abiertos hasta 7 veces su tamaño en seguridad de texto y establece un nuevo estado del arte en seguridad multimodal . Los siguientes resultados provienen de las evaluaciones publicadas por Mistral :

Clasificación de seguridad de texto — F1 (%)

Seguridad multimodal — F1 (%)

F1 general en seguridad de texto: 84.9%; F1 en seguridad multimodal: 83.8% — por delante de todos los modelos probados . En seguridad de texto, el 84.9% de Shieldstral empata con GPT-OSS-Safeguard-20B, un modelo casi 7 veces más grande .

Especificaciones clave y licencia

Planes de desarrollo futuro

Mistral no ha publicado una hoja de ruta específica para Shieldstral más allá del lanzamiento 1.0. El modelo se posiciona como miembro inaugural de la Open Secure AI Alliance (con NVIDIA y otros) y como un bloque de construcción fundamental para la seguridad adaptable a políticas . Dada la ambición declarada de Mistral de ser un "actor de pila completa" en IA — desde chips en centros de datos hasta aplicaciones de software — las futuras iteraciones de Shieldstral podrían ver una escala mayor, soporte para más modalidades, o una integración más estrecha con las herramientas de agentes de Mistral (Vibe, Forge) y su pila de despliegue empresarial . No se ha anunciado ninguna cadencia de versiones ni un cronograma de características específicas.

Gobernanza e implicaciones prácticas

Debido a que Shieldstral se publica con pesos abiertos bajo la licencia Apache 2.0, cualquier organización puede descargar y alojar el modelo por sí misma sin un acuerdo comercial con Mistral . Esto traslada la gobernanza de la moderación de contenido al ámbito interno: los equipos pueden adaptar las taxonomías de daños a audiencias específicas o contextos de implementación sin reentrenar el modelo subyacente, y pueden umbralizar las puntuaciones de seguridad para que coincidan con su propia tolerancia al riesgo . El modelo está diseñado para la moderación de prompts, moderación de respuestas, clasificación de pares prompt-respuesta, detección de rechazo y filtrado general de seguridad en entradas de texto e imagen .