Mistral Shieldstral 1.0: O Classificador de Segurança de 3B que Bate Modelos 7 Vezes Maiores

Como funciona o design de moderação por perguntas e respostas

O Shieldstral avalia o conteúdo contra uma política expressa como uma pergunta de sim/não em linguagem natural. Uma requisição tem três partes :

• <Instruct>: Contexto de alto nível da tarefa — o contexto de avaliação e o nível de rigor (opcionalmente, define o que conta como conteúdo inseguro).
• <Query>: Uma única pergunta de sim/não sobre o documento, como "Este conteúdo promove violência física?"
• <Document>: O conteúdo a ser avaliado — um prompt, uma resposta, um par prompt-resposta, ou uma imagem (opcionalmente com texto).

O modelo retorna uma pontuação contínua de segurança em uma única passagem, que pode ser limiarizada para uma decisão binária seguro/inseguro . A Mistral recomenda uma política por consulta; para múltiplas políticas, cada uma recebe sua própria chamada de inferência .

Esse design elimina a necessidade de uma taxonomia de danos fixa embutida durante o treinamento. Em vez disso, o Shieldstral se adapta a qualquer política que um desenvolvedor possa expressar como uma pergunta de sim/não — tornando possível consolidar conjuntos de dados de segurança diversos, construídos sobre taxonomias diferentes, em um único framework de treinamento .

Performance em benchmarks de segurança

O Shieldstral iguala ou supera modelos abertos de guarda até 7× seu tamanho em segurança de texto e estabelece um novo estado da arte em segurança multimodal . Os resultados a seguir são das avaliações publicadas pela Mistral :

Classificação de segurança de texto — F1 (%)

Segurança multimodal — F1 (%)

F1 geral em segurança de texto: 84,9%; F1 em segurança multimodal: 83,8% — à frente de todos os modelos testados . Em segurança de texto, o Shieldstral empata com o GPT-OSS-Safeguard-20B, um modelo quase 7× maior .

Principais especificações e licenciamento

Planos de desenvolvimento futuro

A Mistral não publicou um roadmap específico para o Shieldstral além do lançamento 1.0. O modelo é posicionado como um membro inaugural da Open Secure AI Alliance (com NVIDIA e outros) e como um bloco de construção fundamental para segurança adaptativa a políticas . Dada a ambição declarada da Mistral de ser uma "full-stack player" em IA — de chips em data centers a aplicativos de software — futuras iterações do Shieldstral podem ver maior escala, suporte a mais modalidades ou integração mais estreita com as ferramentas de agente da Mistral (Vibe, Forge) e sua stack de implantação empresarial . Nenhuma cadência de versão ou cronograma de funcionalidades específicas foi anunciada.

Governança e implicações práticas

Como o Shieldstral é lançado sob pesos abertos com licença Apache 2.0, qualquer organização pode baixar e auto-hospedar o modelo sem um acordo comercial com a Mistral . Isso transfere a governança da moderação de conteúdo para dentro de casa: as equipes podem adaptar as taxonomias de danos a públicos ou contextos de implantação específicos sem retreinar o modelo subjacente, e podem limiarizar as pontuações de segurança para corresponder à sua própria tolerância ao risco . O modelo é projetado para moderação de prompts, moderação de respostas, classificação de pares prompt-resposta, detecção de recusa e filtragem geral de segurança em entradas de texto e imagem .