Mistral Shieldstral 1.0: 3-мільярдний класифікатор безпеки з відкритою вагою, який перевершує моделі, що в 7 разів більші

Як працює механізм модерації на основі запитань

Shieldstral оцінює контент на основі політики, вираженої у вигляді звичайного запитання «так/ні». Кожен запит складається з трьох частин :

• <Instruct>: Загальне формулювання завдання — контекст оцінки та рівень суворості (за бажанням можна визначити, що вважається небезпечним).
• <Query>: Одне запитання «так/ні» щодо документа, наприклад: «Чи підбурює цей контент до фізичного насильства?»
• <Document>: Контент для оцінки — запит, відповідь, пара «запит-відповідь» або зображення (за бажанням із текстом).

Модель повертає єдиний безперервний показник безпеки за один прямий прохід, який можна порогувати для прийняття бінарного рішення «безпечно/небезпечно» . Mistral рекомендує використовувати одну політику на запит; для кількох політик потрібен окремий виклик для кожної .

Така конструкція усуває потребу у фіксованій таксономії шкідливості, зашитій у модель під час тренування. Натомість Shieldstral адаптується до будь-якої політики, яку розробник може сформулювати у вигляді запитання «так/ні», що дозволяє об'єднати різноманітні набори даних безпеки, створені на основі різних таксономій, в єдиний тренувальний каркас .

Продуктивність на бенчмарках безпеки

Shieldstral не поступається або перевершує відкриті моделі-охоронці, що в 7 разів більші, на текстових бенчмарках і встановлює новий стандарт у мультимодальній безпеці . Нижче наведено результати з опублікованих оцінок Mistral :

Текстова класифікація безпеки — F1 (%)

Мультимодальна безпека — F1 (%)

Загальний показник F1 для текстової безпеки: 84.9%; для мультимодальної: 83.8% — вище, ніж у всіх протестованих моделей . На текстових завданнях Shieldstral з показником 84.9% йде нарівні з GPT-OSS-Safeguard-20B — моделлю, що майже в 7 разів більша .

Ключові технічні характеристики та ліцензування

Плани на майбутнє

Mistral не опублікував конкретної дорожньої карти для Shieldstral після версії 1.0. Модель позиціонується як перший учасник Open Secure AI Alliance (разом із NVIDIA та іншими) і як фундаментальний будівельний блок для політико-адаптивної безпеки . З огляду на заявлену амбіцію Mistral стати «гравцем повного стеку» в ШІ — від чіпів у центрах обробки даних до програмних застосунків — майбутні версії Shieldstral можуть отримати більший масштаб, ширшу підтримку модальностей або тіснішу інтеграцію з агентними інструментами Mistral (Vibe, Forge) та корпоративним стеком розгортання . Жодних термінів виходу нових версій чи конкретного списку функцій оголошено не було.

Управління та практичні наслідки

Оскільки Shieldstral випущено з відкритою вагою під ліцензією Apache 2.0, будь-яка організація може завантажити та самостійно розгорнути модель без комерційної угоди з Mistral . Це переносить управління модерацією контенту всередину компанії: команди можуть адаптувати таксономії шкідливості до конкретних аудиторій або контекстів розгортання без перетренування базової моделі та встановлювати порогові значення показників безпеки відповідно до власної толерантності до ризику . Модель призначена для модерації запитів, модерації відповідей, класифікації пар «запит-відповідь», виявлення відмов та загальної фільтрації безпеки для текстових і графічних даних .