Mistral Shieldstral 1.0: 3 Milyar Parametrelik Güvenlik Sınıflandırıcısı, Kendisinden 7 Kat Büyük Modelleri Geride Bırakıyor

Soru-cevap tabanlı denetim tasarımı nasıl çalışıyor?

Shieldstral, içeriği düz bir dilde yazılmış evet/hayır sorusu olarak ifade edilen bir politikaya karşı değerlendiriyor. Bir istek üç bölümden oluşuyor :

• <Instruct>: Üst düzey görev çerçevesi — değerlendirme bağlamı ve katılık seviyesi (isteğe bağlı olarak güvensiz içeriğin ne olduğunu tanımlar).
• <Query>: Belgeyle ilgili tek bir evet/hayır sorusu, örneğin "Bu içerik fiziksel şiddeti teşvik ediyor mu?"
• <Document>: Değerlendirilecek içerik — bir istem, bir yanıt, bir istem-yanıt çifti veya bir görüntü (isteğe bağlı olarak beraberinde metinle birlikte).

Model, tek bir ileri geçişten sürekli bir güvenlik puanı döndürüyor ve bu puan, ikili bir güvenli/güvensiz kararı için eşiklenebiliyor. Mistral, sorgu başına tek bir politika kullanılmasını öneriyor; birden fazla politika için her biri kendi çıkarım çağrısını alıyor.

Bu tasarım, eğitim sırasında sabitlenmiş bir zarar taksonomisine olan ihtiyacı ortadan kaldırıyor. Bunun yerine Shieldstral, bir geliştiricinin evet/hayır sorusu olarak ifade edebileceği herhangi bir politikaya uyum sağlıyor. Bu sayede, farklı taksonomiler üzerine inşa edilmiş çeşitli güvenlik veri kümelerini tek bir eğitim çerçevesinde birleştirmek mümkün hale geliyor.

Güvenlik kıyaslamalarındaki performansı

Shieldstral, metin güvenliğinde kendisinden 7 kata kadar büyük açık koruma modelleriyle eşleşiyor veya onları geride bırakıyor ve çok modlu güvenlikte yeni bir çığır açıyor. Aşağıdaki sonuçlar Mistral'ın yayınladığı değerlendirmelerden alınmıştır :

Metin güvenliği sınıflandırması — F1 (%)

Çok modlu güvenlik — F1 (%)

Genel metin güvenliği F1 puanı: %84.9; çok modlu güvenlik F1 puanı: %83.8 — test edilen tüm modellerin önünde. Metin güvenliğinde, Shieldstral'ın %84.9'u, neredeyse 7 katı büyüklüğündeki GPT-OSS-Safeguard-20B modeliyle eşitleniyor.

Temel özellikler ve lisanslama

Gelecek geliştirme planları

Mistral, Shieldstral için 1.0 sürümünün ötesinde belirli bir yol haritası yayınlamadı. Model, Open Secure AI Alliance'ın (NVIDIA ve diğerleriyle birlikte) ilk üyesi ve politikaya uyarlanabilir güvenlik için temel bir yapı taşı olarak konumlandırılıyor. Mistral'ın yapay zekada "tam yığın oyuncu" olma hedefi göz önüne alındığında, Shieldstral'ın gelecekteki sürümleri daha büyük ölçek, daha geniş biçem desteği veya Mistral'ın aracı araçları (Vibe, Forge) ve kurumsal dağıtım yığınıyla daha sıkı bir entegrasyon görebilir. Herhangi bir sürüm takvimi veya belirli özellik zaman çizelgesi duyurulmamıştır.

Yönetişim ve pratik sonuçlar

Shieldstral, Apache 2.0 lisansı altında açık ağırlıklarla yayınlandığı için herhangi bir kuruluş, Mistral ile ticari bir anlaşma yapmadan modeli indirebilir ve kendi sunucusunda barındırabilir. Bu, içerik denetimi yönetişimini şirket içine taşıyor: ekipler, temel modeli yeniden eğitmeye gerek kalmadan zarar taksonomilerini belirli kitlelere veya dağıtım bağlamlarına uyarlayabilir ve güvenlik puanlarını kendi risk toleranslarına göre eşikleyebilir. Model, istem denetimi, yanıt denetimi, istem-yanıt çifti sınıflandırması, reddetme tespiti ve metin ile görüntü girdileri arasında genel güvenlik filtrelemesi için tasarlanmıştır.