Mistral AI stellt Shieldstral 1.0 3B vor: Open-weights multimodaler Sicherheitsklassifikator übertrifft Modelle der siebenfachen Größe

Mistral AI hat Shieldstral 1.0 3B veröffentlicht, einen Open-Weight-Multimodal-Sicherheitsklassifikator mit adaptiver Politik, der Content-Moderation als einzelne Ja/Nein-Frage behandelt und nicht als feste Taxonomie von Schadenskategorien. Im Gegensatz zu den meisten Guardrail-Modellen, die Schadenskategorien in ihre Gewichte einbrennen, ermöglicht Shieldstral es den Betreibern, die Politik zur Inferenzzeit als Frage in natürlicher Sprache zu formulieren und liefert dabei einen kalibrierten Sicherheitswert aus einem einzigen Forward-Pass. Das Modell basiert auf Ministral-3-3B-Base-2512 mit einem nativen Pixtral-Visions-Encoder, wurde unter der Apache-2.0-Lizenz veröffentlicht und erreicht einen durchschnittlichen F1-Wert von 84,9 Prozent bei der Textsicherheit, was mit GPT-OSS-Safeguard-20B gleichzieht, sowie 83,8 Prozent bei der multimodalen Sicherheit, womit es alle von Mistral bewerteten Basislinien übertrifft. Das Modell passt in 16 Gigabyte VRAM im BF16-Format, läuft auf einer einzelnen GPU und unterstützt vLLM, llama.cpp, SGLang und Transformers. Die Trainingsdaten umfassen rund 54,1 Millionen Stichproben, wobei kontrastive Generierung harte Negative erzeugt, um politik spezifische Verstöße zu lehren. Zu den Schwächen gehören eine geringere Leistung bei Sprachen mit geringen Ressourcen wie Arabisch und Indonesisch sowie eine verringerte Zuverlässigkeit bei adversen oder verschleierten Eingaben und sehr langen Dokumenten.