Mistral AI dévoile Shieldstral 1.0 3B : un classificateur de sécurité multimodal open-weights surpassant des modèles sept fois plus volumineux

Mistral AI a publié Shieldstral 1.0 3B, un classifieur de sécurité multimodal à poids ouverts et adaptatif aux politiques, qui traite la modération de contenu comme une simple question oui/non plutôt que comme une taxonomie fixe de catégories de préjudice. Contrairement à la plupart des modèles de garde-fou qui intègrent les catégories de préjudice dans leurs poids, Shieldstral permet aux opérateurs de rédiger la politique sous forme de question en langage courant au moment de l'inférence, renvoyant un score de sécurité calibré en une seule passe avant. Construit sur Ministral-3-3B-Base-2512 avec un encodeur vision Pixtral natif et publié sous licence Apache 2.0, il rapporte un F1 moyen de 84,9 % sur la sécurité textuelle, égalant GPT-OSS-Safeguard-20B, et de 83,8 % sur la sécurité multimodale, devant tous les modèles de référence évalués par Mistral. Le modèle tient dans 16 Go de VRAM en BF16, fonctionne sur un seul GPU et prend en charge vLLM, llama.cpp, SGLang et Transformers. Ses données d'entraînement comprennent environ 54,1 millions d'échantillons, avec une génération contrastive créant des exemples négatifs difficiles pour enseigner les violations spécifiques à la politique. Les points faibles incluent des performances moindres sur les langues peu dotées comme l'arabe et l'indonésien, ainsi qu'une fiabilité réduite sur les entrées adversariales ou obfusquées et les documents très longs.