Mistral AI lança Shieldstral: um classificador de segurança multimodal adaptável a políticas

Shieldstral é um classificador de segurança multimodal de pesos abertos de 3B lançado pela Mistral AI sob a licença Apache 2.0. Diferente dos modelos de guarda tradicionais que incorporam uma taxonomia fixa de categorias de dano em seus pesos, o Shieldstral adota uma abordagem inovadora: os usuários escrevem a política de segurança como uma pergunta em linguagem natural no momento da inferência, e o modelo retorna uma pontuação de segurança calibrada. Essa formulação unifica classificação de prompts, moderação de respostas, detecção de recusa e detecção de toxicidade em um único problema, e funciona tanto para texto quanto para imagens sem necessidade de re-treinamento. O modelo iguala ou supera modelos de guarda abertos até 7 vezes maiores em benchmarks de segurança de texto, detecção de recusa, adaptabilidade de políticas e multimodalidade. Ele é executado com eficiência em uma única GPU NVIDIA de 16GB. O processo de treinamento envolveu a unificação de conjuntos de dados de segurança públicos heterogêneos, o ensino de discriminação por meio de pares contrastivos gerados por um LLM, a fundamentação da segurança em imagens com re-rank visual-linguístico e a combinação de checkpoints complementares via LoRA e SLERP. A Mistral AI construiu o Shieldstral de ponta a ponta em sua plataforma Forge. A empresa continua trabalhando em cobertura multilíngue, robustez para documentos mais longos e segurança multimodal mais ampla. A Mistral AI também é membro inaugural da Open Secure AI Alliance, juntamente com a NVIDIA e outras organizações.