Mistral AI представляет Shieldstral 1.0 3B: открытый мультимодальный классификатор безопасности превосходит модели в 7 раз большего размера
Компания Mistral AI выпустила Shieldstral 1.0 3B — открытый, адаптируемый к политикам мультимодальный классификатор безопасности. Он рассматривает модерацию контента как один вопрос «да/нет», а не как фиксированную таксономию категорий вреда. Модель сравнивается с GPT-OSS-Safeguard-20B по безопасности текста и лидирует в мультимодальной безопасности.
Mistral AI выпустила Shieldstral 1.0 3B — открытую модель с открытыми весами, адаптируемую к политике модерации мультимодального контента, которая рассматривает модерацию как единый вопрос «да/нет», а не как фиксированную таксономию категорий вреда. В отличие от большинства моделей-ограничителей, которые закладывают категории вреда в свои веса, Shieldstral позволяет операторам задавать политику в
Показать ещё ↓
Источник: MarkTechPost —
оригинал