Mistral AI выпускает Shieldstral: мультимодальный классификатор безопасности с адаптируемой политикой
Компания Mistral AI представила Shieldstral — мультимодальный классификатор безопасности с открытыми весами и 3 миллиардами параметров, который рассматривает модерацию контента как задачу ответа на вопросы с адаптируемой политикой. Он превосходит модели, превосходящие его по размеру в 7 раз, принимает политики на простом языке на этапе вывода и работает на одном графическом процессоре NVIDIA с 16 гигабайтами памяти, всё под лицензией Apache 2.0.
Shieldstral — это открытый мультимодальный классификатор безопасности с 3 миллиардами параметров, выпущенный компанией Mistral AI под лицензией Apache 2.0. В отличие от традиционных моделей-ограничителей, в веса которых заранее заложена фиксированная таксономия категорий вредоносного контента, Shieldstral использует новаторский подход: пользователи формулируют политику безопасности в виде вопроса
Показать ещё ↓
Источник: Mistral AI —
оригинал