Mistral представляет открытую модель для контроля ИИ-генерируемого контента
Mistral запустила Shieldstral, открытую мультимодальную модель безопасности с 3 миллиардами параметров, предназначенную для обнаружения рискованного контента и применения политик управления. Она работает на одном графическом процессоре Nvidia с 16 ГБ памяти и опубликована под лицензией Apache 2.0. Разработчики могут задавать правила контроля с помощью вопросов на естественном языке.
На фоне растущего внедрения генеративных ИИ-ассистентов в корпоративной среде контроль контента становится центральным вопросом. Чтобы решить эту проблему, Mistral выпустила Shieldstral — мультимодальную модель безопасности с открытыми весами и 3 миллиардами параметров, предназначенную для выявления рискованного контента и применения соответствующих политик управления. Модель поддерживает 12
Показать ещё ↓
Источник: Le Monde Informatique — IA —
оригинал