Сбер открыл доступ к библиотеке SIRIN для выявления ошибок в ответах ИИ
Сбер опубликовал в открытый доступ свою библиотеку SIRIN, предназначенную для обнаружения галлюцинаций и несоответствий в выводах моделей ИИ. Библиотека объединяет несколько методов проверки, позволяя разработчикам проверять целые ответы или их фрагменты, а также определять, достаточно ли у ИИ-агента информации для ответа. Она доступна на GitVerse, GitHub и Hugging Face.
Команда ученых Центра практического искусственного интеллекта Сбербанка опубликовала в открытом доступе библиотеку SIRIN (Semantic Inconsistency Recognition and Inspection Nexus). SIRIN помогает сделать AI-агентов и языковые модели более надежными, выявляя выдуманные факты или те, которые не подтверждаются исходными данными. Библиотека объединяет различные методы проверки ответов, позволяя
Показать ещё ↓
Источник: CNews —
оригинал