Sber abre el acceso a la biblioteca SIRIN para detectar errores en las respuestas de IA

El equipo de científicos del Centro de Inteligencia Artificial Práctica de Sberbank ha publicado la biblioteca SIRIN (Semantic Inconsistency Recognition and Inspection Nexus) como código abierto. SIRIN ayuda a hacer que los agentes de IA y los modelos de lenguaje sean más fiables al identificar hechos fabricados o aquellos no respaldados por los datos fuente. La biblioteca fusiona varios métodos de verificación de respuestas, lo que permite a los desarrolladores comparar, combinar y elegir el enfoque más adecuado para sus tareas. Puede verificar respuestas completas o fragmentos de texto individuales e indicar dónde el modelo puede haber errado. Además, SIRIN puede evaluar preliminarmente si el agente de IA tiene suficiente información para responder, ayudando a prevenir errores solicitando más datos o negándose a responder. La biblioteca se basa en la investigación de Sber sobre la detección de alucinaciones, particularmente en metamodelos que mejoran la precisión de la detección de errores en casi un 30% utilizando solo 250 ejemplos de entrenamiento. Serguéi Riábov, director gerente sénior y director de Transformación de IA en Sberbank, señaló que el enfoque ha demostrado ser efectivo internamente y ahora está abierto a todas las empresas para fomentar el desarrollo del mercado. Los desarrolladores pueden integrar SIRIN en sus asistentes en cuestión de minutos, y es útil para empresas que implementan modelos de lenguaje grandes, así como para desarrolladores de asistentes de IA, sistemas RAG y agentes de IA. La biblioteca está disponible en GitVerse, GitHub y una demostración web en Hugging Face.