Sber öffnet Zugang zur SIRIN-Bibliothek zur Erkennung von Fehlern in KI-Antworten

Das Wissenschaftsteam des Zentrums für praktische künstliche Intelligenz der Sberbank hat die Bibliothek SIRIN (Semantic Inconsistency Recognition and Inspection Nexus) als Open Source veröffentlicht. SIRIN trägt dazu bei, KI-Agenten und Sprachmodelle zuverlässiger zu machen, indem es erfundene Fakten oder solche, die nicht durch Quelldaten gestützt werden, identifiziert. Die Bibliothek vereint verschiedene Methoden zur Antwortprüfung und ermöglicht es Entwicklern, diese zu vergleichen, zu kombinieren und den für ihre Aufgaben am besten geeigneten Ansatz auszuwählen. Sie kann ganze Antworten oder einzelne Textfragmente prüfen und anzeigen, wo das Modell möglicherweise Fehler gemacht hat. Darüber hinaus kann SIRIN vorab einschätzen, ob der KI-Agent über ausreichende Informationen verfügt, um zu antworten, und hilft so, Fehler zu vermeiden, indem es zusätzliche Daten anfordert oder die Antwort verweigert. Die Bibliothek basiert auf der Forschung von Sber zur Erkennung von Halluzinationen, insbesondere auf Meta-Modellen, die die Genauigkeit der Fehlererkennung mit nur 250 Trainingsbeispielen um fast 30 Prozent verbessern. Sergej Rjabow, Senior Managing Director und Direktor für KI-Transformation bei der Sberbank, stellte fest, dass sich der Ansatz intern als wirksam erwiesen habe und nun allen Unternehmen zur Verfügung stehe, um die Marktentwicklung zu fördern. Entwickler können SIRIN innerhalb weniger Minuten in ihre Assistenten integrieren. Die Bibliothek ist nützlich für Unternehmen, die große Sprachmodelle einsetzen, sowie für Entwickler von KI-Assistenten, RAG-Systemen und KI-Agenten. Die Bibliothek ist auf GitVerse, GitHub und als Web-Demo auf Hugging Face verfügbar.