Sber opent toegang tot SIRIN-bibliotheek voor het detecteren van fouten in AI-antwoorden

Het team van wetenschappers van het Center for Practical Artificial Intelligence van Sberbank heeft de SIRIN-bibliotheek (Semantic Inconsistency Recognition and Inspection Nexus) als opensource gepubliceerd. SIRIN helpt AI-agenten en taalmodellen betrouwbaarder te maken door verzonnen feiten of feiten die niet door brongegevens worden ondersteund, te identificeren. De bibliotheek combineert verschillende methoden voor responsverificatie, waardoor ontwikkelaars de meest geschikte aanpak voor hun taken kunnen vergelijken, combineren en kiezen. Het kan hele reacties of individuele tekstfragmenten controleren en aangeven waar het model mogelijk fouten heeft gemaakt. Bovendien kan SIRIN vooraf beoordelen of de AI-agent voldoende informatie heeft om te antwoorden, wat helpt om fouten te voorkomen door meer gegevens op te vragen of te weigeren te antwoorden. De bibliotheek is gebaseerd op Sber's onderzoek naar hallucinatiedetectie, met name metamodellen die de nauwkeurigheid van foutdetectie met bijna 30 procent verbeteren met slechts 250 trainingsvoorbeelden. Sergey Ryabov, Senior Managing Director en Directeur voor AI-transformatie bij Sberbank, merkte op dat de aanpak intern effectief is gebleken en nu openstaat voor alle bedrijven om de marktontwikkeling te bevorderen. Ontwikkelaars kunnen SIRIN binnen enkele minuten in hun assistenten integreren, en het is nuttig voor bedrijven die grote taalmodellen implementeren, evenals voor ontwikkelaars van AI-assistenten, RAG-systemen en AI-agenten. De bibliotheek is beschikbaar op GitVerse, GitHub en een webdemo op Hugging Face.