EvoLib: Ervaring omzetten in evoluerende kennis
Microsoft
EvoLib, geïntroduceerd door Microsoft Research, stelt grote taalmodellen in staat om te leren van hun eigen inferentie-ervaringen zonder modelupdates. Het haalt herbruikbare vaardigheden en reflectieve inzichten eruit, verfijnt en herweegt deze continu tot algemene kennis die de prestaties op uiteenlopende taken verbetert.
EvoLib is een framework van Microsoft Research waarmee AI-systemen tijdens de inferentie kunnen leren van ervaring zonder dat er grondwaarheidslabels of modelupdates nodig zijn. In tegenstelling tot traditionele geheugensystemen die ruwe ervaringen statisch opslaan, transformeert EvoLib eerdere pogingen in herbruikbare vaardigheden en reflectieve inzichten. Deze kenniseenheden worden continu samengevoegd met soortgelijke bestaande kennis om algemener te worden, en elke eenheid krijgt een gewicht op basis van de langetermijnimpact op toekomstige taken. Het framework is getest op wiskundig redeneren, code-efficiëntie en besluitvormingstaken, en presteert daarbij consequent beter dan de beste op retrieval gebaseerde geheugenmethoden met efficiënter tokenverbruik. EvoLib vertoont ook robuuste prestaties bij willekeurige taakvolgordes, wat wijst op praktische toepasbaarheid in realistische scenario's waarin taken willekeurig binnenkomen. Het systeem behaalt grotere prestatieverbeteringen naarmate de testtijdcomputatie toeneemt, in vergelijking met geïsoleerde computerschaling en andere op geheugen gebaseerde methoden. Code en experimenten zijn openbaar beschikbaar op GitHub.
Bron: Microsoft Research —
origineel
