EvoLib: Erfahrung in sich entwickelndes Wissen verwandeln
Microsoft
EvoLib, eingeführt von Microsoft Research, ermöglicht es großen Sprachmodellen, aus ihren eigenen Inferenzerfahrungen zu lernen, ohne Modellaktualisierungen. Es extrahiert wiederverwendbare Fähigkeiten und reflektierende Erkenntnisse, verfeinert und gewichtet sie kontinuierlich zu allgemeinem Wissen, das die Leistung bei verschiedenen Aufgaben verbessert.
EvoLib ist ein Framework von Microsoft Research, das es KI-Systemen ermöglicht, während der Inferenz aus Erfahrungen zu lernen – ohne Ground-Truth-Labels oder Modellaktualisierungen. Im Gegensatz zu traditionellen Speichersystemen, die rohe Erfahrungen statisch ablegen, wandelt EvoLib frühere Versuche in wiederverwendbare Fähigkeiten und reflektierende Erkenntnisse um. Diese Wissenseinheiten werden kontinuierlich mit ähnlichem vorhandenem Wissen konsolidiert, um allgemeiner zu werden, und jede Einheit wird basierend auf ihren langfristigen Auswirkungen auf zukünftige Aufgaben gewichtet. Das Framework wurde bei Aufgaben des mathematischen Denkens, der Code-Effizienz und der Entscheidungsfindung getestet und übertraf durchgängig die besten abrufbasierten Gedächtnisansätze bei effizienterer Token-Nutzung. EvoLib zeigt zudem robuste Leistung bei zufälligen Aufgabenreihenfolgen, was auf eine praktische Anwendbarkeit in realen Szenarien hindeutet, in denen Aufgaben willkürlich eintreffen. Das System erzielt mit zunehmender Testzeit-Rechenleistung höhere Leistungssteigerungen im Vergleich zu isolierter Rechenskalierung und anderen speicherbasierten Methoden. Code und Experimente sind öffentlich auf GitHub verfügbar.
Quelle: Microsoft Research —
Original
