EvoLib: Mengubah Pengalaman menjadi Pengetahuan yang Berkembang
Microsoft
EvoLib, yang diperkenalkan oleh Microsoft Research, memungkinkan LLM untuk belajar dari pengalaman waktu inferensi mereka sendiri tanpa pembaruan model. Ini mengekstrak keterampilan yang dapat digunakan kembali dan wawasan reflektif, terus menyempurnakan dan memberi bobot ulang menjadi pengetahuan umum yang meningkatkan kinerja di berbagai tugas.
EvoLib adalah sebuah kerangka kerja dari Microsoft Research yang memungkinkan sistem AI untuk belajar dari pengalaman selama inferensi tanpa memerlukan label kebenaran dasar (ground-truth) atau pembaruan model. Tidak seperti sistem memori tradisional yang menyimpan pengalaman mentah secara statis, EvoLib mengubah upaya-upaya masa lalu menjadi keterampilan yang dapat digunakan kembali dan wawasan reflektif. Unit-unit pengetahuan ini terus dikonsolidasikan dengan pengetahuan serupa yang sudah ada agar menjadi lebih umum, dan setiap unit diberi bobot berdasarkan dampak jangka panjangnya terhadap tugas-tugas di masa depan. Kerangka kerja ini diuji pada tugas penalaran matematika, efisiensi kode, dan pengambilan keputusan, secara konsisten mengungguli pendekatan memori berbasis pencarian (retrieval-based) terbaik dengan penggunaan token yang lebih efisien. EvoLib juga menunjukkan kinerja yang kokoh pada urutan tugas acak, yang mengindikasikan penerapan praktis dalam skenario dunia nyata di mana tugas-tugas datang secara arbitrer. Sistem ini mencapai peningkatan kinerja yang lebih tinggi seiring bertambahnya komputasi saat pengujian (test-time compute) dibandingkan dengan peningkatan komputasi terisolasi dan metode berbasis memori lainnya. Kode dan eksperimen tersedia secara publik di GitHub.
Sumber: Microsoft Research —
asli
