MIT Memperkenalkan SEAL: Langkah Baru Menuju AI yang Dapat Memperbaiki Diri Sendiri
MIT
Meta
Alibaba/Qwen
OpenAI
DeepMind
Para peneliti di MIT telah mengusulkan SEAL (Self-Adapting LLMs), sebuah kerangka kerja yang memungkinkan model bahasa besar memperbarui bobot mereka sendiri melalui pembelajaran penguatan. Metode ini menghasilkan edit sendiri untuk menghasilkan data pelatihan dan meningkatkan kinerja pada tugas-tugas hilir. Hasil eksperimen pada pembelajaran one-shot dan integrasi pengetahuan menunjukkan peningkatan signifikan dibandingkan metode dasar.
Para peneliti MIT menerbitkan makalah berjudul 'Self-Adapting Language Models,' yang memperkenalkan SEAL, sebuah kerangka kerja yang memungkinkan model bahasa besar (LLM) untuk memperbarui bobotnya sendiri. Model ini menghasilkan data pelatihan sintetis melalui penyuntingan diri, yang dipelajari melalui pembelajaran penguatan (reinforcement learning). Penghargaan (reward) didasarkan pada kinerja hilir model yang telah diperbarui. Eksperimen pada pembelajaran few-shot dengan Llama-3.2-1B-Instruct mencapai tingkat keberhasilan adaptasi 72,5%, jauh di atas garis dasar (baselines). Dalam integrasi pengetahuan dengan Qwen2.5-7B, SEAL secara konsisten mengungguli garis dasar, kadang-kadang melampaui data yang dihasilkan GPT-4.1 setelah dua iterasi. Makalah ini mencatat keterbatasan termasuk bencana lupa (catastrophic forgetting) dan biaya komputasi. Waktu ini bertepatan dengan meningkatnya minat pada AI yang berevolusi sendiri, termasuk karya terkait dari Sakana AI/UBC, CMU, SJTU, dan CUHK/vivo, serta komentar dari CEO OpenAI, Sam Altman.
Sumber: Synced —
asli