MIT, SEAL'i Tanıttı: Kendini Geliştiren Yapay Zekaya Doğru Yeni Bir Adım
MIT
Meta
Alibaba/Qwen
OpenAI
DeepMind
MIT araştırmacıları, büyük dil modellerinin pekiştirmeli öğrenme yoluyla kendi ağırlıklarını güncellemesini sağlayan bir çerçeve olan SEAL'i (Kendine Uyum Sağlayan Büyük Dil Modelleri) önerdi. Yöntem, eğitim verisi üretmek için kendi kendine düzenlemeler yapar ve alt görevlerde performansı artırır. Az örnekle öğrenme ve bilgi entegrasyonu üzerine yapılan deneysel sonuçlar, temel çizgilere göre önemli kazanımlar göstermektedir.
MIT araştırmacıları, büyük dil modellerinin kendi ağırlıklarını güncellemesine olanak tanıyan bir çerçeve olan SEAL'i tanıtan 'Kendine Uyum Sağlayan Dil Modelleri' başlıklı bir makale yayımladı. Model, kendi kendini düzenleme yoluyla sentetik eğitim verileri üretiyor ve bunu pekiştirmeli öğrenme ile öğreniyor. Ödül, güncellenmiş modelin sonraki görevlerdeki performansına dayanıyor. Llama-3.2-1B-Instruct ile yapılan az örnekli öğrenme deneylerinde %72,5'lik bir uyum başarı oranı elde edildi; bu, temel yöntemlerin çok üzerinde. Qwen2.5-7B ile bilgi entegrasyonunda SEAL, temel yöntemleri sürekli olarak geride bıraktı ve bazen iki yinelemeden sonra GPT-4.1 tarafından üretilen verileri aştı. Makale, feci unutma ve hesaplama yükü dahil olmak üzere sınırlamalara dikkat çekiyor. Zamanlama, Sakana AI/Britanya Kolumbiyası Üniversitesi, Carnegie Mellon Üniversitesi, Şanghay Jiao Tong Üniversitesi, Çin Hong Kong Üniversitesi/vivo gibi kurumlardan gelen ilgili çalışmaların yanı sıra OpenAI Üst Yöneticisi Sam Altman'ın yorumlarıyla birlikte kendini geliştiren yapay zekaya artan ilgiyle örtüşüyor.
Kaynak: Synced —
orijinal