MIT представляет SEAL: новый шаг к самоулучшающемуся ИИ
Исследователи из MIT предложили SEAL (Self-Adapting LLMs — самоадаптирующиеся большие языковые модели), фреймворк, позволяющий большим языковым моделям обновлять собственные веса с помощью обучения с подкреплением. Метод генерирует саморедактируемые данные для обучения и улучшает производительность на целевых задачах. Экспериментальные результаты на обучении с малым количеством примеров и интеграции знаний показывают значительный прирост по сравнению с базовыми методами.
MIT-исследователи опубликовали статью под названием «Self-Adapting Language Models», в которой представлен фреймворк SEAL, позволяющий большим языковым моделям (LLM) обновлять собственные веса. Модель генерирует синтетические обучающие данные через саморедактирование, которое осваивается с помощью обучения с подкреплением. Награда основывается на производительности обновлённой модели на
Показать ещё ↓
Источник: Synced —
оригинал