Самостоятельное рассуждение для тонкой настройки Amazon Nova
Amazon Web Services
Amazon исследует метод самостоятельного рассуждения (SDR) для генерации цепочек мыслей при обучении с учителем (SFT), когда такие цепочки отсутствуют. SDR использует рассуждения самой базовой модели Amazon Nova 2 Lite, что смягчает катастрофическое забывание и улучшает целевую производительность без человеческой разметки.
При тонкой настройке модели с помощью контролируемой тонкой настройки (supervised fine-tuning, SFT) создание высококачественных цепочек рассуждений (chain-of-thought, CoT) часто оказывается непрактичным. Без цепочек рассуждений модель может потерять способность к рассуждению из-за проблемы подавления рассуждений. Amazon предлагает метод самообучения через рассуждения (Self-Distilled Reasoning,
Показать ещё ↓
Источник: AWS ML blog —
оригинал