Self-Distilled Reasoning für das Feintuning von Amazon Nova
Amazon untersucht Self-Distilled Reasoning (SDR), um Chain-of-Thought-Spuren für das überwachte Feintuning (Supervised Fine-Tuning, SFT) zu generieren, wenn solche Spuren fehlen. SDR nutzt die eigene Argumentation des zugrunde liegenden Amazon Nova 2 Lite-Modells, mildert katastrophales Vergessen und verbessert die Zielleistung ohne menschliche Annotation.
Amazon Web Services

