الاستدلال الذاتي المُقطّر لضبط نموذج أمازون نوفا
Amazon Web Services
تستكشف أمازون تقنية الاستدلال الذاتي المُقطّر (SDR) لتوليد مسارات سلسلة الأفكار المستخدمة في ضبط دقيق خاضع للإشراف (SFT) عندما تكون هذه المسارات مفقودة. تعيد تقنية SDR استخدام الاستدلال الخاص بالنموذج الأساسي أمازون نوفا 2 لايت، مما يخفف من النسيان الكارثي ويحسن الأداء المستهدف دون الحاجة إلى تعليق بشري.
عند ضبط نموذج باستخدام الضبط الدقيق المُوجَّه (SFT)، غالبًا ما يكون إنشاء مسارات استدلال عالية الجودة متسلسلة التفكير (CoT) غير عملي. وبدون مسارات الاستدلال، قد يفقد النموذج قدرته على الاستدلال بسبب مشكلة كبت الاستدلال. تقدم أمازون تقنية الاستدلال الذاتي المُقطَّر (SDR)، والتي تستخدم نموذج Amazon Nova 2 Lite الأساسي لتوليد مسارات استدلال لكل مثال من أمثلة SFT، ثم تُدرجها قبل المخرجات الأصلية وتُجري الضبط الدقيق في وضع الاستدلال. لا تتطلب SDR أي تدخل بشري، وهي قابلة للتطبيق عبر مختلف المجالات، وتحافظ على قدرة الاستدلال بشكل أكثر فعالية من دمج النماذج. تُظهر التجارب على معايير مثل ToolACE وCoCoHD وGovReport وInvoice-OCR وCaptionGen أن SDR تُخفِّف من النسيان الكارثي، وتحافظ على أداء الرياضيات (70% مقابل 68% مع دمج النماذج)، وتُحسِّن الأداء المستهدف بنسبة تزيد عن 6.5% في المتوسط.
المصدر: AWS ML blog —
الأصلي
