DeepPavlov

كيف قلّصت مُضمّنًا روسيًا إلى 24 مليون معامل — وكادت خانة واحدة أن تُفسده

درّب مهندس مُضمّنًا روسيًا خفيفًا يُدعى STRIZH، بعدد معاملات يبلغ 24.4 مليون و4 طبقات، لاستخدامه في الاسترجاع التوليدي المعزز المحلي على وحدة معالجة رسوميات مشتركة. رقم خاطئ واحد في إعداد المُرمِّز (model_max_length=256) أدى إلى انخفاض Recall@10 من 0.589 إلى 0.448، وكاد أن يُبطل العمل بأكمله. صُمم النموذج ليكون مرحلة استرجاع أولى سريعة على AMD Strix Halo، منافسًا bge-m3 في سيناريوهات المشاركة في الموارد.

DeepPavlov BAAI Microsoft