ممارسة هندسة النماذج اللغوية الكبيرة متعددة الوسائط على الجهاز من OPPO في مؤتمر AICon شنتشن
OPPO
MediaTek
Qualcomm
سيشارك الدكتور شييو يو، خبير خوارزميات الوسائط المتعددة في OPPO، الممارسة الهندسية الشاملة للنماذج اللغوية الكبيرة متعددة الوسائط على الجهاز في مؤتمر AICon شنتشن 2026. تغطي المحاضرة التدريب المراعي للكمية (QAT)، والضغط المتناثر، وإزالة ذاكرة التخزين المؤقت للسياقات الطويلة، وتسريع فك الترميز، وخطوط أنابيب QALFT الآلية لمعالجة زمن انتقال الاستدلال، والتعقيد الهندسي، والتخصيص على الأجهزة محدودة الموارد.
تأكدت مشاركة الدكتور شيو يو من شركة OPPO كمتحدث في مؤتمر AICon شنغهاي 2026 حول موضوع الممارسة الهندسية لنماذج اللغة الكبيرة متعددة الوسائط على الجهاز. ستتناول محاضرته التحديات الأساسية مثل زمن الاستجابة التمهيدي/فك التشفير في سيناريوهات السياق الطويل، وخطوط الأنابيب الهندسية المعقدة من ضغط التدريب إلى النشر، وصعوبات تكرار النموذج وتخصيصه. يشمل نهج OPPO الشامل إطار تدريب QAT نمطيًا يدمج التدريب المتناثر، و QAT المراعي للإزالة، وتسريع فك التشفير. يغطي خط أنابيب QALFT الآلي إعداد البيانات، و PTQ/QAT، والضبط الدقيق QALFT، والتحقق من الدقة، وتوصيف الأداء عبر منصات MTK و Qualcomm. يتيح التحسين من الدرجة الصفرية باستخدام الاضطراب المتناثر التدريب على الجهاز للتخصيص مع الحفاظ على الخصوصية. تم تطبيق هذه الممارسة على أكثر من 10 سيناريوهات أعمال عمودية، مما يدعم التكرار السريع لقدرات العامل على الجهاز. تشمل الاتجاهات المستقبلية الانتباه الفعال وإدارة ذاكرة KV للسياقات الأطول، والقياس الكمي بعرض بتات أقل، والتحسين الموحد للفهم متعدد الوسائط وتخطيط العامل. سيعقد المؤتمر في 21-22 أغسطس 2026، بمشاركة أكثر من 50 خبيرًا من كبرى شركات التكنولوجيا.
المصدر: InfoQ 中国 —
الأصلي
