ممارسة الهندسة للـ LLM متعدد الوسائط على الجهاز من OPPO في AICon شنتشن

تأكدت مشاركة الدكتور شيو يو من شركة OPPO كمتحدث في مؤتمر AICon شنغهاي 2026 حول موضوع الممارسة الهندسية لنماذج اللغة الكبيرة متعددة الوسائط على الجهاز. ستتناول محاضرته التحديات الأساسية مثل زمن الاستجابة التمهيدي/فك التشفير في سيناريوهات السياق الطويل، وخطوط الأنابيب الهندسية المعقدة من ضغط التدريب إلى النشر، وصعوبات تكرار النموذج وتخصيصه. يشمل نهج OPPO الشامل إطار تدريب QAT نمطيًا يدمج التدريب المتناثر، و QAT المراعي للإزالة، وتسريع فك التشفير. يغطي خط أنابيب QALFT الآلي إعداد البيانات، و PTQ/QAT، والضبط الدقيق QALFT، والتحقق من الدقة، وتوصيف الأداء عبر منصات MTK و Qualcomm. يتيح التحسين من الدرجة الصفرية باستخدام الاضطراب المتناثر التدريب على الجهاز للتخصيص مع الحفاظ على الخصوصية. تم تطبيق هذه الممارسة على أكثر من 10 سيناريوهات أعمال عمودية، مما يدعم التكرار السريع لقدرات العامل على الجهاز. تشمل الاتجاهات المستقبلية الانتباه الفعال وإدارة ذاكرة KV للسياقات الأطول، والقياس الكمي بعرض بتات أقل، والتحسين الموحد للفهم متعدد الوسائط وتخطيط العامل. سيعقد المؤتمر في 21-22 أغسطس 2026، بمشاركة أكثر من 50 خبيرًا من كبرى شركات التكنولوجيا.