Инженерная практика OPPO по созданию мультимодальных больших языковых моделей на устройстве на AICon Shenzhen
OPPO
MediaTek
Qualcomm
Доктор Сиюй Юй, эксперт по мультимодальным алгоритмам в OPPO, представит полностековую инженерную практику OPPO для мультимодальных больших языковых моделей на устройстве на конференции AICon Shenzhen 2026. Доклад охватывает обучение с учётом квантования (Quantization-Aware Training, QAT), разреженное сжатие, вытеснение длинного контекстного кэша, ускорение декодирования и автоматизированные пайплайны QALFT для решения проблем задержки вывода, инженерной сложности и персонализации на устройствах с ограниченными ресурсами.
Доктор Юй Сиюй из OPPO подтвердил свое участие в качестве спикера на конференции AICon Shenzhen 2026 с докладом о практике инженерного проектирования бортовых мультимодальных больших языковых моделей (Large Language Model, LLM). В своем выступлении он затронет ключевые проблемы, такие как задержки префилл/декодирования в сценариях с длинным контекстом, сложные инженерные пайплайны от сжатия при
Показать ещё ↓
Источник: InfoQ 中国 —
оригинал