Практика инженерии мультимодальных LLM на устройстве от OPPO на конференции AICon в Шэньчжэне
OPPO
MediaTek
Qualcomm
Доктор Сиюй Ю, эксперт по мультимодальным алгоритмам в OPPO, поделится полным стеком инженерной практики OPPO для мультимодальных больших языковых моделей на устройстве на конференции AICon Shenzhen 2026. Доклад охватывает обучение с учетом квантизации (quantization-aware training, QAT), разреженное сжатие, вытеснение кэша длинного контекста, ускорение декодирования и автоматизированные конвейеры QALFT для решения проблем задержки вывода, инженерной сложности и персонализации на устройствах с ограниченными ресурсами.
Доктор Юй Сиюй из OPPO подтвердил свое участие в качестве спикера на конференции AICon Shenzhen 2026 с докладом о практике инженерного проектирования бортовых мультимодальных больших языковых моделей (Large Language Model, LLM). В своем выступлении он затронет ключевые проблемы, такие как задержки префилл/декодирования в сценариях с длинным контекстом, сложные инженерные пайплайны от сжатия при
Показать ещё ↓
Источник: InfoQ 中国 —
оригинал