Инженерная практика OPPO по работе с мультимодальными большими языковыми моделями на устройстве на конференции AICon в Шэньчжэне
OPPO
MediaTek
Qualcomm
Доктор Сиюй Юй, эксперт по мультимодальным алгоритмам в OPPO, расскажет о полностековой инженерной практике OPPO для мультимодальных больших языковых моделей на устройстве на конференции AICon Shenzhen 2026. Доклад охватывает обучение с учетом квантизации (quantization-aware training, QAT), разреженное сжатие, вытеснение длинного контекстного кэша, ускорение декодирования и автоматизированные конвейеры QALFT для решения проблем задержки вывода, инженерной сложности и персонализации на устройствах с ограниченными ресурсами.
Доктор Юй Сиюй из OPPO подтвердил свое участие в качестве спикера на конференции AICon Shenzhen 2026 с докладом о практике инженерного проектирования бортовых мультимодальных больших языковых моделей (Large Language Model, LLM). В своем выступлении он затронет ключевые проблемы, такие как задержки префилл/декодирования в сценариях с длинным контекстом, сложные инженерные пайплайны от сжатия при
Показать ещё ↓
Источник: InfoQ 中国 —
оригинал