Thực hành kỹ thuật mô hình ngôn ngữ lớn đa phương thức trên thiết bị của OPPO tại AICon Thâm Quyến
OPPO
MediaTek
Qualcomm
Tiến sĩ Xiyu Yu, chuyên gia thuật toán đa phương thức tại OPPO, sẽ chia sẻ thực hành kỹ thuật toàn diện cho mô hình ngôn ngữ lớn đa phương thức trên thiết bị tại AICon Thâm Quyến 2026. Bài nói bao gồm huấn luyện nhạy lượng tử (QAT), nén thưa, loại bỏ bộ nhớ đệm ngữ cảnh dài, tăng tốc giải mã và quy trình QALFT tự động để giải quyết độ trễ suy luận, độ phức tạp kỹ thuật và cá nhân hóa trên các thiết bị hạn chế tài nguyên.
OPPO的于熙瑜博士确认将在2026年深圳AICon大会上发表演讲，主题为端侧多模态大语言模型工程实践。他的演讲将涵盖长上下文场景下的预填充/解码延迟等核心挑战、从训练压缩到部署的复杂工程流水线，以及模型迭代与个性化中的困难。OPPO的全栈方法包括模块化的QAT训练框架集成了稀疏训练、逐出感知QAT和解码加速。自动化的QALFT流水线覆盖数据准备、PTQ/QAT、QALFT微调、精度验证以及跨MTK和Qualcomm平台的性能分析。利用稀疏扰动的零阶优化实现了端侧训练以进行隐私保护的个性化。该实践已应用于超过10个垂直业务场景，支持端侧代理能力的快速迭代。未来方向包括针对更长上下文的高效注意力机制和KV缓存管理、更低比特量化，以及多模态理解与代理规划的统一优化。大会将于2026年8月21-22日举行，汇聚来自顶级科技公司的50多位专家。
Nguồn: InfoQ 中国 —
bản gốc