OPPOs Praxis für On-Device Multimodale LLMs auf der AICon Shenzhen

Dr. Xiyu Yu von OPPO wurde als Redner für die Konferenz AICon Shenzhen 2026 bestätigt. Sein Vortragsthema ist die Entwicklungspraxis von On-Device Multimodal Large Language Models (LLMs, große multimodale Sprachmodelle). Er wird sich mit zentralen Herausforderungen wie der Prefill- und Decoding-Latenz in Long-Context-Szenarien, komplexen Entwicklungspipelines vom Training über Komprimierung bis zum Deployment sowie Schwierigkeiten bei Modelliteration und Personalisierung befassen. OPPOs Full-Stack-Ansatz umfasst ein modulares QAT-Training-Framework, das Sparsetraining, eviction-aware QAT und Decoding-Beschleunigung integriert. Eine automatisierte QALFT-Pipeline deckt Datenvorbereitung, Post-Training Quantization (PTQ), Quantization-Aware Training (QAT), QALFT-Feintuning, Genauigkeitsvalidierung und Leistungsprofilierung auf MTK- und Qualcomm-Plattformen ab. Zero-Order-Optimierung mittels sparsamer Perturbation ermöglicht On-Device-Training für datenschutzschonende Personalisierung. Die Praxis wurde bereits in über zehn vertikalen Geschäftsszenarien angewendet und unterstützt die schnelle Iteration von On-Device-Agent-Fähigkeiten. Zukünftige Richtungen umfassen effiziente Attention- und KV-Cache-Verwaltung für längere Kontexte, Quantisierung mit niedrigerer Bitbreite und eine vereinheitlichte Optimierung von multimodalem Verständnis und Agentenplanung. Die Konferenz findet am 21. und 22. August 2026 statt und bietet über 50 Experten von führenden Technologieunternehmen.