Praktik Rekayasa Multimodal LLM On-Device OPPO di AICon Shenzhen

Dr. Xiyu Yu dari OPPO dikonfirmasi akan berbicara di konferensi AICon Shenzhen 2026 dengan topik praktik rekayasa model bahasa besar multimodal (LLM) pada perangkat. Pidatonya akan membahas tantangan inti seperti latensi prefill/decoding dalam skenario konteks panjang, pipeline rekayasa kompleks dari kompresi pelatihan hingga penyebaran, serta kesulitan dalam iterasi dan personalisasi model. Pendekatan full-stack OPPO mencakup kerangka kerja pelatihan QAT modular yang mengintegrasikan pelatihan sparse, QAT yang sadar eviction, dan akselerasi decoding. Pipeline QALFT otomatis mencakup persiapan data, PTQ/QAT, penyesuaian halus QALFT, validasi akurasi, dan pembuatan profil kinerja di seluruh platform MTK dan Qualcomm. Optimasi orde-nol menggunakan gangguan sparse memungkinkan pelatihan pada perangkat untuk personalisasi yang menjaga privasi. Praktik ini telah diterapkan di lebih dari 10 skenario bisnis vertikal, mendukung iterasi cepat kemampuan agen pada perangkat. Arah masa depan mencakup attention dan manajemen cache KV yang efisien untuk konteks yang lebih panjang, kuantisasi lebar bit yang lebih rendah, dan optimasi terpadu pemahaman multimodal dan perencanaan agen. Konferensi akan berlangsung pada 21-22 Agustus 2026, dengan menghadirkan 50+ pakar dari perusahaan teknologi terkemuka.