OPPO'nun Cihaz Üzeri Çok Modlu Büyük Dil Modeli Mühendislik Pratiği, AICon Shenzhen'de

OPPO'nun Dr. Xiyu Yu'su, AICon Shenzhen 2026 konferansında cihaz üzerinde multimodal büyük dil modeli mühendislik pratiği konusunda konuşma yapacağı doğrulandı. Konuşması, uzun bağlam senaryolarında prefill/çözümleme gecikmesi, eğitim sıkıştırmadan dağıtıma kadar karmaşık mühendislik boru hatları ve model yinelemesi ile kişiselleştirmedeki zorluklar gibi temel sorunları ele alacak. OPPO'nun uçtan uca yaklaşımı, seyrek eğitim, bilinçli niceleme farkındalığı eğitimi ve çözümleme hızlandırmasını entegre eden modüler bir nicelemeye duyarlı eğitim çerçevesini içeriyor. Otomatik bir nicelemeye duyarlı düşük sıralı uyarlama boru hattı, veri hazırlama, eğitim sonrası niceleme/nicelemeye duyarlı eğitim, nicelemeye duyarlı düşük sıralı uyarlama ince ayarı, doğruluk doğrulaması ve MTK ve Qualcomm platformlarında performans profili çıkarmayı kapsıyor. Seyrek pertürbasyon kullanan sıfırıncı derece optimizasyon, gizlilik koruyucu kişiselleştirme için cihaz üzerinde eğitimi mümkün kılıyor. Bu pratik, 10'dan fazla dikey iş senaryosunda uygulanmış olup, cihaz üzerinde ajan yeteneklerinin hızlı yinelemesini destekliyor. Gelecekteki yönelimler arasında daha uzun bağlamlar için verimli dikkat ve KV önbellek yönetimi, daha düşük bit genişliğinde niceleme ve multimodal anlama ile ajan planlamasının birleşik optimizasyonu yer alıyor. Konferans, 21-22 Ağustos 2026 tarihlerinde gerçekleşecek ve önde gelen teknoloji şirketlerinden 50'den fazla uzmanı bir araya getirecek.