OPPOのオンデバイス・マルチモーダルLLMエンジニアリング実践、AICon深センで発表

OPPOの于希雨博士は、2026年に深センで開催されるAIConカンファレンスにおいて、オンデバイス向けマルチモーダル大規模言語モデル（Large Language Model、LLM）のエンジニアリング実践について講演することが決定しました。同氏の講演では、長文脈シナリオにおけるプリフィルおよびデコードのレイテンシ、トレーニング圧縮からデプロイメントに至る複雑なエンジニアリングパイプライン、そしてモデルの反復とパーソナライゼーションの難しさといった中核的な課題を取り上げます。OPPOのフルスタックアプローチには、スパーストレーニング、エビクション認識型量子化認識トレーニング（Quantization-Aware Training、QAT）、およびデコード高速化を統合したモジュラー型QATトレーニングフレームワークが含まれます。自動化された量子化認識低ランク適応（Quantization-Aware Low-Rank Adaptation、QALFT）パイプラインは、データ準備、Post-Training Quantization（PTQ）およびQAT、QALFTファインチューニング、精度検証、さらにMediaTek（MTK）およびQualcommプラットフォーム全体でのパフォーマンスプロファイリングをカバーします。スパース摂動を用いたゼロ次最適化により、プライバシー保護型パーソナライゼーションのためのオンデバイストレーニングが可能となります。この実践は10以上の垂直ビジネスシナリオに適用され、オンデバイスエージェント機能の迅速な反復をサポートしています。今後の方向性として、より長いコンテキストに対応する効率的なアテンションおよびKVキャッシュ管理、より低ビット幅の量子化、マルチモーダル理解とエージェント計画の統合最適化が含まれます。カンファレンスは2026年8月21日から22日にかけて開催され、主要テクノロジー企業から50名以上の専門家が参加する予定です。