OPPOn laitteen sisäisen multimodaalisen suuren kielimallin tekninen toteutus AICon Shenzhenissä

OPPO:n tohtori Xiyu Yu on vahvistettu puhujaksi AICon Shenzhen 2026 -konferenssissa, ja hänen aiheenaan on laitteessa toimivan multimodaalisen suuren kielimallin (large language model, LLM) käytännön toteutus. Hänen puheenvuorossaan käsitellään keskeisiä haasteita, kuten esitäyttö- ja dekoodausviivettä pitkissä konteksteissa, monimutkaisia kehitysputkia harjoituskompressiosta käyttöönottoon sekä mallien iteroinnin ja personoinnin vaikeuksia. OPPO:n koko pinon lähestymistapa sisältää modulaarisen QAT-harjoituskehyksen, joka yhdistää harjoitustiheyden hallinnan, eviction-aware QAT:n ja dekoodauksen nopeuttamisen. Automatisoitu QALFT-putki kattaa datan valmistelun, PTQ- ja QAT-menetelmät, QALFT-hienosäädön, tarkkuuden validoinnin ja suorituskyvyn profiloinnin MTK- ja Qualcomm-alustoilla. Nolla-asteen optimointi harjoitustiheyden häiriöiden avulla mahdollistaa laitteessa tapahtuvan harjoituksen yksityisyyttä suojaavaa personointia varten. Käytäntöä on sovellettu yli kymmeneen vertikaaliseen liiketoimintaskenaarioon, mikä tukee laitteessa toimivien agenttien ominaisuuksien nopeaa iteraatiota. Tulevaisuuden suuntia ovat tehokas tarkkaavaisuusmekanismi ja KV-välimuistin hallinta pidempiä konteksteja varten, matalampi bittileveys kvantisoinnissa sekä multimodaalisen ymmärtämisen ja agenttien suunnittelun yhtenäinen optimointi. Konferenssi järjestetään 21.–22. elokuuta 2026, ja siihen osallistuu yli 50 asiantuntijaa johtavista teknologiayrityksistä.