Suositusjärjestelmät siirtyvät samankaltaisuudesta käyttäjän aikomusten ennustamiseen

Urban ML-konferenssissa, joka pidettiin 2. elokuuta Moskovassa MTS True Techin ja VTB:n toimesta, asiantuntijat keskustelivat siitä, miten suositusjärjestelmät kehittyvät. Perinteisesti ne perustuivat yhteisölliseen suodatukseen ja samankaltaisten käyttäjien etsimiseen, mutta nyt ne pyrkivät ennustamaan käyttäjän käyttäytymistä keskittyen tiettyjen toimintojen todennäköisyyksiin. MWS:n Danil Bugrienko totesi, että sen sijaan, että määritettäisiin käyttäjän mieltymyksiä, kehittäjät luovat nyt algoritmeja, jotka ennustavat toimintoja, kuten avaamista, katsomista tai ostamista. Kylmän käynnistyksen ongelma on kuitenkin edelleen ratkaisematta; uusilla käyttäjillä ja tuotteilla ei ole vuorovaikutushistoriaa. Reaaliaikaiset suositukset auttavat, analysoimalla jopa ensimmäisiä klikkauksia ja käyttämällä yleisön käyttäytymistä. Sergey Kuznetsov, MWS:n suositusjärjestelmäalustan kehitysjohtaja, korosti haasteita LLM:ien käytössä: latenssi (200–300 ms on toivottava, mutta LLM:t vievät sekunteja), kustannukset kalliiden GPU:iden takia ja luotettavuusongelmat. Kolme toimivaa LLM-käyttötapausta esiteltiin: offline-ominaisuuksien rikastaminen upotuksilla, offline-kandidaattien tuottaminen kylmän käynnistyksen ratkaisemiseksi sekä online-keskusteluskenaariot, joissa LLM toimii agenttina. MWS valitsi Gemman keskusteluskenaarioihin, tinkien hieman laadusta nopeuden ja kustannusten hyväksi, jotta se pystyisi käsittelemään enemmän kyselyitä sekunnissa (RPS). Keskeisiä menestyksen mittareita ovat pysyvyys, sitoutumisaste ja tukipyyntöjen vähentyminen, mutta lopulta kyse on rahasta. LLM:n käyttöönotto vaatii usein uskonharppauksen, koska taloudellisuus ei välttämättä toimi heti, mutta kustannusten odotetaan laskevan. Ala kehittyy kohti järjestelmiä, jotka keskustelevat käyttäjien kanssa ja ymmärtävät heidän välittömät aikomuksensa, ja menestystä arvioidaan sillä, kuinka hyvin ne säästävät käyttäjän aikaa.