Mitä LLM-chatboteilta puuttuu: Tarkoituksen tunne

Keskustelubotit paranevat jatkuvasti, mutta niiden edistystä mitataan vertailuarvoilla, kuten MMLU, HumanEval ja MATH, jotka testaavat yksivastauksellisia reaktioita. Tosielämän tehtävät, kuten matkasuunnittelu tai GitHub-ongelmien automatisointi, vaativat kuitenkin monivaiheista vuoropuhelua ja vaatimusten tarkentamista. Tutkijat ovat osoittaneet, että jopa edistyneet mallit, kuten LLaMA2-chat-70B ja GPT-3.5-turbo-16k, menettävät kiinnittymisensä järjestelmän kehotteeseen noin 1 600 merkin jälkeen (noin 16 kierrosta). Tämä vahvistetaan kokeessa, jossa kaksi keskustelurobottia kommunikoi keskenään ja sitten tarkistettiin, kuinka hyvin kumpikin noudatti ohjettaan. Ongelmana on, että harjoittelu ihmispalautteesta saatavan vahvistusoppimisen avulla ei ota huomioon monivaiheista suunnittelua – se optimoi yksivastauksellisia reaktioita pitkäaikaisten tavoitteiden sijaan. Kirjoittaja ehdottaa tavoitteellisen vuoropuhelun lähestymistapaa, jossa keskustelurobotti toimii avustajana, joka vähitellen tarkentaa käyttäjän aikomuksia. Esimerkkejä tällaisista järjestelmistä ovat ratkaisukeskeinen vuoropuhelu ja Sotopia-alusta, jotka mallintavat yhteistyöhön perustuvaa päätöksentekoa. Jotta saamme aitoja avustajia, meidän ei tarvitse vain tuottaa tekstiä, vaan suunnitella vuoropuhelut tavoitteellisina peleinä, joissa jokainen puheenvuoro muuttaa keskustelukumppanin maailmanmallia.