Voice AI -agentin puhelulaskuri: 13 testiskenaariota ja hinta sentilleen
Яндекс
Anthropic
Insinööri kehitti voice AI -agentin pienelle valmistusyritykselle, joka hoitaa vastaamattomia puheluita ja luo tilauskortteja tekstiviestien kautta. Hän rakensi yksityiskohtaisen kustannus- ja mittausjärjestelmän, kirjaten 27 kenttää jokaista puhelua kohti, ja loi 13 testiskenaariota järjestelmän arvioimiseksi. Kustannus kohdepuhelua kohti on 6,8–8,4 ruplaa, ja tokenit (kehotteiden käsittely) vastaavat kahdesta kolmasosasta kuluja.
Insinööri rakensi pienen valmistusyrityksen puhelinlinjalle ääni-AI-agentin. Järjestelmä käyttää Voximplantia puhelintekniikassa, Yandex Realtimea (speech-realtime-250923) puheessa ja Claudea tilaustenvikojen luomisessa. Aluksi järjestelmässä oli 4 sekunnin viive, mutta siltaserverin avulla ensimmäinen ääni tulee 554-804 millisekunnissa. Tämän jälkeen insinööri rakensi räätälöidyn mittaus- ja kustannusseurantajärjestelmän, joka kirjaa 27 kenttää joka puhelusta SQLite-tietokantaan. Kolme keskeistä havaintoa nousi esiin: henkilökohtaiset ja roskapuhelut luokiteltiin aluksi virheellisesti kohdepuheluiksi, odotettu coroutine-peruutus saattoi hiljaisesti pudottaa puhelulokit, ja mallit kysyvät usein puhelinnumeroita, jotka ne jo tietävät. Insinööri huomasi myös, että token-kustannukset dominoivat (66 % kuluista), ja että halvempi Yandex-malli suoriutui huonommin. Tarkistuksen jälkeen laskurin tarkkuus oli 1 %:n sisällä laskutuksesta. Kohdepuhelun hinta on 6,8-8,4 ruplaa, ja insinööri loi 13 koejärjestelmäskenaariota järjestelmän testaamiseksi. Artikkeli päättelee, että API-pohjainen mittaus on rehellisempi kuin tilausmaksut palveluiden jälleenmyynnissä.
Lähde: Habr — хаб ИИ —
Alkuperäinen