Tokenpocalypse on täällä: Yritykset kiirehtivät leikkaamaan tekoälymenoja
Vuotanut Accenturen kokous paljastaa, että muut kuin insinöörit ajavat token-kulutusta, ja PDF:stä markdowniin -muunnos on merkittävä kustannus. Yritykset kiirehtivät vähentämään tekoälymenoja token-kustannusten noustessa.
Vuotetussa Accenturen kokouksen äänitallenteessa, josta 404 Media uutisoi, tuodaan esiin, että tekoälyn käytössä token-kulutusta ajavat enemmän muut kuin insinöörit. Accenturen agenttitekoälystrategian johtaja Justice Kwak totesi, että sisäinen data osoittaa muiden kuin insinöörien osallistuvan toimintaan, joka kuluttaa paljon tokeneita, kuten PDF-tiedostojen muuntamiseen kuviksi ja edelleen markdown-tiedostoiksi. Stuart Henderson, Accenturen asiakasryhmän johtaja, vitsaili tästä käytännöstä kutsuen sitä yhdeksi suurimmista token-syöpöiksi, mihin Kwak vahvisti, että Accenturen oma data tukee tätä. Tämä anekdootti korostaa yritysten laajempia pyrkimyksiä vähentää tekoälyyn liittyviä kustannuksia, kun token-kustannuksista on tullut huolenaihe.
Lähde: Simon Willison —
Alkuperäinen