Tarriffišokki saa johtajat miettimään uudelleen koko tekoälyasiaa

KPMG:n yli 2 000:lle johtavalle päättäjälle 20 maassa teettämässä kyselyssä havaittiin, että 29 prosenttia kamppailee ymmärtääkseen toimintakustannuksia laajentaessaan yritysten tekoälykäyttöönottoja, ja lähes puolet aikatauluttaa käyttöönottoja uudelleen, kun kustannukset ylittävät odotetun arvon. Toimittajat, kuten Anthropic, OpenAI ja GitHub, ovat siirtyneet kiinteähintaisista tilauksista käyttöperusteiseen laskutukseen tokeneittain, mikä aiheuttaa laskushokin. Gartnerin tutkimus osoitti, että tekoälyavusteisen koodauksen kustannukset kehittäjää kohti voivat ylittää maailmanlaajuisen keskipalkan vuoteen 2028 mennessä, erityisesti matalamman palkkatason alueilla. Netflixin insinöörin luoma avoimen lähdekoodin työkalu karsii tarpeetonta syötettä (kuten tietokantaskeemoja ja lokitietoja), jotka lähetetään suurille kielimalleille, mikä säästää käyttäjille satoja tuhansia dollareita token-kustannuksissa. Työkalu käyttää 'puristimia' poistaakseen tarpeetonta monisanaisuutta ennen lähetystä.