Kuka todella johtaa agenttisessa kehityksessä? Ei se, kuka luulit

Artikkelissa kerrotaan, että kesäkuussa 2026 toteutetussa kahden viikon tuotantokokeessa, jossa yksi kehittäjä käytti agenttipohjaisia koodaustyökaluja hallintapinoineen, kului 8,82 miljardia tokenia 30 993 pyynnössä, ja välimuistin osumatarkkuus oli 99,38 prosenttia. Hallinnon (käytännöt, taidot, arviointikehotteet) aiheuttama kontekstin ylimäärä vaihtelee 70 000–90 000 tokenin välillä jokaista kutsua kohden. Kustannukset vaihtelevat huomattavasti mallin mukaan: Anthropicin Sonnet 4.6 maksaisi samasta työmäärästä 4 770 dollaria realistisella 92 prosentin välimuistin osumatarkkuudella, kun taas DeepSeek V4 Pro maksoi vain 66,17 dollaria, eli 72-kertainen ero. Tämä ero johtuu DeepSeekin Multi-Head Latent Attention -mekanismista (MLA), joka pakkaa KV-välimuistin 93,3 prosenttia, mikä tekee välimuistin luvuista lähes ilmaisia ja mahdollistaa välimuistien säilymisen päiväkausia edullisilla SSD-levyillä 3FS:n avulla, kun taas Anthropic, OpenAI ja Google käyttävät GQA/MHA-mekanismeja, joiden välimuistit vanhenevat tunnin kuluessa HBM-rajoitusten vuoksi. Artikkelissa mainitaan myös tapauksia Uberissa, Microsoftissa, Amazonissa, Pinterestissä ja nimeämättömässä yrityksessä, jotka osoittavat hallitsemattoman agenttien käytön aiheuttamia kustannuksia, ja väitetään, että DeepSeekin arkkitehtuurinen valinta tekee hallinnasta taloudellisesti kannattavaa, toisin kuin kalliimmat vaihtoehdot, jotka pakottavat tiimit karsimaan turvatoimenpiteitä.