Writer julkaisee Palmyra X6 -mallin ja valjaspäivitykset leikatakseen token-kustannuksia

Writer, joka tarjoaa tekoälytyökaluja ja -agentteja markkinoijille, julkaisi uuden lippulaivamallin nimeltä Palmyra X6, jonka tarkoituksena on ratkaista kalliiden tekoälykäyttöönottojen ongelma. Rakennettu jälkitraining-muunnoksena Z.ai:n avoimen lähdekoodin mallista GLM-5.2, järjestelmän pitäisi tarjota käyttövalmiita ominaisuuksia huomattavasti halvemmalla. Yritys arvioi, että uusi malli yhdistettynä muutoksiin harness-infrastruktuurissa leikkaa asiakkaiden kustannuksia jopa 50 prosenttia perustehtävissä. Uuden mallin ohella yritys julkaisi myös merkittäviä päivityksiä vakioagenttiharnessiinsa; molemmat ominaisuudet ovat Writerin asiakkaiden saatavilla torstaista alkaen. Toimitusjohtaja May Habib kertoi TechCrunchille, että yritykset ovat kyllästyneet jahtaamaan vertailuarvoja ja haluavat laskevia kustannuksia. Uusi lähestymistapa korostaa monimutkaisia, monivaiheisia tehtäviä, jotka suoritetaan nopeammin ja vähemmillä tokeneilla, ja harnessin optimointi on ratkaiseva vipu. Writerin tutkijoiden tuoreessa artikkelissa havaittiin, että muutokset harnessin tehokkuudessa olivat luotettavampi tapa vähentää kustannuksia kuin mallin valinta, ja kustannukset laskivat keskimäärin 40 prosenttia testauksen aikana. Asiakkaiden kannalta kokemus pysyy malliagnostisena: Palmyra X6 toimii rinnakkain muiden Writer-mallien kanssa tai ulkopuolisten mallien kanssa, jotka tuodaan Azuren tai Amazon Bedrockin kautta. Habib näkee myös kustannusten leikkaamisen ajavan epäluottamusta suuria tekoälylaboratorioita kohtaan, joilla on taloudellinen kannustin lisätä tokenien käyttöä.