Fireworks AI julkaisee Fireworks Nexus -reititys- ja kustannustenhallintakerroksen, joka siirtää rutiinikoodaustyöt avoimen painon malleille
Fireworks AI
Anthropic
Moonshot AI
OpenAI
Fireworks AI on lanseerannut Fireworks Nexus -nimisen tekoälyn hallinta- ja reititysalustan suunnitteluorganisaatioille. Se vähentää kustannuksia ohjaamalla rutiininomaiset koodaustehtävät avoimen painon malleille samalla, kun vaikeat tehtävät pidetään huippumalleilla. Riippumattomat Faros AI:n ja Arizen arvioinnit tukevat lähestymistapaa osoittaen 3-5-kertaisia kustannussäästöjä ja parantunutta tehokkuutta.
Fireworks AI julkaisi Fireworks Nexus -nimisen tekoälyn hallinta- ja reititysalustan, joka on suunnattu ohjelmistokehitysorganisaatioille. Se yhdistää olemassa olevat koodaustyökalut hallittuun avoimien painomallien kerrokseen ja ratkaisee kustannustehottomuuksia, joissa rutiinityöt suoritetaan kalliilla huippumalleilla. Nexus koostuu kolmesta osasta: yritystason hallinta- ja kustannusten seurantatyökalut, työnkulun jatkuvuus FireConnectin (yksi rivi asennettava, Apache 2.0 -lisenssi) avulla sekä älykäs liikenteenhallinta, joka käyttää räätälöityä mallia pyyntöjen vaikeusasteen arviointiin. Reititin on tutkimusversio, joka tällä hetkellä reitittää joko Claude Opus 5:n ja GLM-5.2:n välillä Anthropicin avaimen läpiviennillä tai Kimi K3:n ja GLM-5.2:n välillä täysin avoimessa tilassa. Alustavissa testeissä Notionin ja Doximityn kanssa yhdistetyn vetopyynnön kustannukset laskivat 33 prosenttia. Faros AI arvioi 211 todellista ohjelmistokehitystehtävää seitsemällä eri reitillä, ja havaitsi, että Claude Code GLM-5.2:lla sai tulokseksi 0,568 verrattuna Claude Coden 0,521:een Opus 4.8:lla, kustannusten ollessa 0,92 dollaria verrattuna 1,76 dollariin tehtävää kohti. Arize arvioi 10 mallia 40 Terminal-Bench-tehtävällä ja 2400 ajolla, ja osoitti, että harkittu eskalaatiotaso voitti kaikki yksittäiset mallistrategiat kustannuksella 0,525 dollaria onnistunutta tehtävää kohti ja 32,3/40 tehtävän ratkaisulla, verrattuna GPT-5.5:n 0,636 dollariin ja 25/40 tehtävään. Käyttöönottoon on kolme polkua: FireConnect-liitännäinen, suora API-konfiguraatio tai reititin huippumallisopimuksen edessä.
Lähde: MarkTechPost —
Alkuperäinen
