iFlytek lanseeraa Spark Token Factoryn: alusta yritysten tekoälymallien älykkääseen reititykseen ja hallintaan
Kiinalainen yritys iFlytek esitteli 19. heinäkuuta Spark Token Factoryn, yritysalustan suurten kielimallien yhtenäiseen käyttöön, älykkääseen reititykseen ja kustannusten optimointiin. Ratkaisu sisältää turvajärjestelmän roolipohjaisella pääsynhallinnalla, seurannalla ja arkaluonteisten tietojen suojauksella, ja se parantaa paikallista päättelytehokkuutta Ascend-laitteistolla jopa viisinkertaiseksi verrattuna vLLM-Ascendiin.
科大讯飞

