iFlytek lance Spark Token Factory : une plateforme de routage intelligent et de gestion des modèles d'IA d'entreprise
L'entreprise chinoise iFlytek a présenté le 19 juillet Spark Token Factory, une plateforme d'entreprise pour l'accès unifié, le routage intelligent et l'optimisation des coûts des grands modèles de langage. La solution inclut un système de sécurité avec contrôle d'accès basé sur les rôles, un audit et une protection des données sensibles, et augmente l'efficacité de l'inférence locale sur le matériel Ascend jusqu'à cinq fois par rapport à vLLM-Ascend.
科大讯飞

