iFlytek bringt Spark Token Factory auf den Markt: Plattform für intelligentes Routing und Management von Unternehmens-KI-Modellen
Das chinesische Unternehmen iFlytek hat am 19. Juli Spark Token Factory vorgestellt, eine Unternehmensplattform für den einheitlichen Zugang, das intelligente Routing und die Kostenoptimierung großer Sprachmodelle. Die Lösung umfasst ein Sicherheitssystem mit rollenbasierter Zugriffskontrolle, Prüfung und Schutz sensibler Daten und steigert die lokale Inferenzeffizienz auf Ascend-Hardware um bis zu das Fünffache im Vergleich zu vLLM-Ascend.
科大讯飞
QbitAI 量子位24.07 · 02:03
