соответствия требованиям. Ключевой компонент — интеллектуальная маршрутизация, которая оценивает сложность задачи по таким параметрам, как длина промпта, предустановленные и пользовательские правила, число диалоговых сессий, и направляет простые запросы на более дешёвые модели, а сложные — на более мощные, со средней задержкой принятия решения менее 100 миллисекунд. Для локального инференса на оборудовании Ascend платформа выполняет сквозную оптимизацию от операторов нижнего уровня до планирования верхнего уровня, включая сжатие моделей, параллельную декодировку и управление распределённым KV-кешем. В тестах с открытыми моделями Spark Token Factory показала улучшение эффективности инференса примерно в 5 раз по сравнению с фреймворком vLLM-Ascend, а задержка первого токена снизилась на 30–40%. В части безопасности реализован принцип тройного разделения полномочий, журналы аудита, защита чувствительных данных (персональные данные, финансовая информация и т.д.) с маршрутизацией, не допускающей утечки за пределы домена. Платформа также предоставляет сквозную регистрацию запросов и анализ затрат для прозрачности операций. Spark Token Factory дополняет экосистему корпоративных ИИ-инструментов iFlytek и призвана помочь компаниям перейти от точечного использования моделей к масштабируемой операционной модели.