科大讯飞推出星火令牌工厂:企业AI模型智能路由与管理平台
中国公司科大讯飞于7月19日推出星火令牌工厂,这是一个用于大型语言模型的统一访问、智能路由和成本优化的企业平台。该解决方案包括一个基于角色的访问控制、审计和敏感数据保护的安全系统,并在昇腾硬件上将本地推理效率提升至vLLM-Ascend的5倍。
科大讯飞
QbitAI 量子位24.07 · 02:03
中国公司科大讯飞于7月19日推出星火令牌工厂,这是一个用于大型语言模型的统一访问、智能路由和成本优化的企业平台。该解决方案包括一个基于角色的访问控制、审计和敏感数据保护的安全系统,并在昇腾硬件上将本地推理效率提升至vLLM-Ascend的5倍。
科大讯飞
科大讯飞旗下的新公司瑶方智能解释称,机器人的主要问题不在于速度,而在于缺乏“本体认知”。他们提出了自己的架构iFLYTEK-Embodied-Omni,该架构集成了VLM(视觉语言模型)、VGM(视觉生成模型)和AGM(动作生成模型),以克服VLA(视觉语言动作)的局限并弥补真实数据的不足。该架构已在包括LIBERO-Plus和RoboTwin 2.0在内的基准测试中展现出高性能。
科大讯飞
NVIDIA