Fireworks AI发布Fireworks Nexus:一种即插即用的路由和成本控制层,将常规编码工作转移到开放权重模型
Fireworks AI
Anthropic
Moonshot AI
OpenAI
Fireworks AI推出了Fireworks Nexus,这是一个面向工程组织的AI管理和路由平台。通过将常规编码任务路由到开放权重模型,同时将困难任务保留在前沿模型上,从而降低成本。Faros AI和Arize的独立评估支持了这种方法,显示成本降低3-5倍,效率提升。
Fireworks AI发布了Fireworks Nexus,这是一个面向工程组织的AI管理和路由平台。它将现有编码工具连接到开放权重模型的管理层,以解决成本低效问题——即常规工作却使用昂贵的前沿模型运行。Nexus包含三个组件:企业级控制与成本可观测性、通过FireConnect(Apache 2.0许可下的一行安装)实现的工作流连续性,以及使用定制模型(对请求难度进行评分)的智能流量管理。该路由器是一个研究预览版,目前可在Claude Opus 5与GLM-5.2之间路由(通过Anthropic密钥直通),或在全开放模式下在Kimi K3与GLM-5.2之间路由。初步测试显示,Notion和Doximity的每个合并拉取请求成本降低了33%。Faros AI评估了七条路由上的211个真实工程任务,发现基于GLM-5.2的Claude Code得分为0.568,而基于Opus 4.8的Claude Code得分为0.521,每个任务成本分别为0.92美元和1.76美元。Arize在40个Terminal-Bench任务上对10个模型进行了2400次运行评估,结果显示,精心设计的升级策略在每成功任务成本0.525美元、解决32.3/40个任务的情况下,击败了所有单一模型策略,而仅使用GPT-5.5的成本为0.636美元,解决25/40个任务。存在三种部署路径:FireConnect插件、直接API配置,或将路由器放置在某个前沿模型合约的前端。
来源: MarkTechPost —
原文
