nOps借助Amazon Bedrock AgentCore将FinOps智能体交付速度提升75%
Amazon Web Services
Databricks
Vercel
LangChain
nOps是一家由人工智能驱动的云优化公司,其基于Amazon Bedrock AgentCore重新构建了FinOps分析智能体Clara,实现了生产交付时间缩短75%,并提升了响应质量。新架构采用具有流式处理和受治理数据层的单一智能体,同时降低了运营复杂性和基础设施维护成本。
nOps 管理着客户超过40亿美元的云支出,该公司将其 FinOps 分析代理 Clara 迁移到 Amazon Bedrock AgentCore,以克服此前基于 API 的基础设施的限制,如延迟、复杂性和高维护成本。新架构在 Amazon Bedrock AgentCore 上使用基于 Strands 的单一代理,可直接访问工具,数据层基于 Databricks Lakehouse Metric Views 构建,用于受治理的分析,并使用 Databricks Lakebase 存储会话和画布规格等持久状态。交互由 Vercel 托管的 Next.js 应用程序处理,支持流式服务器发送事件,异步工作流使用 Amazon DynamoDB、Amazon SNS、Amazon SQS 和 Amazon API Gateway WebSocket。此次重构将生产时间从 10-12 个月缩短至 4 个月(减少了 75%),正确性得分提高到 81.7%,有用性得分提高到 79.4%,工具故障率从 7.49% 降至 0.92%,并消除了 LangGraph/LangChain 编排层。该公司还将客户成功团队的手动分析效率从 2 小时提升至 30 分钟,并且现在可以在共享运行时上运行 4-6 个生产代理。
来源: AWS ML blog —
原文
