nOps acelera a entrega de agentes FinOps em 75 porcento com Amazon Bedrock AgentCore
Amazon Web Services
Databricks
Vercel
LangChain
A nOps, empresa de otimização de nuvem com inteligência artificial, reconstruiu seu agente de análise FinOps Clara na Amazon Bedrock AgentCore, alcançando uma redução de 75 porcento no tempo até a produção e melhorando a qualidade das respostas. A nova arquitetura, que usa um agente único com streaming e uma camada de dados governada, também reduziu a complexidade operacional e a manutenção de infraestrutura.
A nOps, que gerencia mais de US$ 4 bilhões em gastos com nuvem para seus clientes, migrou seu agente de análise FinOps, Clara, para o Amazon Bedrock AgentCore para superar as limitações de sua infraestrutura anterior, centrada em APIs, como latência, complexidade e alto custo de manutenção. A nova arquitetura utiliza um único agente baseado em Strands no Amazon Bedrock AgentCore, com acesso direto a ferramentas, uma camada de dados construída sobre o Databricks Lakehouse Metric Views para análises governadas, e o Databricks Lakebase para armazenar estado persistente, como sessões e especificações de canvas. A interação é tratada por uma aplicação Next.js hospedada na Vercel, com streaming de Server-Sent Events, e os fluxos de trabalho assíncronos usam Amazon DynamoDB, Amazon SNS, Amazon SQS e Amazon API Gateway WebSocket. Essa reestruturação reduziu o tempo de produção de 10 a 12 meses para 4 meses (uma redução de 75%), aumentou a pontuação de Correção para 81,7% e a de Utilidade para 79,4%, reduziu a taxa de falha de ferramentas de 7,49% para 0,92% e eliminou a camada de orquestração LangGraph/LangChain. A empresa também melhorou a eficiência da análise manual de 2 horas para 30 minutos para as equipes de sucesso do cliente, e agora pode executar de 4 a 6 agentes de produção em um runtime compartilhado.
Fonte: AWS ML blog —
original