nOps, Amazon Bedrock AgentCore로 FinOps 에이전트 제공 시간 75% 단축

nOps는 고객을 위해 40억 달러 이상의 클라우드 지출을 관리하는 기업으로, FinOps 분석 에이전트 Clara를 Amazon Bedrock AgentCore로 전환했습니다. 이는 기존 API 중심 인프라의 한계(예: 지연 시간, 복잡성, 높은 유지보수 비용)를 극복하기 위한 조치였습니다. 새 아키텍처는 Amazon Bedrock AgentCore에서 단일 Strands 기반 에이전트를 사용하며, 직접 도구 액세스, Databricks Lakehouse Metric Views를 기반으로 구축된 거버넌스 분석 데이터 레이어, 그리고 세션 및 캔버스 사양과 같은 영구 상태를 저장하기 위한 Databricks Lakebase를 활용합니다. 상호작용은 Vercel에 호스팅된 Next.js 애플리케이션과 스트리밍 서버 전송 이벤트(Server-Sent Events)를 통해 처리되며, 비동기 워크플로우는 Amazon DynamoDB, Amazon SNS, Amazon SQS, Amazon API Gateway WebSocket을 사용합니다. 이러한 재구성으로 프로덕션 시간이 10~12개월에서 4개월로 단축되어 75% 감소했고, 정확도 점수는 81.7%, 유용성 점수는 79.4%로 향상되었으며, 도구 실패율은 7.49%에서 0.92%로 감소했습니다. 또한 LangGraph/LangChain 오케스트레이션 레이어를 제거했습니다. 회사는 고객 성공 팀의 수동 분석 효율도 2시간에서 30분으로 개선했으며, 공유 런타임에서 4~6개의 프로덕션 에이전트를 실행할 수 있게 되었습니다.