nOps beschleunigt FinOps-Agenten-Bereitstellung um 75 Prozent mit Amazon Bedrock AgentCore
Amazon Web Services
Databricks
Vercel
LangChain
nOps, ein auf KI basierendes Unternehmen für Cloud-Optimierung, hat seinen FinOps-Analyseagenten Clara auf Amazon Bedrock AgentCore neu aufgebaut, wodurch die Zeit bis zur Produktionsreife um 75 Prozent reduziert und die Antwortqualität verbessert wurde. Die neue Architektur, die einen einzelnen Agenten mit Streaming und einer verwalteten Datenschicht verwendet, reduzierte zudem die operative Komplexität und den Wartungsaufwand der Infrastruktur.
nOps, das für Kunden Cloud-Ausgaben in Höhe von über 4 Milliarden US-Dollar verwaltet, hat seinen FinOps-Analytics-Agenten Clara auf Amazon Bedrock AgentCore umgestellt, um die Einschränkungen seiner bisherigen API-zentrischen Infrastruktur wie Latenz, Komplexität und hohen Wartungsaufwand zu überwinden. Die neue Architektur verwendet einen einzelnen Strands-basierten Agenten auf Amazon Bedrock AgentCore mit direktem Tool-Zugriff, eine Datenschicht auf Basis von Databricks Lakehouse Metric Views für governierte Analytik und Databricks Lakebase zur Speicherung von persistentem Zustand wie Sitzungen und Canvas-Spezifikationen. Die Interaktion wird über eine bei Vercel gehostete Next.js-Anwendung mit Streaming-Server-Sent-Events abgewickelt, und asynchrone Workflows nutzen Amazon DynamoDB, Amazon SNS, Amazon SQS und Amazon API Gateway WebSocket. Diese Umstrukturierung verkürzte die Produktionszeit von 10-12 Monaten auf 4 Monate (eine Reduzierung um 75 Prozent), erhöhte den Correctness-Score auf 81,7 Prozent und die Helpfulness auf 79,4 Prozent, reduzierte die Tool-Fehlerrate von 7,49 auf 0,92 Prozent und eliminierte die LangGraph/LangChain-Orchestrierungsschicht. Das Unternehmen verbesserte außerdem die Effizienz der manuellen Analyse für Customer-Success-Teams von 2 Stunden auf 30 Minuten, und es kann nun 4-6 Produktionsagenten auf einer gemeinsamen Laufzeitumgebung betreiben.
Quelle: AWS ML blog —
Original