nOps versnelt levering van FinOps-agent met 75 procent dankzij Amazon Bedrock AgentCore
Amazon Web Services
Databricks
Vercel
LangChain
nOps, een AI-gestuurd bedrijf voor cloudoptimalisatie, heeft zijn FinOps-analyticsagent Clara herbouwd op Amazon Bedrock AgentCore, wat een reductie van 75 procent in time-to-production opleverde en een betere responskwaliteit. De nieuwe architectuur, die gebruikmaakt van één agent met streaming en een beheerde datalaag, verminderde ook de operationele complexiteit en het onderhoud van de infrastructuur.
nOps, dat meer dan 4 miljard dollar aan clouduitgaven voor klanten beheert, heeft zijn FinOps-analyticsagent Clara overgezet naar Amazon Bedrock AgentCore om de beperkingen van de vorige API-gerichte infrastructuur, zoals latentie, complexiteit en hoge onderhoudskosten, te overwinnen. De nieuwe architectuur maakt gebruik van een enkele op Strands gebaseerde agent op Amazon Bedrock AgentCore met directe toegang tot tools, een datalaag op basis van Databricks Lakehouse Metric Views voor beheerde analyses, en Databricks Lakebase voor het opslaan van persistente status zoals sessies en canvasspecificaties. De interactie wordt afgehandeld door een door Vercel gehoste Next.js-applicatie met streaming Server-Sent Events, en asynchrone workflows gebruiken Amazon DynamoDB, Amazon SNS, Amazon SQS en Amazon API Gateway WebSocket. Deze herstructurering verkortte de productietijd van 10-12 maanden tot 4 maanden (een reductie van 75 procent), verhoogde de Correctness-score tot 81,7 procent en de Helpfulness tot 79,4 procent, verminderde het percentage toolfouten van 7,49 naar 0,92 procent, en elimineerde de LangGraph/LangChain-orkestratielaag. Het bedrijf verbeterde ook de efficiëntie van handmatige analyses voor klantsuccesteams van 2 uur naar 30 minuten, en ze kunnen nu 4-6 productieagents draaien op een gedeelde runtime.
Bron: AWS ML blog —
origineel