nOps nopeuttaa FinOps-agentin toimituksen 75 prosentilla Amazon Bedrock AgentCore -palvelun avulla
Amazon Web Services
Databricks
Vercel
LangChain
nOps, tekoälypohjainen pilvioptimoinnin yritys, rakensi FinOps-analytiikka-agenttinsa Claran uudelleen Amazon Bedrock AgentCore -palvelun varaan, mikä vähensi tuotantoon siirtymisen aikaa 75 prosentilla ja paransi vastausten laatua. Uusi arkkitehtuuri, joka käyttää yhtä agenttia suoratoiston ja hallitun tietokerroksen kanssa, vähensi myös toiminnallista monimutkaisuutta ja infrastruktuurin ylläpitoa.
nOps, joka hallinnoi asiakkailleen yli 4 miljardin dollarin pilvikuluja, siirsi FinOps-analyysiagenttinsa Claran Amazon Bedrock AgentCore -alustalle voittaakseen aiemman API-keskeisen infrastruktuurinsa rajoitteet, kuten viiveen, monimutkaisuuden ja korkean ylläpitokustannuksen. Uusi arkkitehtuuri käyttää yhtä Strands-pohjaista agenttia Amazon Bedrock AgentCore -alustalla, jossa on suora työkaluyhteys, Databricks Lakehouse Metric Views -ympäristöön rakennettu datakerros hallittua analytiikkaa varten, sekä Databricks Lakebase -tallennustilaa pysyvälle tilalle, kuten istunnoille ja käsikirjoituksille. Vuorovaikutus hoidetaan Vercelissä isännöidyllä Next.js-sovelluksella, joka käyttää streamattuja palvelinlähtöisiä tapahtumia, ja asynkroniset työnkulut käyttävät Amazon DynamoDB-, Amazon SNS-, Amazon SQS- ja Amazon API Gateway WebSocket -palveluita. Tämä uudelleenjärjestely lyhensi tuotantoajan 10–12 kuukaudesta 4 kuukauteen (75 prosentin vähennys), nosti oikeellisuuspisteet 81,7 prosenttiin ja hyödyllisyyspisteet 79,4 prosenttiin, vähensi työkaluvirheiden määrän 7,49 prosentista 0,92 prosenttiin ja poisti LangGraph/LangChain-orkestrointikerroksen. Yritys paransi myös manuaalisen analyysin tehokkuutta asiakaspalvelutiimeille 2 tunnista 30 minuuttiin, ja se pystyy nyt ajamaan 4–6 tuotantoagenttia jaetussa ajoympäristössä.
Lähde: AWS ML blog —
Alkuperäinen