nOps, Amazon Bedrock AgentCore ile FinOps ajanı teslimini yüzde 75 hızlandırdı
Amazon Web Services
Databricks
Vercel
LangChain
Yapay zeka destekli bulut optimizasyon şirketi nOps, FinOps analitik ajanı Clara'yı Amazon Bedrock AgentCore üzerinde yeniden inşa ederek üretime geçiş süresinde yüzde 75 azalma ve yanıt kalitesinde iyileşme sağladı. Akış ve yönetilen veri katmanıyla tek bir ajan kullanan yeni mimari, operasyonel karmaşıklığı ve altyapı bakımını da azalttı.
Müşterileri için 4 milyar doların üzerinde bulut harcamasını yöneten nOps, FinOps analitik ajanı Clara'yı Amazon Bedrock AgentCore'a taşıyarak önceki API merkezli altyapısının gecikme, karmaşıklık ve yüksek bakım gibi sınırlamalarının üstesinden geldi. Yeni mimari, doğrudan araç erişimine sahip Amazon Bedrock AgentCore üzerinde tek bir Strands tabanlı ajan kullanıyor; veri katmanı, yönetilen analitik için Databricks Lakehouse Metric Views üzerine kurulu ve oturumlar ile tuval özellikleri gibi kalıcı durumun depolanması için Databricks Lakebase kullanılıyor. Etkileşim, akış Sunucu Taraflı Olaylar (Server-Sent Events) ile Vercel tarafından barındırılan bir Next.js uygulaması tarafından yönetiliyor ve eşzamansız iş akışları Amazon DynamoDB, Amazon SNS, Amazon SQS ve Amazon API Gateway WebSocket kullanıyor. Bu yeniden yapılandırma, üretim süresini 10-12 aydan 4 aya (yüzde 75 azalma) düşürdü, Doğruluk puanını yüzde 81,7'ye ve Yararlılık puanını yüzde 79,4'e çıkardı, araç hata oranını yüzde 7,49'dan yüzde 0,92'ye düşürdü ve LangGraph/LangChain orkestrasyon katmanını ortadan kaldırdı. Şirket ayrıca müşteri başarısı ekipleri için manuel analiz verimliliğini 2 saatten 30 dakikaya iyileştirdi ve artık paylaşılan bir çalışma zamanı üzerinde 4-6 üretim ajanı çalıştırabiliyorlar.
Kaynak: AWS ML blog —
orijinal