nOps、Amazon Bedrock AgentCore で FinOps エージェントの納品を 75% 高速化
Amazon Web Services
Databricks
Vercel
LangChain
AI を活用したクラウド最適化企業である nOps は、FinOps 分析エージェント Clara を Amazon Bedrock AgentCore 上で再構築し、本番までの時間を 75% 削減し、応答品質を向上させました。ストリーミングと管理されたデータレイヤーを備えた単一エージェントを使用する新アーキテクチャは、運用の複雑さとインフラ保守も削減しました。
nOpsは、顧客のために40億ドル以上のクラウド支出を管理しており、FinOps分析エージェント「Clara」をAmazon Bedrock AgentCoreに移行しました。これにより、以前のAPI中心のインフラストラクチャの限界(遅延、複雑さ、メンテナンスの高さなど)を克服しました。新しいアーキテクチャでは、Amazon Bedrock AgentCore上で単一のStrandsベースのエージェントを使用し、直接ツールアクセス、Databricks Lakehouse Metric Viewsに基づくデータレイヤー(ガバナンスされた分析用)、永続的な状態(セッションやキャンバス仕様など)を保存するためのDatabricks Lakebaseを使用しています。インタラクションは、VercelでホストされたNext.jsアプリケーションを介して処理され、Server-Sent Eventsをストリーミングします。非同期ワークフローには、Amazon DynamoDB、Amazon SNS、Amazon SQS、Amazon API Gateway WebSocketを使用しています。この再構築により、本番環境への移行時間が10〜12か月から4か月(75パーセント削減)に短縮され、Correctnessスコアが81.7パーセント、Helpfulnessスコアが79.4パーセントに向上し、ツール障害率が7.49パーセントから0.92パーセントに減少し、LangGraph/LangChainオーケストレーションレイヤーが排除されました。また、カスタマーサクセスチームの手動分析効率が2時間から30分に改善され、共有ランタイム上で4〜6の本番エージェントを実行できるようになりました。
出典: AWS ML blog —
原文
