Amazon Bedrock AgentCoreの可観測性による本番エージェントの最適化

この投稿は、AIエージェントのデバッグに関するシリーズのパート2で、正常に動作するがパフォーマンスが低いエージェントに焦点を当てています。シナリオ3では、パフォーマンスのボトルネックを取り上げています。症状には、レイテンシの徐々の増加、P95応答時間がしきい値を超えること、しかしエラー率は低いことが含まれます。診断するには、CloudWatchで高レイテンシの呼び出しを照会し、OpenTelemetryトレースを介してリクエストのタイムラインを分析し、メモリ検索のレイテンシ（200ミリ秒未満であるべき）とツール呼び出しのレイテンシを確認します。根本原因には、ツールの実行が遅い、トークン生成が多すぎる、順次処理が含まれます。修正には、キャッシング、コネクションプーリング、データベースインデックス作成、プロンプトを簡潔にするための最適化、独立したツール呼び出しの並列実行が含まれます。シナリオ4では、長時間実行されるセッションでのメモリ問題に対処します。メモリ使用量が無制限に増加し、トークン制限やセッションの失敗につながります。これを特定するには、メモリ使用量が多い長時間セッションを照会し、メモリ抽出パターンを調べ、抽出失敗がないか確認します。根本原因には、設定の誤りが含まれます。修正には、メモリの統合、名前空間テンプレート、eventExpiryDurationの設定が含まれます。この投稿は、包括的な計装、CloudWatchアラーム、ダッシュボード、およびプロアクティブな監視のためのAgentCore EvaluatorsとInsightsの使用など、本番環境のベストプラクティスで締めくくられています。