Оптимизация production-агентов с помощью Amazon Bedrock AgentCore Observability
Этот пост из блога AWS ML посвящен проблемам производительности и памяти в ИИ-агентах после их перехода в production. В нем даются рекомендации по использованию Amazon Bedrock AgentCore Observability с Amazon CloudWatch для выявления узких мест и утечек памяти, а также приводятся лучшие практики мониторинга и оптимизации.
Это вторая часть серии о отладке ИИ-агентов, посвященная агентам, которые работают корректно, но показывают низкую производительность. Сценарий 3 охватывает узкие места производительности: симптомы включают постепенное увеличение задержек, время отклика P95, превышающее пороговые значения, но низкий уровень ошибок. Для диагностики запросите CloudWatch для вызовов с высокой задержкой,
Показать ещё ↓
Источник: AWS ML blog —
оригинал