AgentCore Observability로 온프레미스 및 멀티 클라우드 AI 에이전트 모니터링
Amazon Web Services
Anthropic
Amazon Bedrock의 AgentCore Observability가 이제 AWS 외부, 예를 들어 온프레미스나 다른 클라우드에서 실행되는 에이전트도 지원합니다. 이 게시물에서는 AWS Distro for OpenTelemetry(ADOT) 자동 계측을 사용하여 텔레메트리를 CloudWatch로 라우팅함으로써, 비-AWS 환경에 배포된 에이전트에 대한 중앙 집중식 모니터링을 가능하게 하는 방법을 보여줍니다.
이 게시물은 ADOT 자동 계측을 사용하여 AWS 외부에서 실행되는 AI 에이전트에 대한 관찰 가능성을 설정하는 방법을 설명합니다. 이 솔루션은 IAM 자격 증명을 사용하여 SigV4 인증으로 Amazon CloudWatch OTLP 엔드포인트로 텔레메트리를 라우팅합니다. 설정에는 ADOT 자동 계측, IAM 자격 증명, 환경 변수의 세 가지 구성 요소가 필요합니다. 연습에는 Strands 에이전트가 사용되지만, 이 패턴은 LangGraph 및 CrewAI와 같은 다른 OpenTelemetry 호환 프레임워크에도 적용됩니다. 이 솔루션은 온프레미스 시뮬레이션 환경과 Google Cloud Shell에서 검증되었습니다. 콘솔에는 AgentCore Observability 대시보드에 세션, 트레이스, 스팬 메트릭, 토큰 사용량 및 대기 시간이 표시됩니다. 또한 이 게시물은 비 AWS 런타임과 AgentCore 런타임 간의 텔레메트리 수집 및 자격 증명 관리를 비교하고, 일관된 이름 지정 및 get-caller-identity로 자격 증명 확인과 같은 모범 사례를 제공합니다.
출처: AWS ML blog —
원문
