Giám sát các tác tử AI tại chỗ và đa đám mây với AgentCore Observability
Amazon Web Services
Anthropic
Amazon Bedrock AgentCore Observability hiện hỗ trợ các tác tử chạy bên ngoài AWS, chẳng hạn như tại chỗ hoặc trên các đám mây khác. Bài viết này hướng dẫn cách sử dụng AWS Distro for OpenTelemetry (ADOT) tự động cài đặt để định tuyến dữ liệu đo đạc đến CloudWatch, cho phép giám sát tập trung cho các tác tử triển khai trong môi trường không phải AWS.
Bài viết giải thích cách thiết lập khả năng quan sát cho các tác tử AI chạy bên ngoài AWS bằng cách sử dụng tính năng tự động instrumentation của ADOT. Giải pháp này định tuyến dữ liệu telemetry đến endpoint OTLP của Amazon CloudWatch với xác thực SigV4, sử dụng thông tin xác thực IAM. Việc thiết lập yêu cầu ba thành phần: tự động instrumentation của ADOT, thông tin xác thực IAM và các biến môi trường. Phần hướng dẫn sử dụng tác tử Strands, nhưng mô hình này áp dụng cho các framework tương thích OpenTelemetry khác như LangGraph và CrewAI. Giải pháp đã được xác thực trong môi trường mô phỏng tại chỗ và trên Google Cloud Shell. Bảng điều khiển hiển thị các phiên, trace, số liệu span, mức sử dụng token và độ trễ trong bảng điều khiển quan sát AgentCore. Bài viết cũng so sánh việc thu thập telemetry và quản lý thông tin xác thực giữa môi trường chạy không phải AWS và môi trường chạy AgentCore, đồng thời cung cấp các phương pháp tốt nhất như đặt tên nhất quán và xác minh thông tin xác thực bằng lệnh get-caller-identity.
Nguồn: AWS ML blog —
bản gốc
