Giám sát siêu dữ liệu suy luận cho các điểm cuối Amazon SageMaker AI với Amazon Quick
Amazon Web Services
Evidently AI
Bài viết này từ blog AWS ML giới thiệu một hệ thống giám sát siêu dữ liệu suy luận cho các điểm cuối Amazon SageMaker AI. Hệ thống cung cấp một lớp quản trị để liên tục theo dõi các chỉ số chất lượng dự đoán và dữ liệu, sử dụng các dịch vụ được quản lý của AWS và các công cụ mã nguồn mở như Evidently AI. Hệ thống bao gồm phát hiện độ trôi dạt, tích hợp chân lý trễ, và bảng điều khiển hiệu suất tự động.
Bài đăng trên blog AWS ML trình bày một giải pháp giám sát siêu cấp cho suy luận trên các điểm cuối Amazon SageMaker AI, giải quyết khoảng trống khi hiệu suất mô hình suy giảm một cách âm thầm. Hệ thống kết hợp các dịch vụ được quản lý của AWS (SageMaker AI, Athena, Lambda, EventBridge, Quick) với các công cụ mã nguồn mở (SageMaker AI MLflow Apps, Evidently AI). Nó bao gồm các pipeline huấn luyện, triển khai và giám sát được tích hợp thông qua một bảng Iceberg tập trung trên Athena. Hàm Lambda phát hiện độ lệch (drift) sẽ xác định mô hình hiện tại và tải baseline.json của nó để tính toán độ lệch dữ liệu và độ lệch mô hình bằng cách sử dụng các preset của Evidently. Nó cũng tích hợp dữ liệu ground truth bị trễ và cung cấp các bảng điều khiển tự động để trực quan hóa các xu hướng.
Nguồn: AWS ML blog —
bản gốc