Amazon SageMaker AI 엔드포인트용 추론 메타 모니터링: Amazon QuickSight 활용
Amazon Web Services
Evidently AI
이 AWS ML 블로그 기사는 Amazon SageMaker AI 엔드포인트를 위한 추론 메타 모니터링 시스템을 소개합니다. 이 시스템은 AWS 관리형 서비스와 Evidently AI와 같은 오픈 소스 도구를 사용하여 예측 및 데이터 품질 지표를 지속적으로 추적하는 거버넌스 레이어를 제공합니다. 여기에는 드리프트 감지, 지연된 실제 값 통합, 자동화된 성능 대시보드가 포함됩니다.
AWS ML 블로그 게시물은 Amazon SageMaker AI 엔드포인트에 대한 추론 메타 모니터링 솔루션을 제시하며, 모델 성능이 조용히 저하되는 문제를 해결합니다. 이 시스템은 AWS 관리형 서비스(SageMaker AI, Athena, Lambda, EventBridge, Quick)와 오픈소스 도구(SageMaker AI MLflow 앱, Evidently AI)를 결합합니다. 여기에는 중앙 Athena Iceberg 테이블을 통해 통합된 학습, 배포 및 모니터링 파이프라인이 포함됩니다. 드리프트 Lambda 함수는 현재 모델을 해결하고 해당 baseline.json을 로드하여 Evidently의 사전 설정을 사용하여 데이터 드리프트 및 모델 드리프트를 계산합니다. 또한 지연된 실제 데이터를 통합하고 추세를 시각화하기 위한 자동화된 대시보드를 제공합니다.
출처: AWS ML blog —
원문