Méta-surveillance de l'inférence pour les endpoints Amazon SageMaker AI avec Amazon Quick
Amazon Web Services
Evidently AI
Cet article du blog AWS ML présente un système de méta-surveillance de l'inférence pour les endpoints Amazon SageMaker AI. Il fournit une couche de gouvernance pour suivre en continu les métriques de qualité des prédictions et des données, en utilisant des services gérés AWS et des outils open source comme Evidently AI. Le système inclut la détection de dérive, l'intégration de vérité terrain différée et des tableaux de bord de performance automatisés.
Le blog AWS ML présente une solution de méta-surveillance des inférences pour les endpoints Amazon SageMaker AI, répondant au problème de la dégradation silencieuse des performances des modèles. Le système combine des services gérés AWS (SageMaker AI, Athena, Lambda, EventBridge, QuickSight) avec des outils open source (applications SageMaker AI MLflow, Evidently AI). Il comprend des pipelines d'entraînement, de déploiement et de surveillance intégrés via une table centrale Iceberg sur Athena. La fonction Lambda de détection de dérive résout le modèle actuel et charge son fichier baseline.json pour calculer la dérive des données et la dérive du modèle à l'aide des préréglages d'Evidently. Elle intègre également des données de vérité terrain retardées et fournit des tableaux de bord automatisés pour visualiser les tendances.
Source: AWS ML blog —
original