Yelp lanza Training Orchestrator para la gestión unificada del entrenamiento de modelos de aprendizaje automático

Yelp ha presentado Training Orchestrator, un nuevo marco interno que reemplaza los scripts de entrenamiento de Spark escritos de forma independiente por varios equipos. Anteriormente, cada equipo de aprendizaje automático aplicado creaba su propia orquestación, lo que provocaba duplicación de código, configuraciones inconsistentes y monitoreo personalizado frágil. Training Orchestrator separa 'qué ejecutar' de 'cómo ejecutar' utilizando objetos de configuración basados en Pydantic, que se validan en el momento de su creación para evitar el desperdicio de cómputo. Construye un grafo acíclico dirigido (DAG, por sus siglas en inglés) a partir de las dependencias de pasos declaradas y ejecuta los pasos en orden topológico. El contexto compartido de Spark/MLflow permite que los pasos se ejecuten sin cambios en entornos locales, Jupyter o de producción. La validación de esquemas detecta discrepancias en segundos, y las configuraciones completas de ejecución se registran como artefactos de MLflow para garantizar la reproducibilidad. El marco se integra con la plataforma de ML de Yelp, que incluye almacenes de características, redes neuronales compartidas, bibliotecas de boosting de gradiente y MLflow. Yelp planea agregar pasos explícitos para la evaluación de modelos, comparación y explicación, así como seguimiento de linaje. El enfoque basado en DAG desacopla la lógica de entrenamiento del tiempo de ejecución del clúster, lo que permite ejecuciones locales y pruebas unitarias. Yelp reconoce la inversión inicial en esquemas y migración, pero cree que evita costos repetidos en todos los equipos.