16 y una razón más para conocer SHAP

El artículo, escrito por una investigadora llamada Sabrina, ofrece una mirada en profundidad a SHAP, un método para explicar las predicciones de modelos de aprendizaje automático basado en la teoría de juegos cooperativos. Comienza con el clásico valor de Shapley introducido por Lloyd Shapley en 1953, que ofrece una asignación justa y única de las ganancias de un equipo basada en la contribución marginal promedio de cada jugador. En 1988, Charnes, Golany, Keane y Rousseau demostraron que el valor de Shapley se puede calcular como la solución de un problema de mínimos cuadrados ponderados, que más tarde se convirtió en la base de KernelSHAP. Las primeras adaptaciones al aprendizaje automático llegaron en 2010 de la mano de Štrumbelj y Kononenko, quienes introdujeron una estimación basada en permutaciones mediante muestreo de Monte Carlo, y en 2014 la extendieron a subconjuntos, revelando interacciones y redundancia. El momento crucial fue el artículo de 2017 de Lundberg y Lee, 'Un enfoque unificado para interpretar predicciones de modelos', que introdujo el marco SHAP con propiedades como Exactitud Local, Ausencia y Consistencia, y demostró su unicidad. KernelSHAP estima los valores SHAP resolviendo una regresión lineal ponderada con un kernel de Shapley que enfatiza coaliciones pequeñas y grandes. A pesar de sus fortalezas, el artículo señala que la implementación original del muestreo de fondo puede violar supuestos, lo que llevó al desarrollo de 15 extensiones para abordar varios problemas. El título '16 y una razón más' se refiere a las 15 extensiones más la base axiomática como primera razón, con una razón final oculta que se revela al final del artículo.