16 e Mais Uma Razão para Conhecer o SHAP

O artigo, escrito pela pesquisadora Sabrina, oferece uma análise aprofundada do SHAP, um método para explicar previsões de modelos de aprendizado de máquina baseado na teoria dos jogos cooperativos. Começa com o clássico valor de Shapley, introduzido por Lloyd Shapley em 1953, que oferece uma alocação justa e única dos ganhos de uma equipe com base na contribuição marginal média de cada jogador. Em 1988, Charnes, Golany, Keane e Rousseau mostraram que o valor de Shapley pode ser calculado como a solução de um problema de mínimos quadrados ponderados, que mais tarde se tornou a base do KernelSHAP. As primeiras adaptações para aprendizado de máquina vieram em 2010 por Štrumbelj e Kononenko, que introduziram uma estimativa baseada em permutações usando amostragem de Monte Carlo, e em 2014 estenderam para subconjuntos, revelando interações e redundância. O momento crucial foi o artigo de 2017 de Lundberg e Lee, 'Uma Abordagem Unificada para Interpretar Previsões de Modelos', que introduziu o framework SHAP com propriedades como Precisão Local, Ausência e Consistência, e provou sua unicidade. O KernelSHAP estima os valores SHAP resolvendo uma regressão linear ponderada com um núcleo shapley que enfatiza coalizões pequenas e grandes. Apesar de seus pontos fortes, o artigo observa que a implementação original da amostragem de contexto pode violar suposições, levando ao desenvolvimento de 15 extensões para abordar vários problemas. O título '16 e mais um motivo' refere-se às 15 extensões mais a base axiomática como o primeiro motivo, com um motivo final oculto revelado no final do artigo.