16 en nog een reden om SHAP te kennen

Het artikel, geschreven door onderzoekster Sabrina, geeft een diepgaande blik op SHAP, een methode om voorspellingen van machine learning-modellen te verklaren op basis van coöperatieve speltheorie. Het begint met de klassieke Shapley-waarde, geïntroduceerd door Lloyd Shapley in 1953, die een unieke eerlijke verdeling biedt van de winst van een team op basis van de gemiddelde marginale bijdrage van elke speler. In 1988 lieten Charnes, Golany, Keane en Rousseau zien dat de Shapley-waarde kan worden berekend als de oplossing van een gewogen kleinste-kwadratenprobleem, wat later de basis werd voor KernelSHAP. De eerste aanpassingen aan machine learning kwamen in 2010 van Štrumbelj en Kononenko, die een op permutaties gebaseerde schatting introduceerden met behulp van Monte Carlo-steekproeven, en in 2014 uitbreidden naar subsets, waarbij interacties en redundantie aan het licht kwamen. Het keerpunt was het artikel uit 2017 van Lundberg en Lee, 'A Unified Approach to Interpreting Model Predictions', dat het SHAP-raamwerk introduceerde met eigenschappen als lokale accuraatheid, missingness en consistentie, en uniciteit bewees. KernelSHAP schat SHAP-waarden door een gewogen lineaire regressie op te lossen met een shapley-kernel die de nadruk legt op kleine en grote coalities. Ondanks de sterke punten merkt het artikel op dat de oorspronkelijke implementatie van achtergrondsteekproeven aannames kan schenden, wat leidde tot de ontwikkeling van 15 uitbreidingen om verschillende problemen aan te pakken. De titel '16 en nog één reden' verwijst naar de 15 uitbreidingen plus de axiomatische basis als eerste reden, met een verborgen laatste reden die aan het einde van het artikel wordt onthuld.