16 und ein weiterer Grund, SHAP zu kennen
Der Artikel erklärt, warum SHAP (SHapley Additive exPlanations) eine einzigartige und beliebte Methode zur Interpretation von Machine-Learning-Modellen ist, die in der Spieltheorie verwurzelt ist. Er verfolgt seine Geschichte vom Shapley-Wert (1953), seiner Neuformulierung als gewichtetes Kleinste-Quadrate-Problem (1988) und seinen ersten Anwendungen im maschinellen Lernen (2010, 2014), bis hin zum vereinheitlichten Ansatz von Lundberg & Lee (2017). Der Text beschreibt auch die wichtigsten Axiome, die Permutations- und Kernel-basierten Schätzmethoden und skizziert 15 Erweiterungen (Gründe), die seit der Veröffentlichung 2017 entwickelt wurden.
Der von einer Forscherin namens Sabrina verfasste Artikel bietet einen detaillierten Einblick in SHAP, eine Methode zur Erklärung von Vorhersagen maschineller Lernmodelle, die auf der kooperativen Spieltheorie basiert. Er beginnt mit dem klassischen Shapley-Wert, der 1953 von Lloyd Shapley eingeführt wurde und eine eindeutige faire Verteilung des Gewinns eines Teams auf der Grundlage des durchschnittlichen marginalen Beitrags jedes Spielers bietet. Im Jahr 1988 zeigten Charnes, Golany, Keane und Rousseau, dass der Shapley-Wert als Lösung eines gewichteten Problems der kleinsten Quadrate berechnet werden kann, was später zur Grundlage von KernelSHAP wurde. Die ersten Anpassungen an maschinelles Lernen erfolgten 2010 durch Štrumbelj und Kononenko, die eine permutationsbasierte Schätzung mittels Monte-Carlo-Stichproben einführten, und 2014 erweiterten sie dies auf Teilmengen, wodurch Wechselwirkungen und Redundanzen sichtbar wurden. Der entscheidende Moment war das Papier von Lundberg und Lee aus dem Jahr 2017 mit dem Titel 'A Unified Approach to Interpreting Model Predictions', das das SHAP-Framework mit Eigenschaften wie lokaler Genauigkeit, Missingness und Konsistenz einführte und die Eindeutigkeit bewies. KernelSHAP schätzt SHAP-Werte durch eine gewichtete lineare Regression mit einem Shapley-Kernel, der kleine und große Koalitionen betont. Trotz seiner Stärken stellt der Artikel fest, dass die ursprüngliche Implementierung der Hintergrundstichproben Annahmen verletzen kann, was zur Entwicklung von 15 Erweiterungen führte, um verschiedene Probleme zu beheben. Der Titel '16 und ein weiterer Grund' bezieht sich auf die 15 Erweiterungen plus die axiomatische Grundlage als ersten Grund, wobei am Ende des Artikels ein versteckter letzter Grund enthüllt wird.
Quelle: Habr — хаб ML —
Original