SHAP'ı Tanımak İçin 16 ve Bir Neden Daha

Yazarı Sabrina adlı bir araştırmacı olan bu makale, işbirlikçi oyun teorisine dayanan ve makine öğrenmesi model tahminlerini açıklayan SHAP yöntemine derinlemesine bir bakış sunmaktadır. Makale, Lloyd Shapley'in 1953'te ortaya koyduğu klasik Shapley değeriyle başlar; bu değer, her oyuncunun ortalama marjinal katkısına dayanarak bir takımın kazancının adil bir şekilde dağıtılmasını sağlayan benzersiz bir yöntemdir. 1988'de Charnes, Golany, Keane ve Rousseau, Shapley değerinin ağırlıklı en küçük kareler probleminin çözümü olarak hesaplanabileceğini gösterdi; bu daha sonra KernelSHAP'ın temelini oluşturdu. Makine öğrenmesine ilk uyarlamalar 2010'da Štrumbelj ve Kononenko tarafından yapıldı; Monte Carlo örneklemesi kullanan permütasyon tabanlı bir tahmin yöntemi tanıttılar ve 2014'te bunu alt kümelere genişleterek etkileşimleri ve fazlalıkları ortaya çıkardılar. Dönüm noktası, 2017'de Lundberg ve Lee'nin 'A Unified Approach to Interpreting Model Predictions' adlı makalesiydi; bu makale, Yerel Doğruluk, Eksiklik ve Tutarlılık gibi özelliklere sahip SHAP çerçevesini tanıttı ve benzersizliğini kanıtladı. KernelSHAP, SHAP değerlerini, küçük ve büyük koalisyonları vurgulayan shapley çekirdeği ile ağırlıklı bir doğrusal regresyon çözerek tahmin eder. Güçlü yönlerine rağmen makale, arka plan örneklemesinin orijinal uygulamasının varsayımları ihlal edebileceğini ve çeşitli sorunları ele almak için 15 uzantının geliştirildiğini belirtmektedir. '16 ve bir neden daha' başlığı, 15 uzantıya ve ilk neden olarak aksiyomatik temele işaret ederken, makalenin sonunda gizli bir son neden daha ortaya çıkar.