SHAP を知るべき16の理由（さらに1つ）

この記事は、研究者のSabrinaによって書かれたもので、協力ゲーム理論に基づく機械学習モデルの予測を説明する手法であるSHAPについて、詳細に考察しています。記事は、1953年にLloyd Shapleyによって導入された古典的なShapley値から始まります。Shapley値は、各プレイヤーの平均限界貢献度に基づいてチームの賞金を公平に配分するユニークな方法を提供します。1988年には、Charnes、Golany、Keane、Rousseauが、Shapley値が重み付き最小二乗問題の解として計算できることを示し、これが後にKernelSHAPの基礎となりました。機械学習への最初の適応は2010年にŠtrumbeljとKononenkoによって行われ、モンテカルロサンプリングを用いた順列ベースの推定が導入され、2014年にはサブセットに拡張され、相互作用や冗長性が明らかになりました。画期的な瞬間は、2017年のLundbergとLeeによる論文「A Unified Approach to Interpreting Model Predictions」であり、SHAPフレームワークが導入され、Local Accuracy、Missingness、Consistencyといった特性が定義され、その一意性が証明されました。KernelSHAPは、shapleyカーネルを用いた重み付き線形回帰を解くことでSHAP値を推定し、このカーネルは小さなおよび大きな提携を強調します。その強みにもかかわらず、記事は、元の実装におけるバックグラウンドサンプリングが仮定を違反する可能性があり、さまざまな問題に対処するための15の拡張が開発されたことを指摘しています。タイトル「16 and one more reason」は、15の拡張に加えて、公理的な基礎を最初の理由とし、記事の最後に隠された最後の理由が明かされることを指しています。