SHAP를 알아야 하는 16가지 이유
이 기사는 SHAP(SHapley Additive exPlanations)가 게임 이론에 뿌리를 둔 머신러닝 모델 해석을 위한 독특하고 인기 있는 방법인 이유를 설명합니다. 1953년 Shapley 값, 1988년 가중 최소제곱 문제로의 재구성, 2010년과 2014년 머신러닝에 처음 적용된 역사를 추적하며, 2017년 Lundberg & Lee의 통합 접근 방식으로 정점에 달합니다. 또한 핵심 공리, 순열 및 커널 기반 추정 방법을 설명하고 2017년 출시 이후 개발된 15가지 확장(이유)을 간략히 설명합니다.
Sabrina라는 연구자가 쓴 이 글은 협동 게임 이론에 기반해 머신러닝 모델의 예측을 설명하는 방법인 SHAP(SHapley Additive exPlanations)을 심층적으로 다룬다. 글은 1953년 Lloyd Shapley가 도입한 고전적인 Shapley 값에서 출발한다. 이 값은 각 플레이어의 평균 한계 기여도를 바탕으로 팀이 얻은 이익을 공정하게 배분하는 유일한 핵심을 제시한다. 1988년에는 Charnes, Golany, Keane, Rousseau가 Shapley 값을 가중 최소제곱 문제의 해로 계산할 수 있음을 보였고, 이는 훗날 KernelSHAP의 토대가 되었다. 머신러닝에 처음 적용된 것은 2010년으로, Štrumbelj와 Kononenko가 Monte Carlo 샘플링을 이용한 순열 기반 추정법을 제안했고, 2014년에는 이를 부분집합으로 확장해 변수 간 상호작용과 중복성을 드러냈다. 전환점이 된 것은 2017년 Lundberg와 Lee의 논문 'A Unified Approach to Interpreting Model Predictions'였다. 이 논문은 Local Accuracy, Missingness, Consistency 같은 성질을 갖춘 SHAP 프레임워크를 제시하고 그 유일성을 증명했다. KernelSHAP은 작은 연합과 큰 연합에 더 큰 가중치를 두는 shapley 커널을 이용해 가중 선형 회귀 문제를 풀어 SHAP 값을 추정한다. 이러한 강점에도 불구하고, 글은 원래 구현 방식의 배경 샘플링이 가정을 위반할 수 있다는 점을 지적하며, 이에 따라 다양한 문제를 해결하기 위해 15개의 확장이 개발되었다고 설명한다. 제목 '16 and one more reason'은 15개의 확장에 공리적 토대를 첫 번째 이유로 더한 것을 가리키며, 숨겨진 마지막 이유는 글의 말미에 공개된다.
출처: Habr — хаб ML —
원문