16 dan Lebih Satu Alasan untuk Mengenal SHAP
Artikel ini menjelaskan mengapa SHAP (SHapley Additive exPlanations) adalah metode yang unik dan populer untuk interpretasi model pembelajaran mesin, berakar pada teori permainan. Artikel ini menelusuri sejarahnya dari nilai Shapley (1953), reformulasinya sebagai masalah kuadrat terkecil berbobot (1988), dan aplikasi pertamanya pada ML (2010, 2014), yang berpuncak pada pendekatan terpadu oleh Lundberg & Lee (2017). Teks ini juga menjelaskan aksioma-aksioma kunci, metode estimasi berbasis permutasi dan kernel, serta menguraikan 15 ekstensi (alasan) yang telah dikembangkan sejak rilis 2017.
Artikel yang ditulis oleh seorang peneliti bernama Sabrina ini memberikan pandangan mendalam tentang SHAP, sebuah metode untuk menjelaskan prediksi model pembelajaran mesin berdasarkan teori permainan kooperatif. Artikel ini dimulai dengan nilai Shapley klasik yang diperkenalkan oleh Lloyd Shapley pada tahun 1953, yang menawarkan alokasi wajar yang unik dari kemenangan tim berdasarkan kontribusi marjinal rata-rata setiap pemain. Pada tahun 1988, Charnes, Golany, Keane, dan Rousseau menunjukkan bahwa nilai Shapley dapat dihitung sebagai solusi dari masalah kuadrat terkecil berbobot, yang kemudian menjadi dasar bagi KernelSHAP. Adaptasi pertama untuk pembelajaran mesin muncul pada tahun 2010 oleh Štrumbelj dan Kononenko, yang memperkenalkan estimasi berbasis permutasi menggunakan sampling Monte Carlo, dan pada tahun 2014 diperluas ke subset, mengungkapkan interaksi dan redundansi. Momen penting adalah makalah tahun 2017 oleh Lundberg dan Lee, 'A Unified Approach to Interpreting Model Predictions', yang memperkenalkan kerangka kerja SHAP dengan properti seperti Local Accuracy, Missingness, dan Consistency, serta membuktikan keunikannya. KernelSHAP memperkirakan nilai SHAP dengan menyelesaikan regresi linier berbobot dengan kernel shapley yang menekankan koalisi kecil dan besar. Meskipun memiliki kelebihan, artikel ini mencatat bahwa implementasi asli dari background sampling dapat melanggar asumsi, yang mengarah pada pengembangan 15 ekstensi untuk mengatasi berbagai masalah. Judul '16 dan satu alasan lagi' merujuk pada 15 ekstensi plus dasar aksiomatik sebagai alasan pertama, dengan alasan akhir yang tersembunyi terungkap di akhir artikel.
Sumber: Habr — хаб ML —
asli