16 ja yksi syy lisää tuntea SHAP
Artikkelissa selitetään, miksi SHAP (SHapley Additive exPlanations) on ainutlaatuinen ja suosittu menetelmä koneoppimismallien tulkintaan, ja sen juuret ovat peliteoriassa. Siinä käydään läpi historia Shapleyn arvosta (1953), uudelleenmuotoilusta painotettuna pienimmän neliösumman ongelmana (1988) ja ensimmäisistä sovelluksista koneoppimiseen (2010, 2014), huipentuen Lundbergin ja Leen yhtenäiseen lähestymistapaan (2017). Tekstissä kuvataan myös keskeiset aksioomat, permutaatio- ja ydinfunktioon perustuvat estimointimenetelmät, sekä hahmotellaan 15 laajennusta (syyttä), jotka on kehitetty vuoden 2017 julkaisun jälkeen.
Artikkelissa tutkija Sabrina antaa perusteellisen katsauksen SHAP-menetelmään, joka selittää koneoppimismallien ennusteita yhteistyöpelin teoriaan perustuen. Se alkaa klassisesta Shapleyn arvosta, jonka Lloyd Shapley esitteli vuonna 1953. Se tarjoaa yksilöllisen reilun jaon joukkueen voitoista perustuen kunkin pelaajan keskimääräiseen marginaaliosuuteen. Vuonna 1988 Charnes, Golany, Keane ja Rousseau osoittivat, että Shapleyn arvo voidaan laskea painotetun pienimmän neliösumman ongelman ratkaisuna, mikä myöhemmin muodosti pohjan KernelSHAP:lle. Ensimmäiset sovellukset koneoppimiseen tulivat vuonna 2010 Štrumbeljin ja Konosenkon toimesta, jotka esittelivät permutaatioihin perustuvan estimoinnin Monte Carlo -otantaa käyttäen, ja vuonna 2014 he laajensivat sen osajoukkoihin paljastaen vuorovaikutuksia ja redundanssia. Käänteentekevä hetki oli Lundbergin ja Leen vuonna 2017 julkaisema artikkeli 'A Unified Approach to Interpreting Model Predictions', joka esitteli SHAP-viitekehyksen ominaisuuksineen, kuten Local Accuracy, Missingness ja Consistency, ja todisti yksikäsitteisyyden. KernelSHAP estimoi SHAP-arvot ratkaisemalla painotetun lineaarisen regression shapley-ytimellä, joka korostaa pieniä ja suuria koalitioita. Vahvuuksistaan huolimatta artikkeli huomauttaa, että alkuperäinen taustaotannan toteutus voi rikkoa oletuksia, mikä on johtanut 15 laajennuksen kehittämiseen erilaisten ongelmien ratkaisemiseksi. Otsikko '16 ja yksi syy lisää' viittaa 15 laajennukseen sekä aksiomaattiseen perustaan ensimmäisenä syynä, ja piilotettu viimeinen syy paljastuu artikkelin lopussa.
Lähde: Habr — хаб ML —
Alkuperäinen