16 и ещё одна причина знать SHAP
Статья объясняет, почему SHAP (SHapley Additive exPlanations) — уникальный и популярный метод интерпретации моделей машинного обучения, основанный на теории игр. Она прослеживает его историю от значения Шепли (1953), его переформулировки как задачи взвешенных наименьших квадратов (1988) и первых применений в машинном обучении (2010, 2014), culminating в едином подходе Лундберга и Ли (2017). Текст также описывает ключевые аксиомы, методы оценки на основе перестановок и ядер, а также перечисляет 15 расширений (причин), разработанных после выпуска 2017 года.
Habr — хаб ML11.08 · 06:04
