16 и ещё одна причина знать SHAP
Статья объясняет, почему SHAP (SHapley Additive exPlanations) — уникальный и популярный метод интерпретации моделей машинного обучения, основанный на теории игр. Она прослеживает его историю от значения Шепли (1953), его переформулировки как задачи взвешенных наименьших квадратов (1988) и первых применений в машинном обучении (2010, 2014), culminating в едином подходе Лундберга и Ли (2017). Текст также описывает ключевые аксиомы, методы оценки на основе перестановок и ядер, а также перечисляет 15 расширений (причин), разработанных после выпуска 2017 года.
Статья, написанная исследовательницей по имени Сабрина, представляет собой подробный обзор SHAP — метода объяснения предсказаний моделей машинного обучения, основанного на кооперативной теории игр. Начинается она с классического значения Шепли, введенного Ллойдом Шепли в 1953 году, которое предлагает уникальное справедливое распределение выигрыша команды на основе среднего предельного вклада
Показать ещё ↓
Источник: Habr — хаб ML —
оригинал