16 và một lý do nữa để biết về SHAP

Bài viết này, do nhà nghiên cứu Sabrina viết, cung cấp một cái nhìn sâu sắc về SHAP, một phương pháp giải thích dự đoán của mô hình học máy dựa trên lý thuyết trò chơi hợp tác. Bài viết bắt đầu với giá trị Shapley kinh điển do Lloyd Shapley giới thiệu vào năm 1953, mang lại một cách phân phối công bằng duy nhất cho tiền thưởng của một đội dựa trên đóng góp biên trung bình của mỗi người chơi. Năm 1988, Charnes, Golany, Keane và Rousseau đã chỉ ra rằng giá trị Shapley có thể được tính toán như là nghiệm của một bài toán bình phương tối thiểu có trọng số, điều này sau này trở thành cơ sở cho KernelSHAP. Những ứng dụng đầu tiên cho học máy xuất hiện vào năm 2010 bởi Štrumbelj và Kononenko, giới thiệu một phương pháp ước lượng dựa trên hoán vị sử dụng lấy mẫu Monte Carlo, và năm 2014 mở rộng cho các tập con, tiết lộ các tương tác và sự dư thừa. Khoảnh khắc quan trọng là bài báo năm 2017 của Lundberg và Lee, 'Một cách tiếp cận thống nhất để giải thích các dự đoán của mô hình', giới thiệu khuôn khổ SHAP với các tính chất như Độ chính xác cục bộ, Tính thiếu sót và Tính nhất quán, và chứng minh tính duy nhất. KernelSHAP ước lượng các giá trị SHAP bằng cách giải một hồi quy tuyến tính có trọng số với hạt nhân shapley, trong đó nhấn mạnh các liên minh nhỏ và lớn. Mặc dù có những điểm mạnh, bài viết lưu ý rằng việc triển khai ban đầu của việc lấy mẫu nền có thể vi phạm các giả định, dẫn đến sự phát triển của 15 phần mở rộng để giải quyết các vấn đề khác nhau. Tiêu đề '16 và một lý do nữa' đề cập đến 15 phần mở rộng cộng với cơ sở tiên đề như là lý do đầu tiên, với một lý do cuối cùng ẩn được tiết lộ ở cuối bài viết.