提升模型锦标赛:使用PEHE指标在合成和半合成数据上测试S-learner、T-learner、X-learner和Causal Forest
Avito的一位分析师举办了一场锦标赛,比较了四种流行的提升模型(S-learner、T-learner、X-learner、Causal Forest)在合成和半合成数据上的表现,使用PEHE指标。文章通过足球主题的类比解释了模型的架构、优势和劣势,并进行了小组赛和淘汰赛。代码可在GitHub上获取以复现结果。
这篇文章由Avito信任与安全团队分析师Grigory Kryukov撰写,展示了四种提升模型(S学习器、T学习器、X学习器和因果森林)之间的锦标赛。作者以足球世界杯为例,描述了每种模型的结构:S学习器训练一个将处理变量作为特征的单一模型;T学习器分别为处理组和对照组训练单独的模型;X学习器增加了伪效应和倾向性模型的第二阶段;因果森林则调整随机森林以直接优化异质性处理效应。该锦标赛使用合成数据(已知真实个体处理效应)和半合成数据,通过PEHE指标衡量模型质量。小组赛阶段,模型在合成数据上相互比拼,随后进入淘汰赛阶段。文章最后给出结果:因果森林赢得冠军,成为跨场景中最稳健的模型,而X学习器在非线性任务上表现强劲但较为复杂。完整代码已在GitHub上提供。
来源: Habr — хаб ML —
原文
