你的神经网络回测结果可能存在±10个百分点的偏差
Hugging Face
一位工程师测试了神经网络是否能在莫斯科交易所进行交易。仅因改变随机种子,向前走查回测显示的收益率从+6%到+15%不等,夏普比率也从负值到1.28不等。作者提出了一套协议:使用种子的集成,比较集成与集成,并将收益归因于实际的特征机制。
作者使用严格的前瞻性回测流程,基于莫斯科交易所流动性最强的20只股票的每小时数据(2021-2026年,约37万根K线),采用GRU循环网络,进行价格在未来一段时间内上涨的二分类预测,并计入真实的券商手续费。通过确保训练集与测试集之间有时间间隔、以下一根K线价格成交以及包含佣金等方式,避免了未来函数泄漏。尽管如此,仅改变随机种子就使年化收益从+6%变为+15%,而在五次使用不同种子的相同运行中,夏普比率从-0.12到+0.85不等(后来为0.39到1.28)。这是因为金融信号的强度极弱(AUC为0.54-0.55),损失函数曲面几乎平坦,随机初始化决定了过拟合的模式。作者建议:(1)始终使用不同种子的模型集成(对概率取平均),这使夏普比率提升至1.88,而最佳单模型仅为1.28;(2)比较新想法时应使用集成与集成对比,而非单次运行;(3)进行归因分析,看收益是否来自特征实际存在的证券。他们给出了三个案例,表面上的改进在归因后消失,证明这些收益只是重新洗牌后的噪声。在一个冻结的系统中,对2015-2020年的数据进行测试,若不重新训练则收益为-28%,但若进行完整的前瞻性重新训练则收益为+17%,从而得出结论:定期重新训练对于适应市场机制变化至关重要。作者计划很快投入真钱交易,并将公开实盘记录。
来源: Habr — хаб ML —
原文
