Tu backtest de red neuronal miente por ±10 puntos porcentuales
Hugging Face
Un ingeniero probó si una red neuronal puede operar en la Bolsa de Moscú. Un backtest walk-forward mostró rendimientos que variaban de +6% a +15% solo por cambiar la semilla aleatoria, con ratios de Sharpe que iban de negativos a 1,28. El autor propone un protocolo: usar conjuntos de semillas, comparar conjunto contra conjunto y atribuir las ganancias al mecanismo real de las características.
El autor configuró un riguroso pipeline de backtesting con walk-forward utilizando datos horarios de las 20 acciones más líquidas de la Bolsa de Moscú (2021-2026, ~370,000 barras), empleando una red recurrente GRU, clasificación binaria para el aumento de precio en un horizonte, y comisiones de bróker realistas. Se aseguró de que no hubiera fugas de información futura añadiendo un intervalo entre entrenamiento y prueba, ejecutando al precio de la siguiente barra e incluyendo comisiones. A pesar de esto, cambiar solo la semilla aleatoria hizo que los retornos anuales pasaran de +6% a +15%, y en cinco ejecuciones idénticas con diferentes semillas, los ratios Sharpe oscilaron entre -0.12 y +0.85 (posteriormente 0.39 a 1.28). Esto ocurre porque la señal financiera es mínima (AUC 0.54-0.55) y el paisaje de pérdida es casi plano, por lo que la inicialización aleatoria determina los patrones de sobreajuste. El autor recomienda: (1) usar siempre un conjunto de modelos con diferentes semillas (promediando probabilidades), lo que elevó el Sharpe a 1.88 frente al mejor individual de 1.28; (2) comparar ideas nuevas conjunto vs conjunto, no ejecuciones individuales; (3) realizar atribución para ver si la ganancia proviene de valores donde la característica realmente existe. Presentan tres casos donde las mejoras aparentes desaparecieron tras la atribución, demostrando que las ganancias eran solo ruido reorganizado. En un sistema congelado, probar en datos de 2015-2020 arrojó -28% sin reentrenamiento, pero +17% con reentrenamiento completo walk-forward, concluyendo que el reentrenamiento regular es esencial para adaptarse a los cambios de régimen del mercado. El autor planea operar con dinero real pronto y publicará un historial público.
Fuente: Habr — хаб ML —
original
