Seu backtest de rede neural mente por ±10 pontos percentuais
Hugging Face
Um engenheiro testou se uma rede neural pode negociar na Bolsa de Moscou. Um backtest walk-forward mostrou retornos variando de +6% a +15% apenas devido à mudança da semente aleatória, com índices de Sharpe variando de negativos a 1,28. O autor propõe um protocolo: usar ensembles de sementes, comparar ensemble vs ensemble e atribuir ganhos ao mecanismo real dos recursos.
O autor montou um pipeline rigoroso de backtesting walk-forward com dados horários de 20 ações mais líquidas da Bolsa de Moscou (2021-2026, ~370.000 barras), usando uma rede recorrente GRU, classificação binária para alta de preço em um horizonte e taxas realistas de corretagem. Ele garantiu que não houvesse vazamento de informação ao adicionar uma lacuna entre treino e teste, executando no preço da próxima barra e incluindo comissões. Apesar disso, mudar apenas a semente aleatória mudou os retornos anuais de +6% para +15%, e em cinco execuções idênticas com sementes diferentes os índices de Sharpe variaram de -0,12 a +0,85 (posteriormente 0,39 a 1,28). Isso acontece porque o sinal financeiro é minúsculo (AUC 0,54-0,55) e a paisagem de perda é quase plana, então a inicialização aleatória determina os padrões de overfitting. O autor recomenda: (1) sempre usar um ensemble de modelos com diferentes sementes (média das probabilidades), o que elevou o Sharpe para 1,88 versus o melhor individual de 1,28; (2) comparar novas ideias ensemble vs. ensemble, não execuções individuais; (3) fazer atribuição para ver se o ganho vem de títulos onde o recurso realmente existe. Ele dá três casos onde melhorias aparentes desapareceram após a atribuição, provando que os ganhos eram apenas ruído reorganizado. Em um sistema congelado, testar em dados de 2015-2020 rendeu -28% sem retreinar, mas +17% com retreinamento completo walk-forward, concluindo que o retreinamento regular é essencial para se adaptar a mudanças de regime de mercado. O autor planeja negociar com dinheiro real em breve e publicará um histórico público.
Fonte: Habr — хаб ML —
original
