Применение LLM на финансовых рынках

В статье анализируется применимость больших языковых моделей (LLM) к задачам финансовых рынков, в частности к прогнозированию цен и торговле. Количественные трейдеры задались вопросом, можно ли адаптировать LLM, успешно моделирующие последовательности слов, для моделирования последовательностей цен или сделок. Однако выяснилось, что на этом пути есть серьёзные препятствия. Компания Hudson River Trading на конференции NeurIPS 2023 сравнила количество токенов, использованных для обучения GPT-3 (500 млрд), с годовым объёмом рыночных данных (177 млрд токенов) и показала, что объёмы сопоставимы. Но в рыночных данных гораздо больше шума, чем сигнала, и они постоянно меняются из-за новой информации, регуляторных изменений и макроэкономических сдвигов, тогда как язык эволюционирует медленнее. Кроме того, если в языке есть грамматическая структура, облегчающая предсказание, то в финансах умные игроки конкурируют, делая рынки эффективными и непредсказуемыми. Однако есть и обнадёживающие подходы: мультимодальное обучение (сочетание ценовых данных, новостей, изображений и т.д.), концепция резидуализации, а также способность LLM обрабатывать длинные контексты, что позволяет анализировать явления на разных временных горизонтах — от микроструктурных (секунды) до фундаментальных (месяцы). Также обсуждается создание синтетических данных для обучения стратегий и моделирование экстремальных событий. Несмотря на скепсис, авторы призывают сохранять открытость, так как неожиданные возможности ИИ уже не раз удивляли.