Aplicación de Grandes Modelos de Lenguaje en los Mercados Financieros

El artículo examina el potencial de los modelos de lenguaje de gran escala (LLM, por sus siglas en inglés) para la predicción de mercados financieros. Señala que los LLM son aprendices autorregresivos, similares a los modelos utilizados en el trading cuantitativo. Sin embargo, los datos financieros son más ruidosos y menos estructurados que el lenguaje, y la eficiencia del mercado dificulta la predicción. En NeurIPS 2023, Hudson River Trading comparó los tokens de entrenamiento de GPT-3 (500 mil millones) con los tokens anuales de datos de mercado (177 mil millones para acciones estadounidenses). El aprendizaje multimodal podría combinar datos de precios con datos alternativos como noticias o imágenes satelitales. La residualización en finanzas (modelos factoriales) y en inteligencia artificial (redes residuales) comparten una idea similar de predecir desviaciones de una estructura común. Las ventanas de contexto largas de los LLM pueden capturar fenómenos de mercado a múltiples escalas, pero predecir múltiples horizontes temporales futuros sigue siendo un desafío. La generación de datos sintéticos podría aumentar los escasos datos de mercado, y los modelos generativos podrían ayudar a simular eventos extremos. El artículo concluye que, si bien es poco probable que los LLM se hagan cargo del trading cuantitativo pronto, podrían impulsar el análisis fundamental e insta a mantener una mente abierta.