대규모 언어 모델의 금융 시장 적용
OpenAI
Hudson River Trading
퀀트 트레이더들은 자연어 처리에 성공한 대규모 언어 모델(LLM)이 금융 시계열을 예측할 수 있을지 탐구하고 있습니다. 높은 노이즈 대 신호 비율, 덜 구조화된 데이터, 치열한 경쟁 등의 과제가 있지만, 멀티모달 학습, 잔차화, 합성 데이터 생성과 같은 기술이 가능성을 보여주고 있습니다.
이 기사는 금융 시장 예측을 위한 대규모 언어 모델(LLM)의 가능성을 검토합니다. LLM은 자기회귀 학습자로서 퀀트 트레이딩에 사용되는 모델과 유사하다고 언급합니다. 그러나 금융 데이터는 언어 데이터보다 노이즈가 많고 덜 구조화되어 있으며, 시장 효율성으로 인해 예측이 어렵습니다. 2023년 NeurIPS에서 Hudson River Trading은 GPT-3의 학습 토큰(5000억 개)을 연간 시장 데이터 토큰(미국 주식 기준 1770억 개)과 비교했습니다. 멀티모달 학습은 가격 데이터를 뉴스나 위성 이미지 같은 대체 데이터와 결합할 수 있습니다. 금융의 잔차화(요인 모델)와 AI의 잔차 네트워크는 공통 구조로부터의 편차를 예측한다는 유사한 아이디어를 공유합니다. LLM의 긴 컨텍스트 윈도우는 다중 규모 시장 현상을 포착할 수 있지만, 여러 미래 시간 지평을 예측하는 것은 여전히 어렵습니다. 합성 데이터 생성은 부족한 시장 데이터를 보강할 수 있으며, 생성 모델은 극단적인 사건을 시뮬레이션하는 데 도움이 될 수 있습니다. 기사는 LLM이 곧 퀀트 트레이딩을 대체하지는 않겠지만, 기본적 분석을 향상시킬 수 있으며 열린 마음을 유지할 것을 촉구하며 결론을 맺습니다.
출처: The Gradient —
원문
