DeepSeek 자금 조달 회의: 량원펑, 대규모 언어 모델 기술과 비즈니스 철학 논의

모금 회의에서 DeepSeek의 창립자 양원펑은 대규모 언어 모델 기술과 회사의 상업적 전략에 대한 상세한 분석을 발표했습니다. 그는 희소 어텐션(sparse attention)과 혼합 전문가(mixture of experts)를 사용하여 훈련 효율성을 개선하는 등 주요 아키텍처 결정에 대해 논의했습니다. 양 대표는 DeepSeek이 개방성을 추구하며, 모델과 기술 보고서를 출판하여 커뮤니티 발전을 촉진하겠다고 강조했습니다. 그는 또한 AI 시장에서의 경쟁에 대해 언급하며, 중국이 단순한 애플리케이션보다 기초 연구에 집중해야 한다고 지적했습니다. 회의에서는 멀티모달 모델의 전망과 하드웨어 및 소프트웨어 최적화를 통한 컴퓨팅 비용 절감 방안도 다뤄졌습니다.