우리만의 OpenAI 시작하기: 5.6백만 달러 모델, 연간 340억 달러 기업, 그리고 학습은 가장 저렴한 항목

DeepSeekDeepSeek OpenAIOpenAI xAIxAI Allen Institute for AIAllen Institute for AI Hugging FaceHugging Face СберСбер NVIDIANVIDIA LambdaLambda
DeepSeek-V3의 보고된 학습 비용 5.6백만 달러와 OpenAI의 2025년 재무 실적을 바탕으로, AI 연구소 설립 비용에 대한 상세한 비용 분석을 제공합니다. 이 기사는 실제 학습 비용이 최종 실행보다 훨씬 더 크다는 점과, 단일 학습 실행이 연간 클러스터 비용의 일부에 불과함을 밝힙니다.
이 기사는 DeepSeek-V3의 학습 비용인 557만 6천 달러를 그대로 재현하여 AI 기업을 창업하겠다는 계획을 소개하지만, 이 금액에는 사전 연구, 애블레이션(ablation, 구성 요소 제거 실험), 데이터 준비, 인건비, 하드웨어 비용이 포함되지 않았다는 점을 곧바로 지적한다. 기사는 OpenAI의 감사받은 2025년 재무 자료를 인용하는데, 매출 130억 7천만 달러, 총비용 340억 달러, 영업손실 209억 2천만 달러이며 이 중 172억 달러가 클라우드 서비스 비용으로 Microsoft에 지급되었다고 밝힌다. 저자는 H800 GPU 2,048개로 구성된 클러스터를 1년간 운영하는 비용이 4,220만 달러에 달하는 반면, 최종 학습 실행에는 연간 GPU 사용 시간의 15.5%만이 사용되었다고 계산한다. Grok 4와 같은 더 큰 규모의 학습 실행은 Epoch AI에 의해 4억 9천만 달러로 추정되지만, Lambda의 공개 인터커넥트 가격을 적용하면 그 비용은 13억 달러를 넘어선다. 온디맨드 방식의 컴퓨팅 용량은 이미 매진되었고, 장기 계약은 '테이크 오어 페이(take-or-pay, 사용하지 않아도 대금을 지불해야 하는 계약 방식)' 조건으로 체결된다. 하드웨어를 직접 구매하는 것 역시 비용이 상당한데, GB300 NVL72 랙 하나의 가격은 600만~650만 달러에 달하고 최대 155kW의 전력을 소비하며 액체 냉각 시스템이 필요한데, 이는 일반적인 데이터센터로는 감당할 수 없는 수준이다.
출처: Habr — хаб ИИ — 원문
관련 게시물 ↓
새로운 뉴스