아마존, 클로드에 180만 달러 낭비: AI 에이전트 감독의 값비싼 교훈

최근 아마존(Amazon)은 자사 웹사이트에 저자 정보를 자동으로 채우기 위해 Claude Sonnet을 활용하려 시도했으나, 겉보기에는 단순해 보였던 이 작업이 결국 180만 달러의 비용을 초래했다. 이는 애초 예산을 860% 초과한 금액이었으며, 문제는 5개월이 지나서야 발견됐고 결국 배포 자체가 실패로 끝났다. Anthropic이 공개한 요금 체계(입력 토큰 100만 개당 3달러, 출력 토큰 100만 개당 15달러)를 기준으로 계산하면, 180만 달러는 최대 6,000억 개의 토큰을 소진할 수 있는 금액으로, 이는 GPT-3 전체 학습 데이터 규모의 약 두 배에 해당한다. 이번 사건은 고립된 사례가 아니다. 아마존 내부에서는 유사한 사례가 여러 차례 발생했으며, 그중 다수가 오랜 기간 발견되지 않은 채 방치돼 왔다. 이러한 실패에도 불구하고 아마존은 공격적인 자동화 추진을 계속하고 있다. 앤디 재시(Andy Jassy) CEO는 2026년 자본 지출 규모를 약 2,200억 달러로 계획하고 있다고 발표했으며, 이 중 대부분은 AWS(Amazon Web Services), 자체 개발 AI 칩, 전력 인프라에 투입될 예정이다. 2026 회계연도 2분기 실적에서 AWS는 순매출 422억 달러를 기록해 전년 동기 대비 37% 성장했으며, 이는 아마존 전체 영업이익의 약 60%를 차지했다. 한편 아마존은 2025년 10월 이후 약 3만 명의 인력을 감원했으며, 2033년까지 창고 운영의 약 75%를 자동화하는 것을 목표로 하고 있다. 이는 미국 내 고용을 60만 명 이상 감소시킬 수 있는 규모다. 노벨상 수상자인 다론 아제모을루(Daron Acemoglu)를 포함한 외부 관찰자들은 아마존이 '순 일자리 파괴자(net job destroyer)'로 전락할 수 있다고 경고하고 있다. 통제 불능 상태로 치솟는 토큰 비용 문제는 아마존만의 사례가 아니다. 메타(Meta), 우버(Uber) 등도 유사한 초과 비용 문제를 겪은 바 있다. 메타는 심지어 'Claudeonomics'라는 내부 리더보드를 구축해 8만 5,000명의 직원들 사이에서 발생하는 토큰 사용량을 추적했으며, 월 청구액이 2억 2,100만 달러에 달하자 토큰 사용량 상한선을 도입하고 중앙집중식 모니터링 플랫폼을 마련했다. 샘 올트먼(Sam Altman)은 OpenAI 내부의 헤비 유저들이 월 최대 1,000억 개의 토큰을 소비한다고 밝혔으며, 한 직원은 단 일주일 만에 2,100억 개의 토큰을 사용한 것으로 나타났다. 한 설문조사에 따르면, AI 비용에 대해 완전한 가시성을 확보하고 있다고 답한 기업은 전체의 26%에 불과했다. 이 기사는 또한 규제되지 않은 자동화의 위험성을 보여주는 경고 사례로, 결함이 있는 자동 거래 시스템으로 인해 45분 만에 4억 4,000만 달러의 손실을 입고 결국 파산에 이른 나이트 캐피털(Knight Capital)의 역사적 사례를 인용하고 있다.