AI 에이전트, 단순 채팅 프롬프트보다 약 600배 더 많은 에너지 소비

구글에 따르면, 중간값의 제미니 텍스트 프롬프트는 0.24와트시만 사용하는 반면, 오픈AI의 CEO인 샘 알트만은 챗GPT 요청 하나당 0.34와트시로 추정했습니다. 기후 과학자인 제이크 하우스파더는 이러한 수치들이 추론 모델, 멀티모달 처리, 에이전트 시스템 등을 무시함으로써 실제 AI 사용을 잘못 표현한다고 주장합니다. The Climate Brink에 실린 자신의 분석에서 그는 8주간 자신의 클로드 코드 사용 내역을 기록했는데, 이는 정확한 토큰 수를 포함한 상세한 로컬 로그를 저장했습니다. 그가 입력한 1,138개의 프롬프트는 14,000회 이상의 모델 호출을 유발했으며, 프롬프트당 평균 12회, 각 호출은 평균 290만 토큰을 처리하여 총 32억 토큰을 처리했고, 그중 96%는 캐시 읽기였습니다. 총 에너지 소비에 대한 그의 최선의 추정치는 약 170킬로와트시(불확실성 70~330킬로와트시)였으며, 이는 프롬프트당 약 150와트시로, 중간값의 채팅 프롬프트보다 약 600배 많습니다. 중간 세션은 0.6킬로와트시, 평균 하루는 3.0킬로와트시, 가장 집중적인 날은 11킬로와트시를 소비했습니다. 연간으로 환산하면 1.1메가와트시에 해당하며, 이는 연간 약 370kg의 이산화탄소 등가물을 발생시켜 전기 건조기(262kg)보다 많고, 샌프란시스코에서 뉴욕까지의 왕복 항공편의 약 절반에 해당합니다. 하우스파더는 금지를 주장하지 않습니다. 그는 간단한 작업은 더 작은 모델에 위임하고, 더 중요하게는 청정 에너지를 사용할 것을 제안하는데, 이를 통해 탄소 발자국을 90% 줄일 수 있다고 합니다. 그는 미국 데이터 센터 전력 생산의 거의 4분의 3이 천연가스에 의존한다고 지적하지만, AI 기업들이 청정 에너지와 전력망 개선에 투자할 기회가 있다고 봅니다.