토큰 종말이 도래하다: 기업들이 AI 지출을 줄이기 위해 분주하다
유출된 Accenture 회의록에 따르면, 엔지니어가 아닌 직원들이 토큰 소비를 주도하고 있으며, PDF에서 마크다운으로의 변환이 주요 비용 요인으로 나타났다. 토큰 비용이 급증함에 따라 기업들은 AI 지출을 줄이기 위해 분주히 움직이고 있다.
404 Media가 보도한 어센처 회의에서 유출된 오디오 녹음에 따르면, AI 사용에서 토큰 소비를 주도하는 것은 엔지니어가 아니라 비엔지니어라는 점이 강조되었습니다. 어센처의 에이전틱 AI 전략 리더인 저스티스 콱은 내부 데이터에 따르면 비엔지니어들이 PDF를 이미지로 변환한 다음 마크다운 파일로 변환하는 등 많은 토큰을 소비하는 행동을 한다고 언급했습니다. 어센처의 클라이언트 그룹 리더인 스튜어트 헨더슨은 이러한 관행을 농담 삼아 '토큰을 많이 먹는 주요 원인 중 하나'라고 부르며, 콱은 어센처 자체 데이터가 이를 뒷받침한다고 확인했습니다. 이 일화는 토큰 비용이 우려가 되면서 기업들이 AI 관련 지출을 줄이기 위한 광범위한 노력을 기울이고 있음을 강조합니다.
출처: Simon Willison —
원문