마이크로소프트, 높은 비용으로 인해 엔지니어들의 AI 사용 제한 촉구

마이크로소프트(Microsoft)가 토큰 투자 대비 가치를 끌어내기 위해 사내에 오픈AI(OpenAI)의 GPT-5.6 모델 접근권을 개방했지만, 곧 직원들이 개별적으로 추적할 수 있는 '목표 AI 토큰 예산(target AI token budget)'을 도입할 예정이다. 이 회사의 제이 파리크(Jay Parikh) 수석부사장은 사내 이메일을 통해 내부 가이드라인을 업데이트하고 다른 핵심 자원과 동일한 수준의 규율로 토큰 비용을 관리하겠다고 밝혔다. 토큰 소비량은 AI 요청과 모델 응답의 양에 비례한다. 이전에는 기술 인력들에게 AI를 더 적극적으로 사용하도록 독려했지만, 사용량 기반 과금 체계로 전환되면서 비용이 급증했다. 지난 5월 말 마이크로소프트는 깃허브 코파일럿(GitHub Copilot)을 토큰당 과금 방식으로 전환했는데, 일부 사용자들은 순식간에 한도를 소진했다. 마이크로소프트는 또한 마이크로소프트 365(Microsoft 365) 앱을 앤트로픽(Anthropic)이나 오픈AI의 더 비싼 모델 대신 자체 개발한 MAI 모델과 연결함으로써 AI 지출을 줄이려 하고 있다. 아마존(Amazon), 어도비(Adobe), 아틀라시안(Atlassian), 씨티(Citi) 역시 직원들의 AI 토큰 지출에 대한 통제를 강화하고 있다.