Choque com custos leva executivos a repensar a estratégia de IA
Anthropic
OpenAI
GitHub
Os líderes empresariais estão chocados com o aumento dos custos de IA, à medida que a cobrança baseada em uso substitui as taxas fixas. Uma pesquisa da KPMG constatou que 29% dos executivos seniores têm dificuldade para entender os custos operacionais, e quase metade está repensando as implantações. Enquanto isso, uma ferramenta de código aberto de um engenheiro da Netflix reduz a entrada redundante para economizar nos custos de tokens.
Uma pesquisa da KPMG com mais de 2.000 executivos seniores em 20 países descobriu que 29% têm dificuldade em entender os custos operacionais à medida que escalam implantações de IA empresarial, e quase metade está reprogramando implantações quando os custos superam o valor esperado. Fornecedores como Anthropic, OpenAI e GitHub migraram de assinaturas de taxa fixa para faturamento baseado em uso por token, causando choque nas faturas. A pesquisa da Gartner indicou que os custos de codificação assistida por IA por desenvolvedor podem exceder o salário médio global até 2028, especialmente em regiões com salários mais baixos. Uma ferramenta de código aberto criada por um engenheiro da Netflix corta entradas redundantes (como esquemas de banco de dados e logs) enviadas para LLMs, economizando centenas de milhares de dólares para os usuários em custos de token. A ferramenta usa 'squashers' para remover verbosidade desnecessária antes do envio.
Fonte: The Register AI/ML —
original