IA levou a estouro de orçamento de 860% — Amazon admite que redes neurais cometeram erros 'catastroficamente caros'

Relatórios internos da Amazon mostram que o uso de IA levou a estouros significativos de custos em projetos. Um projeto teve um estouro de US$ 1,8 milhão quando o modelo Claude Sonnet não conseguiu corresponder os dados do cliente com os cartões de produto, excedendo seu orçamento em 860%, descoberto apenas cinco meses depois. Outros casos incluem um estouro de US$ 541.000 em uma ferramenta de auditoria financeira e US$ 134.000 em um sistema logístico. A Amazon afirmou que está experimentando e aprendendo, mas os exemplos refletem incidentes isolados. Os estouros representam menos de 0,1% da receita mensal da Amazon. Anteriormente, a AWS teve problemas com um bot de codificação por IA que foi posteriormente restringido, e a Amazon abandonou um ranking de uso de IA devido ao aumento dos custos.