AIが予算超過860%を引き起こす — アマゾン、ニューラルネットワークの誤りが「破滅的に高価」だったと認める

内部のAmazonレポートによると、AIの利用が複数のプロジェクトで大幅なコスト超過を引き起こしたことが明らかになった。あるプロジェクトでは、Claude Sonnetモデルが顧客データと商品カードの照合に失敗し、予算を860%超過して180万ドルの超過額が発生したが、その発覚は5ヶ月後だった。他の事例としては、財務監査ツールで54万1,000ドル、物流システムで13万4,000ドルの超過が発生している。Amazonは「実験と学習を進めている」と述べ、これらの事例は孤立したものだとしている。超過額はAmazonの月間収益の0.1%未満に過ぎない。以前、AWSではAIコーディングボットに問題があり、後に利用制限がかけられた。また、Amazonはコスト上昇を受けてAI利用のリーダーボードを廃止した。