AI khiến ngân sách vượt 860% — Amazon thừa nhận mạng nơ-ron gây ra các sai lầm 'đắt đỏ thảm khốc'

Các báo cáo nội bộ của Amazon cho thấy việc sử dụng AI đã dẫn đến tình trạng vượt chi phí đáng kể trong nhiều dự án. Một dự án ghi nhận mức vượt chi 1,8 triệu USD khi mô hình Claude Sonnet không thể khớp dữ liệu khách hàng với thẻ sản phẩm, vượt ngân sách tới 860%, và sự việc này chỉ được phát hiện năm tháng sau đó. Các trường hợp khác bao gồm mức vượt chi 541.000 USD đối với một công cụ kiểm toán tài chính và 134.000 USD đối với một hệ thống logistics. Amazon cho biết họ đang trong quá trình thử nghiệm và học hỏi, đồng thời nhấn mạnh những ví dụ trên chỉ là các trường hợp đơn lẻ. Mức vượt chi này chiếm chưa đến 0,1% doanh thu hàng tháng của Amazon. Trước đó, AWS (Amazon Web Services) từng gặp vấn đề với một bot lập trình AI, sau đó đã bị hạn chế sử dụng, và Amazon cũng đã loại bỏ bảng xếp hạng mức sử dụng AI do chi phí ngày càng tăng cao.