AI leidde tot 860% budgetoverschrijding — Amazon geeft toe dat neurale netwerken 'catastrofaal dure' fouten maakten

Interne Amazon-rapporten tonen aan dat het gebruik van AI leidde tot aanzienlijke kostenoverschrijdingen bij projecten. Bij één project ontstond een overschrijding van 1,8 miljoen dollar toen het Claude Sonnet-model klantgegevens niet kon matchen met productkaarten, waardoor het budget met 860% werd overschreden, pas vijf maanden later ontdekt. Andere gevallen zijn een overschrijding van 541.000 dollar bij een financieel audithulpmiddel en 134.000 dollar bij een logistiek systeem. Amazon verklaarde dat ze experimenteren en leren, maar de voorbeelden weerspiegelen geïsoleerde incidenten. De overschrijdingen vertegenwoordigen minder dan 0,1% van de maandelijkse omzet van Amazon. Eerder had AWS problemen met een AI-codeerbot die later werd beperkt, en Amazon schrapte een ranglijst voor AI-gebruik vanwege stijgende kosten.