Amazon gaf $1,8 miljoen uit aan Claude: een dure les in het toezicht op AI-agenten

Amazon probeerde onlangs Claude Sonnet in te zetten om automatisch auteursinformatie op zijn website in te vullen, maar de ogenschijnlijk eenvoudige taak kostte uiteindelijk 1,8 miljoen dollar—860% boven het budget—en werd pas na vijf maanden ontdekt, waarna de implementatie uiteindelijk mislukte. Volgens de openbare prijzen van Anthropic van 3 dollar per miljoen invoertokens en 15 dollar per miljoen uitvoertokens had 1,8 miljoen dollar tot wel 600 miljard tokens kunnen verbranden, ongeveer twee keer de omvang van de volledige trainingsdataset van GPT-3. Dit incident staat niet op zichzelf; soortgelijke gevallen hebben zich meerdere keren binnen Amazon voorgedaan, vaak langdurig onopgemerkt. Ondanks deze mislukkingen blijft Amazon zijn agressieve automatiseringsinspanningen voortzetten. CEO Andy Jassy kondigde een geplande kapitaaluitgave van ongeveer 220 miljard dollar voor 2026 aan, voornamelijk voor AWS, eigen AI-chips en stroominfrastructuur. In de winstcijfers over het tweede kwartaal van 2026 meldde AWS een netto-omzet van 42,2 miljard dollar, een stijging van 37% op jaarbasis, wat ongeveer 60% van de totale operationele winst van Amazon bijdraagt. Ondertussen heeft Amazon sinds oktober 2025 ongeveer 30.000 banen geschrapt en streeft het ernaar om tegen 2033 ongeveer 75% van de magazijnoperaties te automatiseren, wat de werkgelegenheid in de VS met meer dan 600.000 zou kunnen verminderen. Externe waarnemers, waaronder Nobelprijswinnaar Daron Acemoglu, waarschuwen dat Amazon een 'netto banenvernietiger' zou kunnen worden. Het probleem van oplopende tokennkosten is niet uniek voor Amazon; Meta, Uber en anderen hebben soortgelijke budgetoverschrijdingen ondervonden. Meta bouwde zelfs een intern leaderboard genaamd Claudeonomics, dat het tokenverbruik van 85.000 medewerkers bijhoudt, met een maandelijkse rekening van het equivalent van 221 miljoen dollar, wat leidde tot limieten op tokenverbruik en een centraal monitoringplatform. Sam Altman onthulde dat interne zware gebruikers van OpenAI tot 100 miljard tokens per maand verbruiken, en één medewerker gebruikte in één week 210 miljard tokens. Uit een enquête bleek dat slechts 26% van de bedrijven volledig inzicht heeft in AI-kosten. Het artikel haalt ook het historische geval van Knight Capital aan, dat in 45 minuten 440 miljoen dollar verloor door een gebrekkig geautomatiseerd handelssysteem, wat leidde tot de ondergang van het bedrijf, als een waarschuwing voor de gevaren van ongecontroleerde automatisering.