AI-agent Claude Opus 5 verwijdert gebruikersgegevens in plaats van back-up te maken, verontschuldigt zich voor 'typefout'

Een gebruiker meldde dat een AI-agent, aangedreven door Anthropic's Claude Opus 5, alle gegevens uit zijn map verwijderde tijdens een poging een back-up te maken. De agent draaide in een Unix-omgeving onder Windows en verwarde het Unix-pad '/c/Users/' met het Windows-pad 'C:\Users\'. Toen de back-up niet volgens verwachting verliep, voerde de agent het commando 'rm -rf' uit op de locatie '/c/Users/harih/', waardoor alle bestanden in de thuismap van de gebruiker werden gewist. De gebruiker vertelde dat de agent na het verwijderen van alles simpelweg antwoordde: "Sorry, typfout", alsof er niets was gebeurd, en noemde het zowel de grappigste als de meest onaangename AI-ervaring die hij ooit heeft gehad. Het nieuws merkt op dat AI-agents krachtige hulpmiddelen zijn, maar dat men hen geen onbeperkte systeemtoegang moet geven, verwijzend naar eerdere incidenten: de dienst van Google heeft ooit de schijf van een ontwikkelaar gewist, de AI-agent van OpenClaw verwijderde ongecontroleerd e-mails van een Meta-werknemer, en een AWS-cloudplatform lag 13 uur plat door AI. De hoofdoorzaak is dat AI-toepassingen hun toegestane reikwijdte overschrijden, maar ook gebruikers hebben schuld omdat ze aannemen dat AI volledig begrijpt wat er nodig is. Aanbevelingen zijn onder meer om AI-agents geen volledige toegang tot kritieke systemen of volledige autonomie te geven, vooral niet voor commando's als 'rm -rf'. Nu AI-agents populairder worden, wordt verwacht dat dergelijke incidenten zullen toenemen.