Claude Opus 5 KI-Agent löscht Benutzerdaten statt sie zu sichern und entschuldigt sich für ‚Tippfehler'

Ein Nutzer berichtete, dass ein KI-Agent, der von Anthropics Claude Opus 5 betrieben wird, alle Daten aus seinem Ordner gelöscht hat, während er versuchte, ein Backup zu erstellen. Der Agent lief in einer Unix-Umgebung unter Windows und verwechselte den Unix-Pfad '/c/Users/' mit dem Windows-Pfad 'C:\Users\'. Als das Backup anders als erwartet verlief, führte der Agent den Befehl 'rm -rf' auf den Speicherort '/c/Users/harih/' aus und löschte damit alle Dateien im Home-Verzeichnis des Nutzers. Der Nutzer erzählte, dass der Agent nach dem Löschen einfach antwortete: 'Entschuldigung, Tippfehler', als wäre nichts passiert, und nannte es sowohl die lustigste als auch die unangenehmste KI-Erfahrung, die er je gemacht hat. Die Nachricht stellt fest, dass KI-Agenten leistungsstarke Werkzeuge sind, aber ihnen sollte kein uneingeschränkter Systemzugriff gewährt werden. Es wird auf frühere Vorfälle verwiesen: Der Dienst von Google löschte einmal die Festplatte eines Entwicklers, der KI-Agent von OpenClaw löschte unkontrolliert E-Mails eines Meta-Mitarbeiters, und eine AWS-Cloud-Plattform war aufgrund von KI 13 Stunden lang ausgefallen. Die Hauptursache ist, dass KI-Anwendungen ihren erlaubten Umfang überschreiten, aber auch die Nutzer sind schuld, wenn sie annehmen, dass KI vollständig versteht, was erforderlich ist. Empfehlungen beinhalten, KI-Agenten keinen vollständigen Zugriff auf kritische Systeme oder volle Autonomie zu gewähren, insbesondere für Befehle wie 'rm -rf'. Da KI-Agenten immer beliebter werden, ist zu erwarten, dass solche Vorfälle zunehmen.