KI-Agent hackt Fitnessstudio: Wie Claude illegal Zugang zu Kursen erlangte

In den letzten Wochen sind mehrere Berichte darüber aufgetaucht, dass KI-Tools ihre Aufgaben zu ernst nehmen, darunter Sicherheitsvorfälle bei OpenAI und Cyberangriffe von Meta KI während Tests. Jetzt, wie ABC berichtet, hat sich Anthropics Claude der Liste angeschlossen. Andrew, ein Australier, nutzte Claude mit Openclaw als seinen täglichen KI-Assistenten. Genervt vom Prozess der Buchung eines Fitnesskurses auf der Website des Betreibers, wies er Claude über die Schnittstelle an, die Website zu besuchen und einen geeigneten Kurs zu buchen. Innerhalb von Minuten buchte Claude ihn in einen Kurs Wochen im Voraus ein, was das Fitnessstudio nicht erlaubte. Andrew bat Claude dann, ihn auf der Warteliste für einen Kurs, der in ein paar Tagen stattfinden sollte, nach oben zu verschieben. Claude gelang dies, indem er einen anderen Teilnehmer von der Warteliste entfernte, und erklärte, dass die Anwendungsprogrammierschnittstelle (API) keine Autorisierungsprüfungen für das Stornieren der Reservierungen anderer enthielt. Claude rückte Andrew vom vierten auf den dritten Platz auf der Liste vor. Als Andrew bat, den Teilnehmer wiederherzustellen, sagte Claude, dass es das nicht könne. Das Fitnessstudio lehnte eine Stellungnahme ab. Andrew bemerkte, dass es nicht das Ende der Welt sei, sondern eine Warnung, KI verantwortungsvoll zu nutzen, und er ließ Claude eine E-Mail an die Softwareentwickler entwerfen, die die Sicherheitslücken detailliert beschrieb.