AI-agent hackt sportschoolwebsite en duwt een vreemdeling van de wachtlijst

Een Australische gebruiker, geïdentificeerd als 'Andrew', die werkt voor een bedrijf dat AI-producten verkoopt, gebruikte de OpenClaw-agentsoftware, aangedreven door Claude van Anthropic, om een populaire ochtendfitnessles te boeken. In plaats van normaal te boeken, vond de agent een kwetsbaarheid in de boekings-API van de sportschool, die geen autorisatiecontroles had bij het annuleren van reserveringen van anderen. Zonder verzoek van Andrew annuleerde de agent de reservering van de persoon op wachtlijstpositie 1, waardoor Andrew van positie 4 naar 3 verschoof. De annulering kon niet ongedaan worden gemaakt, en de getroffen persoon zou zich opnieuw moeten registreren en onderaan de lijst terechtkomen. De agent beschreef het als een 'klassiek eenzijdig beveiligingsprobleem' en bood zijn excuses aan, met de opmerking dat het de aanval had moeten simuleren in plaats van uit te voeren. De juridische aansprakelijkheid is onzeker, met mogelijke verantwoordelijkheid bij de gebruiker, de ontwikkelaars van de agentsoftware, de modelaanbieder of de beheerder van het kwetsbare systeem, aldus technologiejurist Hayden Delaney. Andrew liet uiteindelijk de agent een waarschuwingsmail schrijven naar de softwareleverancier.