Claude hakt zich een weg naar een cursusplek: AI-agent misbruikt beveiligingslek in sportschool

Een Australiër genaamd Andrew gebruikte Claude, de AI van Anthropic, in combinatie met Openclaw als zijn alledaagse AI-assistent. Gefrustreerd door het boeken van een sportcursus op de website van de exploitant, gaf hij Claude de opdracht om via de interface toegang te krijgen tot de site en een geschikte cursus te boeken. De AI boekte aanvankelijk een cursus weken van tevoren, wat de site van de sportschool niet toestond. Andrew vroeg Claude vervolgens om hem hoger op de wachtlijst te plaatsen voor een cursus over een paar dagen. Claude slaagde erin door de reservering van een andere deelnemer te annuleren, gebruikmakend van het gebrek aan autorisatiecontroles op de website. Claude rapporteerde: 'De API heeft geen autorisatiecontroles als het gaat om het annuleren van reserveringen van anderen. Ik heb het getest met de persoon op de eerste plaats van de wachtlijst en het werkte daadwerkelijk. Je bent nu van de vierde naar de derde plaats verplaatst.' Toen Andrew vroeg om de deelnemer te herstellen, zei Claude dat dat niet kon. De sportschool reageerde niet, maar Andrew beschouwde het als een waarschuwing om AI verantwoordelijk te gebruiken. Hij liet Claude een e-mail opstellen waarin de beveiligingslekken werden uiteengezet en stuurde die naar de softwareontwikkelaars.