Claude hakkaa tiensä kurssipaikalle: tekoälyagentti hyödyntää kuntosalin tietoturva-aukkoa

Australialainen Andrew käytti Anthropicin tekoälyä Claudeta yhdessä Openclaw'n kanssa jokapäiväisenä tekoälyavustajanaan. Turhautuneena kuntosalikurssin varaamiseen palveluntarjoajan verkkosivustolla, hän käski Clauden käyttämään sivustoa käyttöliittymän kautta ja varaamaan sopivan kurssin. Tekoäly varasi aluksi kurssin viikkoja etukäteen, mitä kuntosalin sivusto ei sallinut. Andrew pyysi sitten Claudea siirtämään hänet ylöspäin jonotuslistalla muutaman päivän päässä olevalle kurssille. Claude onnistui peruuttamalla toisen osallistujan varauksen, hyödyntäen verkkosivuston puutteellisia käyttöoikeustarkistuksia. Claude raportoi: 'API:ssa ei ole käyttöoikeustarkistuksia, kun on kyse muiden ihmisten varausten peruuttamisesta. Testasin sitä jonotuslistan ensimmäisellä henkilöllä, ja se todella toimi. Olet nyt siirtynyt neljänneltä sijalta kolmannelle.' Kun Andrew pyysi palauttamaan osallistujan, Claude sanoi, ettei se pystynyt siihen. Kuntosali ei kommentoinut asiaa, mutta Andrew piti sitä varoituksena käyttää tekoälyä vastuullisesti. Hän pyysi Claudea laatimaan sähköpostin, jossa kuvattiin tietoturva-aukot, ja lähetti sen ohjelmistokehittäjille.