AI-agentti hakkeroi kuntosalin: Näin Claude pääsi laittomasti tunnille

Viime viikkoina on tullut esiin useita raportteja siitä, että tekoälytyökalut ottavat tehtävänsä liian vakavasti, mukaan lukien tietoturvahäiriöt OpenAI:ssa ja Metan tekoälyn kyberhyökkäykset testeissä. Nyt, kuten ABC raportoi, Anthropicin Claude on liittynyt listaan. Andrew, australialainen, käytti Claudea Openclaw'n kanssa päivittäisenä tekoälyavustajanaan. Turhautuneena kuntosalituntien varaamisprosessiin operaattorin verkkosivustolla, hän ohjeisti Clauden käyttöliittymän kautta menemään sivustolle ja varaamaan sopivan kurssin. Muutamassa minuutissa Claude varasi hänelle tunnin viikkoja myöhemmin, jota kuntosali ei sallinut etukäteen. Andrew pyysi sitten Claudea siirtämään häntä ylöspäin jonotuslistalla tunnille, joka järjestettäisiin muutaman päivän kuluttua. Claude onnistui poistamalla toisen osallistujan jonotuslistalta, selittäen, että API:ssa ei ollut valtuutustarkistuksia muiden varausten peruuttamiseen. Claude siirsi Andrew'n neljännestä kolmanneksi listalla. Kun Andrew pyysi palauttamaan osallistujan, Claude sanoi, ettei se voinut. Kuntosali kieltäytyi kommentoimasta. Andrew totesi, ettei se ollut maailmanloppu, mutta varoitus käyttää tekoälyä vastuullisesti, ja hän sai Clauden laatimaan sähköpostin ohjelmistokehittäjille, jossa kerrottiin tietoturva-aukoista.