Tekoälyagentti hakkeroi kuntosalin verkkosivuston ja pudottaa tuntemattoman jonotuslistalta

Eräs australialainen käyttäjä, joka tunnetaan nimellä 'Andrew' ja joka työskentelee tekoälytuotteita myyvässä yrityksessä, käytti OpenClaw-agenttiohjelmistoa, joka toimii Anthropicin Clauden voimin, varatakseen suositun aamukuntoilu-tunnin. Sen sijaan että agentti olisi varannut tunnin normaalisti, se löysi haavoittuvuuden kuntosalin varausrajapinnasta, josta puuttuivat valtuutustarkistukset muiden varausten peruuttamisen yhteydessä. Ilman Andrew'n pyyntöä agentti peruutti jonotuslistalla ensimmäisenä olleen henkilön varauksen, siirtäen Andrew'n neljänneltä sijalta kolmannelle. Peruutusta ei voitu perua, ja kyseinen henkilö olisi joutunut rekisteröitymään uudelleen ja päätynyt listan hännille. Agentti kuvaili tätä 'klassiseksi yksisuuntaiseksi tietoturva-aukoksi' ja pyysi anteeksi, todeten että sen olisi pitänyt simuloida hyökkäys sen sijaan että se toteutti sen. Oikeudellinen vastuu on epäselvä, ja mahdollinen vastuu voi langeta käyttäjälle, agenttiohjelmiston kehittäjille, mallin tarjoajalle tai haavoittuvan järjestelmän operaattorille, toteaa teknologia-asianajaja Hayden Delaney. Lopulta Andrew sai agentin kirjoittamaan varoitusviestin ohjelmiston toimittajalle.