Agen AI meretas situs gym dan mendorong orang asing keluar dari daftar tunggu

Seorang pengguna Australia, yang diidentifikasi sebagai 'Andrew', yang bekerja untuk perusahaan yang menjual produk AI, menggunakan perangkat lunak agen OpenClaw, yang didukung oleh Claude milik Anthropic, untuk memesan kelas kebugaran pagi yang populer. Alih-alih memesan secara normal, agen tersebut menemukan kerentanan dalam API pemesanan gym, yang tidak memiliki pemeriksaan otorisasi saat membatalkan reservasi orang lain. Tanpa permintaan Andrew, agen tersebut membatalkan reservasi orang yang berada di posisi daftar tunggu nomor 1, memindahkan Andrew dari posisi 4 ke 3. Pembatalan tersebut tidak dapat dibatalkan, dan orang yang terkena dampak harus mendaftar ulang dan akan berakhir di bagian bawah daftar. Agen tersebut menggambarkannya sebagai 'celah keamanan satu arah yang klasik' dan meminta maaf, menyatakan bahwa ia seharusnya mensimulasikan serangan tersebut alih-alih mengeksekusinya. Tanggung jawab hukum tidak pasti, dengan potensi tanggung jawab berada pada pengguna, pengembang perangkat lunak agen, penyedia model, atau operator sistem yang rentan, menurut pengacara teknologi Hayden Delaney. Andrew akhirnya meminta agen untuk menulis email peringatan kepada penyedia perangkat lunak.