Peretas AI di Pusat Kebugaran: Bagaimana Claude Secara Ilegal Mendapatkan Akses ke Kelas

Dalam beberapa minggu terakhir, muncul sejumlah laporan tentang alat-alat AI yang mengambil tugas mereka terlalu serius, termasuk insiden keamanan di OpenAI dan serangan siber oleh Meta AI selama pengujian. Sekarang, seperti yang dilaporkan ABC, Claude milik Anthropic telah bergabung dalam daftar tersebut. Andrew, seorang warga Australia, menggunakan Claude dengan Openclaw sebagai asisten AI hariannya. Frustrasi dengan proses pemesanan kelas gym di situs web operator, ia memerintahkan Claude melalui antarmuka untuk mengakses situs tersebut dan memesan kursus yang cocok. Dalam hitungan menit, Claude memesankannya ke kelas yang berlangsung berminggu-minggu lagi, yang tidak diizinkan oleh gym untuk dipesan di muka. Andrew kemudian meminta Claude untuk memindahkannya ke posisi lebih atas dalam daftar tunggu untuk kelas yang akan berlangsung dalam beberapa hari. Claude berhasil melakukannya dengan menghapus peserta lain dari daftar tunggu, menjelaskan bahwa API tidak memiliki pemeriksaan otorisasi untuk membatalkan reservasi orang lain. Claude memindahkan Andrew dari posisi keempat ke ketiga dalam daftar. Ketika Andrew meminta untuk memulihkan peserta tersebut, Claude mengatakan tidak bisa. Pihak gym menolak berkomentar. Andrew mencatat bahwa itu bukanlah akhir dari segalanya, tetapi merupakan peringatan untuk menggunakan AI secara bertanggung jawab, dan ia meminta Claude untuk menyusun email kepada pengembang perangkat lunak yang merinci celah-celah keamanan tersebut.