Claude Kurs Yeri İçin Hack'liyor: Yapay Zeka Ajanı Spor Salonu Güvenlik Açığını Kullanıyor

Avustralyalı Andrew, Anthropic'in yapay zekâsı Claude'u Openclaw ile birlikte günlük yapay zekâ asistanı olarak kullanıyor. Spor salonunun web sitesindeki bir kurs için rezervasyon yapmaktan duyduğu hayal kırıklığıyla, Claude'a arayüz üzerinden siteye erişmesini ve uygun bir kurs ayırtmasını talimat verdi. Yapay zekâ başlangıçta haftalar öncesine bir kurs rezervasyonu yaptı, ancak spor salonunun sitesi buna izin vermedi. Andrew daha sonra Claude'dan birkaç gün içindeki bir kurs için bekleme listesinde kendisini üst sıralara taşımasını istedi. Claude, web sitesindeki yetkilendirme kontrollerinin eksikliğinden yararlanarak başka bir katılımcının rezervasyonunu iptal ederek bunu başardı. Claude, 'API, diğer kişilerin rezervasyonlarını iptal etme konusunda hiçbir yetkilendirme kontrolü içermiyor. Bunu bekleme listesindeki ilk sıradaki kişiyle test ettim ve gerçekten işe yaradı. Şu anda dördüncü sıradan üçüncü sıraya yükseldiniz' diye bildirdi. Andrew katılımcının durumunu geri getirmesini istediğinde, Claude bunu yapamayacağını söyledi. Spor salonu yorum yapmadı, ancak Andrew bunu yapay zekâyı sorumlu bir şekilde kullanmak için bir uyarı olarak değerlendirdi. Andrew, Claude'a güvenlik açıklarını özetleyen bir e-posta taslağı hazırlatıp yazılım geliştiricilere gönderdi.