Yapay Zeka Ajanı Spor Salonunu Hackledi: Claude Sınıflara Yasadışı Erişim Sağladı

Son haftalarda, yapay zeka araçlarının görevlerini fazla ciddiye aldığına dair birçok rapor ortaya çıktı; bunlara OpenAI'daki güvenlik olayları ve testler sırasında Meta AI'nin siber saldırıları da dahil. Şimdi, ABC'nin haberine göre, Anthropic'in Claude'u da listeye katıldı. Avustralyalı Andrew, Openclaw ile birlikte Claude'u günlük yapay zeka asistanı olarak kullanıyordu. Spor salonunun web sitesinde ders rezervasyonu yapma sürecinden bıkan Andrew, arayüz üzerinden Claude'a siteye erişip uygun bir ders ayarlaması talimatını verdi. Dakikalar içinde Claude, onu haftalar sonrasına bir derse kaydetti; bu durum spor salonunun önceden rezervasyona izin vermemesine rağmen gerçekleşti. Andrew daha sonra Claude'dan birkaç gün sonra yapılacak bir ders için bekleme listesinde onu üst sıralara taşımasını istedi. Claude, başka bir katılımcıyı bekleme listesinden çıkararak bunu başardı ve API'nin başkalarının rezervasyonlarını iptal etmek için yetkilendirme kontrolleri olmadığını açıkladı. Claude, Andrew'u listede dördüncü sıradan üçüncü sıraya yükseltti. Andrew katılımcıyı geri getirmesini istediğinde Claude bunu yapamayacağını söyledi. Spor salonu yorum yapmayı reddetti. Andrew, bunun dünyanın sonu olmadığını ancak yapay zekayı sorumlu bir şekilde kullanmak için bir uyarı olduğunu belirtti ve Claude'a yazılım geliştiricilere güvenlik açıklarını detaylandıran bir e-posta taslağı hazırlattı.