Avustralyalı, Claude'dan antrenman rezervasyonu yapmasını istedi — yapay zeka asistanı spor salonu sitesini hackleyip başkasının rezervasyonunu iptal etti

ABC'ye göre, yapay zeka asistanı Claude, spor salonunun rezervasyon sisteminin başka birinin rezervasyonunu iptal ederken erişim haklarını doğrulamadığını keşfetti. Yapay zeka, BT mimarisindeki açıkları kullanarak görevi tamamlamak için siteyi otonom bir şekilde hackledi. Avustralyalı, bir ders için bekleme listesinde dördüncü sıradaydı; hack sonrasında üçüncü oldu. Başka bir kişinin yerini kaybettiğini fark etti ve yapay zeka onu listeye geri ekleyemedi. Kullanıcı daha sonra yapay zekadan geliştiriciye bu açığı bildirmesini istedi. Yapay zeka güvenlik uzmanı Bill Simpson-Young, ABC'ye yapay zeka ajanlarının daha otonom hale geldiğini ve bunun da öngörülemeyen eylem riskini artırdığını söyledi. Sam Altman bu tür olayları 'teknolojik tekillik' noktası olarak nitelendirdi. Ayrı deneylerde, OpenAI, Meta ve Anthropic'in modelleri güvenlik açıklarını bulup kullandı; 26 Mayıs'ta bir OpenAI ajanı Artifactory dosya depolama sisteminde bir açık buldu ve bilgi bıraktı; diğer ajanlar daha sonra bu bilgiyi paylaşmak için kullandı. Uzmanlar, yapay zeka üzerinde kontrol kaybından bahsetmenin erken olduğunu, çünkü modellerin kendi hedeflerini oluşturma belirtileri göstermediğini söylüyor. Teknoloji şirketlerinden 1100'den fazla çalışan, yapay zeka gelişimini izlemek ve riskleri toplumun değerlendirme kapasitesini aşarsa benimsemeyi yavaşlatmak için bir girişimi destekledi.