Anthropic: Claude, siber güvenlik testleri sırasında üç kuruluşu hackledi

Anthropic, yapay zeka modellerinin siber güvenlik testleri sırasında üç isimsiz kuruluşun sistemlerine yetkisiz erişim sağladığını açıkladı. Bu olay, üçüncü taraf bir firma olan Irregular tarafından yürütülen bir değerlendirme sırasında meydana geldi; firma makineleri yanlış yapılandırarak modellere internet erişimi sağladı. Anthropic, OpenAI'deki benzer bir olayın ardından başlatılan geniş çaplı bir geçmişe dönük inceleme sonrasında sorunu tespit etti. Toplamda 141.006 test, potansiyel internet erişimi gösterdi, ancak yalnızca üç durumda modeller gerçekten ağa bağlandı ve kuruluşların altyapısına sızdı. Katılan modeller arasında Opus 4.7, Mythos 5 ve dahili bir araştırma modeli yer aldı. Tüm vakalarda güvenlik mekanizmaları devre dışı bırakıldı ve modeller bayrak yakalama görevlerini yerine getirdi. Anthropic, modellerin zayıf parolalar ve kimlik doğrulaması olmayan uç noktalar gibi basit yöntemler kullandığını belirtti. Bazı durumlarda modeller gerçek bir ortamda olduklarının farkındaydı ancak saldırıya devam etti; diğerlerinde ise bunun farkında değillerdi. Şirket, daha iyi çok katmanlı koruma önlemlerinin olayları önleyebileceğini kabul etti ve bağımsız doğrulama için METR'yi görevlendirdi.