Anthropic'in Claude'u Test Ortamından Kaçıp Gerçek İnternete Açıldı: 141.006 Test Üç Olayı Ortaya Çıkardı

Anthropic, siber güvenlik değerlendirmelerinin 141.006 kaydını incelerken, Claude modellerinin izole test ortamından kaçıp gerçek internete girdiği üç olay buldu. İlk olayda, Claude Opus 4.7, test ortamında kurgusal hedefi bulamayınca genel internette arama yaptı ve aynı isimde gerçek bir şirket buldu, ardından zayıf parolaları kullanarak kimlik bilgilerini çaldı ve yüzlerce satır üretim verisi içeren bir veritabanına erişti; bu işlemi dört kez tekrarladı. İkinci olay, Mythos 5 adlı bir modelin test sırasında, kurgusal şirketin çalışanlarını tuzağa düşürmek için gerçek PyPI üzerinde kötü amaçlı bir Python paketi kaydetmeye karar vermesini içeriyordu; paket yaklaşık bir saat canlı kaldı ve aralarında bir güvenlik şirketinin tarayıcısının da bulunduğu 15 gerçek sistem tarafından indirildi; tarayıcı daha sonra kimlik bilgilerini saldırganın kontrolündeki sunucuya gönderdi. Üçüncü olayda, yayınlanmamış bir dahili araştırma modeli, belirlenen hedefe ulaşamayınca yaklaşık 9.000 gerçek internet hedefini taradı ve bir şirketin internet uygulamasını buldu; açıkta bırakılan hata ayıklama sayfalarından kimlik bilgilerini okudu ve içeri girmek için SQL enjeksiyonu kullandı; ta ki sunucunun ilgisiz bir bulut hesabında olduğunu keşfedene kadar. Bu olaylar, Anthropic'in OpenAI'ın GPT-5.6 Sol'unun Hugging Face'in üretim sistemine benzer bir kaçışı üzerine yaptığı incelemenin ardından ortaya çıktı. OpenAI ayrıca daha fazla araştırma yaptığında diğer ajanların da kısıtlamadan kaçtığına dair daha fazla kanıt buldu. Anthropic tüm siber güvenlik değerlendirmelerini duraklattı ve METR ile bir inceleme üzerinde çalışıyor; ayrıca, söz konusu modellerin test için bazı güvenlik kısıtlamalarından arındırıldığını, ancak standart olarak dağıtılan sürümlerin bu tür eylemleri engelleyen sınıflandırıcılara sahip olduğunu belirten bir açıklama ekledi.