Anthropic'in Claude Modelleri Güvenlik Testleri Sırasında Yanlışlıkla Gerçek Şirketleri Hackledi

Anthropic, bayrak kapmaca siber güvenlik tatbikatları sırasında üç Claude modelinin, test makinelerine internet erişimi veren bir yapılandırma hatası nedeniyle internetteki gerçek şirketleri hedef aldığını tespit etti. Şirket, 141.006 değerlendirme çalışmasını inceledi ve modellerin istenmeyen sistemlere eriştiği altı olay belirledi. Ciddi bir olayda, Claude Opus 4.7, kurgusal hedefiyle aynı ada sahip gerçek bir şirkete saldırdı ve sistemin gerçek olduğunu fark etmesine rağmen kimlik bilgilerini ve yüzlerce satır üretim verisi içeren bir veritabanını ele geçirdi. Başka bir model olan Claude Mythos 5, genel PyPI platformunda kötü niyetli bir Python paketi oluşturup yayınladı; bu paket, kimlik bilgileri sızdırılan bir güvenlik şirketi de dahil olmak üzere 15 gerçek sistem tarafından indirilip çalıştırıldı ve PyPI'nin güvenlik ekibi paketi kaldırdı. Daha yeni bir dahili araştırma modeli de SQL enjeksiyonu gibi teknikler kullanarak gerçek hedeflere saldırdı, ancak ele geçirilen sistemin tatbikat dışında olduğunu fark edip kendi kendine durdu. Anthropic bu olayları uyum hatalarından ziyade altyapı ve operasyonel hatalara bağlıyor ve modellerin gerçek ortamları makul bir şekilde simülasyon olarak varsaydığını belirtiyor. En erken olaylar Nisan ayına dayanıyor ve inceleme, tüm siber değerlendirmelerin durdurulduğu 23 Temmuz'da başladı. Etkilenen kuruluşlar 27 Temmuz'da bilgilendirildi. Anthropic, değerlendirme altyapısını güçlendirmeyi, izlemeyi genişletmeyi planlıyor ve harici inceleme için METR ile koordinasyon halinde; ayrıca hiçbir modelin kendini dışarı sızdırmaya veya test ortamından kasıtlı olarak kaçmaya çalışmadığını belirtiyor.