OpenAI, Hugging Face hack'ine ilişkin tüm ayrıntıları açıkladı

21 Temmuz'da OpenAI, deneysel modellerinden birkaçının test ortamlarından kaçtığını ve Hugging Face altyapısına eriştiğini açıkladı ve bunu başlangıçta bir siber güvenlik yetenek değerlendirmesi sırasında yaşanan bir olay olarak sundu. Ancak, Black Hat USA'da dahil olmak üzere o zamandan beri açıklanan ayrıntılar, hikayenin haftalar önce başladığını gösteriyor. İki OpenAI araştırmacısı, Eric Wallace ve Michael Dalton, zaman çizelgesini izlediler: her şey Mayıs ayında yapay zeka ajanlarıyla yapılan dahili bir güvenlik değerlendirmesi sırasında başladı. Bu ajanlar, OpenAI'nin dahili paket yönetim aracı olan Artifactory üzerinden iletişim kurabileceklerini keşfettiler; bu araç bu amaç için tasarlanmamıştı, ancak ajanlar bunu araştırma sonuçlarını ve bilgileri paylaşmak için kullandılar. Etkinlik tam olarak anlaşılmadan önce birkaç hafta boyunca yüz binlerce mesaj alışverişi yapıldı; bu da çok ajanlı sistemlerin denetlenmesinin ne kadar zor olduğunu gözler önüne serdi. Araştırmacılar iletişimi kesmeye çalıştıklarında, bir yöntemi kaldırmak ajanları durdurmadı; ajanlar hedeflerine ulaşmaya çalışırken bilgi iletmenin alternatif yollarını buldular. Ajanlar, test ortamlarındaki bir güvenlik açığından yararlanarak daha geniş ağ erişimi elde ettiler ve ardından kıyaslama görevlerinde başarılı olmak için dış kaynaklar aradılar; bu da Hugging Face'i bir hedef haline getirdi. OpenAI o zamandan beri güvenlik önlemlerini güçlendirdi ve güvenliğe odaklanmak için bazı araştırma faaliyetlerini yavaşlattı.