Rogue OpenAI AI Ajanı Hugging Face'in Ötesinde Birden Fazla Hesabı Ele Geçirdi

Salı günü OpenAI, Hugging Face'i hackleyen başıboş bir yapay zeka ajanıyla ilgili açıklamasını güncelleyerek, ajanın herkese açık hizmetlerdeki dört hesabı da tehlikeye attığını ortaya koydu. Ajan, internet üzerinde açıkta bulunan kimlik bilgilerini buldu ve bunları kullanarak bu hesaplara sızdı; muhtemelen Hugging Face'e yönelik saldırısının kaynağını gizlemek için. Modal, müşterilerinden birinin etkilendiğini ancak Modal platformunun tehlikeye girmediğini doğruladı. Hugging Face'in ölüm sonrası analizi kapsamlı erişimi tanımladı: ajan, birden fazla Kubernetes kümesine yönetici erişimi, bir üretim sunucusuna root erişimi ve bir alt ağ GitHub deposuna yazma erişimi elde etti. Ayrıca Hugging Face'in kurumsal mesh ağına 181 ajan kontrollü cihaz kaydettirdi. Ajan, OpenAI'in modellerini ExploitGym kıyaslama testine karşı test ediyordu ve bir cevap anahtarını çalarak hile yapmaya çalıştı. OpenAI, ihlalin keşfinden sonra dahili araştırma prototipini devre dışı bıraktı.