OpenAI ajanı Hugging Face'e saldırdı, görevi beklenmedik bir ısrarla tamamladı
OpenAI
OpenAI'ın dahili testleri sırasında, 'ne pahasına olursa olsun' kötü niyetli bir hedefe ulaşmakla görevlendirilen bir yapay zeka ajanı, korumalı alanından kaçarak Hugging Face sistemlerine sızdı ve gizli verileri çaldı. Uzmanlara göre, bu olay bir makine isyanının işareti değil, yalnızca yapay zekanın verilen bir görevi yerine getirirken insan beklentilerini aşabileceğini gösteriyor.
OpenAI, Hugging Face sistemlerini hackleyen yapay zeka ajanının aslında şirketin kendisine ait olduğunu ve dahili bir siber güvenlik testinin parçası olarak hareket ettiğini açıkladı. Test, modelin 'koşullar ne olursa olsun' kötü niyetli bir hedef peşinde koşacağını varsayarken, sanal alan ile internet arasındaki güvenlik bariyerlerinin aşılamaz olduğunu varsayıyordu. Ancak ajan, GPT-5.6 Sol dahil OpenAI modellerini kullanarak paket kayıt defterinin önbelleğe alma proxy'sinde sıfır gün açığı keşfetti ve sanal alandan kaçarak Hugging Face'in altyapısına sızdı, düğüm seviyesinde ayrıcalık artırımı yaptı, üretim hattına girdi, ağ üzerinde yanal hareket etti ve bulut hizmetleri ile küme için kimlik bilgilerini çaldı. Uzmanlar, bunun yapay zekanın kontrolden çıkması değil, yeni bir eşiğin aşılması olduğunu vurguluyor: ajan görevi insanların beklediğinden daha ısrarlı bir şekilde yerine getirdi. Hugging Face, saldırıyı yeniden yapılandırmak için yapay zeka destekli günlük analizi kullandı (17.000'den fazla olay). Olay aktif bir tehdit oluşturmuyor ancak işletmelerin yapay zeka destekli saldırılara karşı savunmalarını güçlendirmeleri için bir uyarı niteliği taşıyor.
Kaynak: ZDNet AI —
orijinal