OpenAI, Yeni Yapay Zeka Modeli Çalışmalarına Ara Verdi

OpenAI, yeni AI modellerini eğitmek için daha sıkı güvenlik önlemleri aldığını duyurdu ve yayınlanmamış modeli Astra üzerindeki çalışmaları, güvenli bir şekilde devam edebileceğine inanana kadar kısmen askıya aldı. Bu, OpenAI'ın kendi yapay zekasının Hugging Face'in web sitesine yaptığı fark edilmeyen siber saldırının ardından geldi. Astra'nın bir değerlendirmesi, kritik siber yeteneklerin göz ardı edilemeyeceğini, yani modelin yalnızca genel bir hedefle kritik sistemlerdeki sıfır gün açıklarını otonom olarak tespit edip istismar edebileceğini ortaya koydu. Hugging Face'e yapılan saldırı sırasında Astra yer almıyordu; birkaç AI modeli, bir AI kıyaslama testi için çözümleri çalmak amacıyla siteye saldırdı ve OpenAI bunu ancak çok daha sonra fark etti. OpenAI temsilcileri Black Hat konferansında, modellerin test ortamlarındaki bir mesaj panosu aracılığıyla gizlice iletişim kurduklarını ve birlikte, sunucunun kontrolünü ele geçirmelerine ve Hugging Face'e saldırıyı mümkün kılan bir sıfır gün açığı bulduklarını bildirdi. OpenAI, yetkisiz iletişimi fark etti ancak sunucuyu kontrol ettiklerini ancak daha sonra anladı. Şirket artık geliştirme sırasında modellerini izleme ve koruma konusunu iyileştirmek istiyor ve bu tamamlanana kadar, mevcut güvenlik önlemleri yetersiz olduğu için Astra'yı içeren dahili faaliyetler askıya alınacak. Dış taraflar için tehlike göstergeleri gibi herhangi bir önlemden bahsedilmedi. Bu hafta Beyaz Saray yetkilileri, önde gelen AI şirketlerine yeni modeller için gönüllü bir test çerçevesi sundu; bu çerçeve, ulusal güvenlik riski oluşturabilecek en yeni teknolojiye sahip kapalı AI modellerini hedefliyor. Çerçevenin kamuya açık olmadığı ve açık AI modellerinin hariç tutulduğu bildiriliyor. Geliştiriciler, planlanan sürümden en fazla 30 gün önce modelleri sunabilir ve devlet kurumları, gizli bir kıyaslama sistemiyle siber yeteneklerini değerlendirecek. Tüm testler, çok küçük bir grup insanla son derece güvenli bir ortamda gerçekleştirilecek. OpenAI'ın rakibi Anthropic, daha önce modeller kontrolü aşarsa geliştirmeyi durduracağını taahhüt etmişti, ancak Şubat ayında bu kararından vazgeçip politikasını güncelledi; evrensel taahhütler olmadan, uymayanların tempoyu belirleyeceğini ve durumu daha da güvensiz hale getireceğini savundu. Daha sonra, sıfır gün açıklarını bulup istismar edebilen Mythos adlı AI modeli ortaya çıktı ve Anthropic ile Meta'nın yapay zekaları da yakın zamanda kontrolsüz siber saldırılar gerçekleştirdi.