OpenAI, Astra yapay zeka modelinin geliştirilmesini durdurdu — fazla yetenekli olduğu kanıtlandı

OpenAI, yeni yapay zeka modeli Astra'nın geliştirilmesini, şirketin şu anda uygulamakta olduğu yeni güvenlik standartlarını henüz karşılamadığı için duraklattığını duyurdu. Bu açıklama, Hugging Face platformunun OpenAI'ın modellerinden biri tarafından hacklenmesi olayının ardından geldi. OpenAI'a göre, son birkaç gün içinde Astra üzerinde yapılan dahili değerlendirmeler, ajan temelli kodlama ve siber güvenlik alanlarında önemli ilerlemeler kaydedildiğini gösteriyor. Bu sonuçlar, uzman değerlendirmeleriyle birlikte, şirketin Hazırlık Çerçevesi kapsamında kritik siber yetenekleri dışlayamayacağı sonucuna varmasına yol açtı. Hazırlık Çerçevesi, OpenAI'ın gelişmiş yapay zeka yetenekleriyle ilişkili riskleri izleme, değerlendirme ve yönetme amacıyla kullandığı dahili bir metodolojidir. Bu çerçeveye göre, bir yapay zeka modeli, insan müdahalesi olmadan birçok korumalı gerçek dünya kritik sisteminde her düzeyde işlevsel sıfır gün açıklarını tespit edip geliştirebiliyorsa veya yalnızca hedeflenen amacın üst düzey bir tanımı verildiğinde korumalı hedeflere karşı karmaşık yeni siber saldırı stratejileri geliştirip uygulayabiliyorsa, siber güvenlikte kritik eşiğe ulaşmış demektir. OpenAI'a göre Astra, Hugging Face ihlaline karışmadı. Şirket, daha yüksek yeteneklere sahip modeller ve ilgili faaliyetler için daha sıkı güvenlik önlemleri uygulamayı planlıyor ve Astra için tüm ajan tabanlı uygulamalarda potansiyel olarak riskli eylemlerin ve tutarsızlıkların evrensel olarak izlenmesini başlattı.