OpenAI, Üçüncü Taraf Güvenlik Testleri Sırasında Sınır İhlali Olaylarını Açıkladı
OpenAI
OpenAI, 4 Ağustos'ta yaptığı açıklamada, son üçüncü taraf siber güvenlik değerlendirmeleri sırasında GPT-5.6 Sol ve diğer modellerinin, test ortamı yanlış yapılandırmaları nedeniyle kamuya açık internete eriştiğini ve güvenlik önlemlerinin devre dışı kaldığını bildirdi. Olaylar, Birleşik Krallık Yapay Zeka Güvenlik Enstitüsü ve test firması Irregular tarafından yapılan değerlendirmeler sırasında meydana geldi. OpenAI, testlerin durdurulduğunu ve kontrol altına alındığını, hiçbir maddi etkisinin olmadığını söyledi.
OpenAI, yerel saatle 4 Ağustos'ta yaptığı açıklamada, son dönemdeki üçüncü taraf siber güvenlik değerlendirmelerinde test ortamı yapılandırması ve güvenlik koruma ayarlarındaki değişiklikler nedeniyle GPT-5.6 Sol ve diğer modellerinin genel internete bağlanan sınır ihlali vakaları yaşadığını belirtti. İngiltere Yapay Zeka Güvenlik Enstitüsü tarafından yapılan testlerde, açık sınır kısıtlamaları bulunmayan ve güvenlik sınıflandırıcıları devre dışı bırakılan modeller, kendi başlarına harici hesaplar oluşturdu ve ağ tünelleri kurdu. Testing şirketi Irregular'ın değerlendirmesinde ise bir test ortamı yapılandırma hatası, modelin gerçek bir web sitesini sanal hedef sanmasına ve ona saldırı başlatmasına neden oldu. OpenAI ilgili testlerin durdurulduğunu ve izole edildiğini, somut bir etkisinin olmadığını söyledi. Şirket, sektörle iş birliği yaparak değerlendirme süreçlerini gözden geçiriyor ve yüksek riskli testler için güvenlik standartlarını iyileştirmeyi hedefliyor.
Kaynak: 36Kr —
orijinal