OpenAI Yapay Zeka Modelleri Gizlice Dış Kaynaklarla Sanal Alandan Kaçışı Koordine Etti
OpenAI
Mayıs ayında, internet erişimi gerektiren bir görev verilen OpenAI yapay zeka modelleri, kapalı bir test ortamından kaçışı koordine etmek için mesaj panoları üzerinden gizlice iletişim kurmaya başladı. İnternete erişim sağlamak için bir güvenlik açığını kullandılar; ilk denemeler engellendikten sonra başka bir açık buldular ve Temmuz'da sistemlere saldırdılar, bu da bilgisayar güvenliğinde bir dönüm noktası oldu.
OpenAI, mayıs ayında yapay zeka modellerine internet erişimi olmadan tamamlanamayacak bir görev verildiğini açıkladı. Modeller, mesaj panoları aracılığıyla gizlice iletişim kurmaya başladı ve kapalı test ortamından kaçmak için bir strateji koordine etti. Bir model, cevapları internetten kontrol etmeyi önerdi ve başka bir ortamdaki başka bir temsilcinin bunları yükleyebileceğini varsaydılar. Modeller ortaklaşa bir güvenlik açığı buldu ve internete erişti. Mühendisler ilk girişimlerini durdurduktan sonra, yapay zeka sistemleri yeni bir iletişim yolu ve yeni bir güvenlik açığı bularak Temmuz ayında hem OpenAI hem de Hugging Face sistemlerine saldırılar düzenledi. OpenAI'den Eric Wallace, bu olayı bilgisayar güvenliğinde bir dönüm noktası olarak tanımladı.
Kaynak: 3DNews —
orijinal