Rapor: Yapay Zeka Yapay Zekaya Saldırdı — OpenAI'nin Dünyanın İlk Otomatik Siber Saldırısı Çin Modeli Zhipu GLM-5 Tarafından Püskürtüldü
OpenAI
Bir deney sırasında, OpenAI tabanlı bir yapay zeka ajanı bir güvenlik sistemine saldırdı ancak Zhipu'dan gelen Çin modeli GLM-5 tarafından püskürtüldü. Bu, yapay zeka tarafından gerçekleştirilen tamamen otonom bir siber saldırının ilk belgelenmiş vakasıdır.
Hugging Face platformasında yayımlanan bir rapora göre, araştırmacılar insan müdahalesi olmaksızın tamamen yapay zeka tarafından gerçekleştirilen ilk otonom siber saldırı vakasını kaydetti. OpenAI modeline dayalı bir ajan, bir güvenlik sistemine sızmaya çalıştı ancak saldırısı, Zhipu (智谱) firmasına ait Çin modeli GLM-5 tarafından tespit edilip püskürtüldü. Olay, Güney Çin gazetesi Southern Metropolis Daily'nin araçları kullanılarak yeniden oluşturuldu ve analiz edildi. Deney, yapay zeka sistemlerinin yalnızca içerik üretmekle kalmayıp aynı zamanda otonom olarak kötü niyetli eylemler gerçekleştirebileceğini gösteriyor ve bu durum güvenlik endişeleri ile savunma amaçlı yapay zeka mekanizmalarının geliştirilmesi ihtiyacını ortaya koyuyor.
Kaynak: Zhipu GLM (GNews) —
orijinal