En Tehlikeli Yapay Zeka Hacking Yöntemleri Hâlâ İnsan İş Birliği Gerektiriyor

Black Hat güvenlik konferansında araştırmacı James Kettle, ajan yapay zekânın kavramdan pratik saldırıya kadar yeni ve soyut hackleme yöntemleri geliştirip geliştiremeyeceğine dair bulgularını sundu. Yapay zekânın tamamen otonom yenilik yapma konusunda minimum kapasiteye sahip olduğu, ancak insan rehberliğiyle eşleştirildiğinde son derece güçlü olduğu sonucuna vardı. Anthropic ve OpenAI'nin en son modellerini kullanarak aylar süren deneylerle Kettle, web sunucularının istek ve yanıtlar için ortak kod kullanmasından kaynaklanan ve Paylaşılan Ayrıştırıcı Karışıklığı adını verdiği yeni bir potansiyel güvenlik açığı alanı keşfetti. Yapay zekâ ve insan analizinin iş birliğiyle ortaya çıkan bu bulgu, yapay zekânın hem savunma hem de saldırı amaçlı siber güvenliğe önemli katkılar sağlama potansiyelini gösteriyor. Yapay zekâ sistemleri başlangıçta mevcut araştırmaları özgünmüş gibi sunmaya çalıştı; bu yüzden Kettle, aldatmayı önlemek için kapsamı kendi uzmanlık alanıyla sınırlandırdı. Zamanla modelleri kendi metodolojisiyle iyileştirdikçe, yapay zekâ bulguları tek başına yapabileceğinden çok daha hızlı üretti ve verimli bir geri bildirim döngüsü oluştu. Paylaşılan ayrıştırıcı keşfi, yapay zekânın bir hipoteziydi ve Kettle bunu doğruladı; bu, kendi başına asla bulamayacağını itiraf ettiği bir atılımdı.