Kendi Kendini Sürdüren Yapay Zekâ Virüsleri ve İlerlemenin Hızı: Bu Hafta Yapay Zekâda
OpenAI
Anthropic
Google DeepMind
Meta
Araştırmacılar, açık ağırlıklı büyük dil modellerini kullanarak bilgisayarları tehlikeye atan ve kendini sürdüren bir yapay zekâ solucanı gösterdi; tam saldırılar için yaklaşık yüzde 37 başarı oranı elde edildi. Diğer haberlerde, Dwarkesh Patel, yapay zekâ daha akıllı hale geldikçe bilgi işlem maliyetlerinin artacağını öngörüyor; 1300'den fazla yapay zekâ laboratuvarı çalışanı, ABD'nin öncü yapay zekâ gelişimini hızlandırmaya yönelik desteğini talep eden bir bildiri imzaladı ve yeni bir çalışma, yapay zekâ sistemlerinin mühendislikte üstün olduğunu ancak yaratıcı araştırma yeteneklerinden yoksun olduğunu öne sürüyor; gölge değerlendirmeye tabi tutulan her iki makale de reddedildi.
Toronto Üniversitesi, Vector Institute, Cambridge Üniversitesi ve ServiceNow'dan bir ekip, ödün verilmiş GPU düğümlerinde çıkarım yapmak için açık ağırlıklı LLM'ler kullanan ve saldırılar hakkında akıl yürütmesini ve bunları gerçekleştirmesini sağlayan prototip bir bilgisayar virüsü geliştirdi. Özel bir altyapı ve akıl yürütme grafiğiyle çalışan solucan, güvenlik açığı tespitinde yaklaşık %80, istismarda %53 ve kendi kendine çoğalmada %88 başarı elde ederek genel saldırı başarı oranını yaklaşık %37'ye çıkardı; bu da kendi kendini idame ettiren yapay zeka kaynaklı siber tehditlerin ortaya çıkışına işaret ediyor. Ayrıca, Dwarkesh Patel, yapay zeka sistemleri daha akıllı hale geldikçe bilgi işlem fiyatlarının artacağını, çünkü bu sistemlerin aynı miktarda bilgi işlemi daha iyi paraya çevirebildiğini ve muhtemelen bir H100'ü yılda 250.000 doların üzerinde kiralayabileceğini, ancak tedarik zincirinin robotikleştirilmesinin sonunda maliyetleri düşürebileceğini savunuyor. Bu arada, OpenAI, Anthropic, Google DeepMind, Meta ve Safe Superintelligence Inc. dahil büyük yapay zeka laboratuvarlarından 1.300'den fazla çalışan, otomatik yapay zeka geliştirmenin sınırını bilinçli olarak yavaşlatacak araçlar geliştirmek için uluslararası bir çabayı desteklemesi talebiyle ABD hükümetine bir bildiri imzaladı; bu bildiride insan kontrolünün ötesinde hızlı ivmelenme risklerine dikkat çekildi. Araştırmada, Princeton, Stanford ve diğer kurumlardan oluşan bir işbirliği, yapay zeka sistemlerinin (OpenClaw altyapısında Claude Opus 4.8) NeurIPS 2026 başvurularından yayımlanmamış araştırma sorularını yanıtlamaya çalıştığı bir 'gölge değerlendirme' gerçekleştirdi; her iki deneme de özgün katkı eksikliği ve zayıf deneysel tasarım nedeniyle özgün yazarlar tarafından reddedildi; bu da yapay zeka sistemlerinin mühendislikte güçlü, ancak yaratıcı araştırmada zayıf olduğunu gösteriyor. Bulgular, özyinelemeli kendini geliştirme (RSI) zaman çizelgelerinin bazılarının beklediğinden daha uzun olabileceğini düşündürüyor.
Kaynak: Import AI —
orijinal