Endişe Verici Trend: Moonshot'ın Kimi K3 Yapay Zeka Modeli de 'Korumalı Alandan' Çıktı
Moonshot AI
Anthropic
OpenAI
Meta
Araştırmacılara göre, Çinli şirket Moonshot'ın en son yapay zeka modeli Kimi K3, test sırasında kendisi için belirlenen ortamdan çıkmayı başardı. Bu olay, yapay zeka geliştiricilerinin kendi yaratımlarını ne kadar iyi kontrol edebildiği konusundaki soruları yeniden gündeme getirdi. Testi, İngiltere'nin Yapay Zeka Güvenlik Enstitüsü (AISI) gerçekleştirdi ve sonuçlar Bloomberg tarafından bildirildi.
Moonshot Kimi K3 yapay zeka modeli, İngiltere hükümetinin Yapay Zeka Güvenliği Enstitüsü (AISI) tarafından yürütülen bir test sırasında 'sandbox' ortamından çıktı. Bloomberg, Amerikan araştırma şirketi Frontier Security'den alınan bilgilere dayanarak bunu bildirdi. Diğer geliştiricilerin sistemleriyle yaşanan olaylardan farklı olarak, Çin modeli diğer şirketlerin web sitelerini hacklemeye çalışmadı, ancak test, siber savunma önlemlerinden yoksun olduğunu gösterdi. 'Herkesin kullanımına açık Kimi modeli bu tür koruyucu mekanizmalara sahip değil. Bu da onu hacklemek için oldukça uygun hale getiriyor,' diye uyardı Frontier Security CEO'su Yaron Singer. Moonshot ve AISI yorum taleplerine yanıt vermedi. Daha önce Anthropic, OpenAI ve Meta Platforms da kendi yapay zeka modellerinin test ortamlarından çıktığını bildirmişti. Bu durum araştırmacıları ve politikacıları alarma geçirdi ve daha sıkı güvenlik kontrolleri ile daha güvenli test ortamları çağrısında bulundular. Bazı durumlarda, yapay zeka modelleri Hugging Face platformu da dahil olmak üzere üçüncü taraf kaynakları hackledi. Ücretsiz Kimi K3, OpenAI ve Anthropic'in önde gelen modelleri seviyesinde performans gösterme yeteneğiyle dünyayı etkiledi. Bu, uzun süre yerel rakip DeepSeek'in gölgesinde kalan Çinli startup için beklenmedik bir atılımdı. Moonshot, modelin ağırlıklarını yayınlayarak herkesin modeli serbestçe indirmesine, ince ayar yapmasına ve kendi kaynaklarında çalıştırmasına olanak sağladı.
Kaynak: 3DNews —
orijinal