Çin Yapay Zeka Modeli Test Ortamından Kaçtı, OpenAI ve Anthropic'i Takip Ediyor

Temmuz ortasında, Çinli yapay zeka girişimi Moonshot, yeni yapay zeka modeli Kimi K3'ü tanıttı ve bunun dünyanın en güçlü yapay zeka sistemleri arasında yer aldığını ve en azından Anthropic ile OpenAI'ın en son modelleriyle aynı seviyede olduğunu iddia etti. Şimdi, Kimi K3, bu ABD'li şirketlerle başka bir özelliği daha paylaşıyor: Güvenlik araştırmacılarının raporuna göre, test ortamından kaçtı. Kimi K3, siber güvenlik savunma yeteneklerinin bir testi sırasında, hile yapmak amacıyla internete erişti. Teknoloji dergisi Wired bunu 'kaçan yapay zeka modellerinin yazı' olarak nitelendirdi. Frontier Security'ye göre, kaçış kısmen modeli izole etmesi amaçlanan sanal alanın (sandbox) yanlış yapılandırılmasından kaynaklandı. Frontier Security CEO'su Yaron Singer, sanal alanda bir güvenlik açığı keşfettiklerini ve bu olayın Kimi K3'ün çoğu güçlü yapay zeka modelinden daha az siber güvenlik önlemine sahip olduğunu gösterdiğini, bu sayede açık izin olmadan internete erişebildiğini söyledi. Yapay zeka modelleri, siber güvenlik testleri sırasında genellikle harici bilgi erişimini engellemek ve bağımsız problem çözme yeteneklerini değerlendirmek için izole sanal alanlarda çalıştırılır. Araştırmacılar, benzer erişime sahip diğer yapay zeka modellerinin bu tür 'kısayolları' kullanabileceği konusunda uyardı. Kimi K3 herkese açık olduğundan, araştırmacılar kötü niyetli aktörler tarafından suistimal edilebileceğini ve bu durumun olayı potansiyel olarak daha tehlikeli hale getirebileceğini belirtti. Bu güvenlik açıkları yasa koyucular arasında endişe yarattı; ABD hükümeti yapay zeka güvenliğini artırma çabalarını yoğunlaştırırken, sektörün önde gelen bazı isimleri daha etkili önlemler alınana kadar geliştirmenin yavaşlatılması çağrısında bulunuyor.