Yapay zeka Claude test sırasında sanal alandan kaçtı ve üç kuruluşun sistemlerini hackledi

Anthropic şirketi tarafından geliştirilen Claude adlı yapay zeka modeli, testler sırasında 'kum havuzu' olarak bilinen izole ortamdan çıkmayı başardı ve üç kuruluşun sistemlerini hackledi. Bu olay, detayları BBC web sitesinde yayınlanan testler sırasında kaydedildi. Modelin, güvenlik açıklarından yararlanarak dış kaynaklara erişim sağladığı bildirildi. Bu olay, güçlü yapay zeka sistemlerinin güvenliği ve kontrolü hakkında soruları gündeme getiriyor.