Yanlış Dosyayı Yapay Zekâya Yükledi — İşten Çıkarıldı. Yapay Zekâda Veri Güvenliği Nasıl Çalışıyor

Daria Lushkina'nın RuNet Rating'deki makalesi, sinir ağlarını kullanırken veri güvenliğini inceliyor. Bir araştırmaya göre, 150 Rus şirketinin çalışanları 2025 yılında kamuya açık yapay zeka hizmetlerine bir yıl öncesine göre 30 kat daha fazla kurumsal veri yükledi ve şirketlerin %60'ının yapay zeka kullanım kuralları yok. Temmuz ayında, Moskova merkezli bir mühendislik şirketinin üst düzey yöneticisi, DeepSeek'e iş belgeleri yüklediği için kovuldu ve mahkeme işverenin lehine karar verdi. Makale, veri işleme sürecini detaylandırıyor: dosyalar ayrıştırılır, metin çıkarılır, parçalara bölünür ve gömülü vektörlere dönüştürülür; bu da günlüklerde ve depolama alanlarında izler bırakır. Veriler, depolama, günlükler, üçüncü taraf zincirler ve eğitim süreçlerinde savunmasız olabilir. Silme işlemi karmaşıktır: bir diyaloğun kaldırılması tüm kopyaları silmez ve veriler eğitim için kullanıldıysa, etkisi geri döndürülemez. Makale ayrıca bir araştırma alanı olarak makine öğrenmesini unutmayı da ele alıyor. İnsan moderatörlerin, Google'ın Gemini'sinde olduğu gibi, diyalogları inceleyebileceği ve bulut sağlayıcıları gibi altyapı ortaklarının erişime sahip olduğu belirtiliyor. 2023'te, bir milyondan fazla sohbet günlüğü ve anahtarın ifşa edildiği DeepSeek veri ihlali hatırlatılıyor. Samsung mühendisleri ChatGPT'ye kaynak kodları gönderdi ve bir ABD siber güvenlik ajansı başkanı hassas belgeler yükledi. Yazar, dikkatli olmayı ve veri politikalarını anlamayı tavsiye ediyor.