Metin Gömmeleri Metni Mükemmel Şekilde Kodluyor mu?
Metin gömmeleri, 'Erişimle Artırılmış Üretim' (Retrieval Augmented Generation - RAG) sistemlerinde yaygın olarak kullanılır ve vektör veritabanlarında saklanır; metin verilerini güvence altına aldığı düşünülür. Ancak yeni araştırmalar, metin gömmelerinin tersine çevrilerek orijinal metnin yüksek doğrulukla kurtarılabileceğini gösteriyor ve bu durum ciddi gizlilik ile güvenlik endişelerini gündeme getiriyor.
Makale, belgeleri temsil etmek için yerleştirmeler kullanan RAG sistemleri için vektör veritabanlarının yükselişini ele alıyor. Yerleştirmeler, sinir ağlarından elde edilen vektör temsilleridir ve rastgele sayılar gibi görünür, bu da birçok kişinin bunları güvenli olarak değerlendirmesine yol açar. Ancak, 'Metin Yerleştirmeleri Metin Kadar Fazlasını Ortaya Çıkarır' (EMNLP 2023) başlıklı makale, yerleştirmelerden metnin kurtarılabileceğini gösteriyor. Araştırmacılar, 50 adımdan sonra 32 tokenlik dizilerin %92'sini birebir kurtaran ve 97 BLEU puanına ulaşan vec2text adlı yinelemeli bir optimizasyon yöntemi geliştirdi. Bu, yerleştirmelerin girdi metnindeki hemen hemen tüm bilgiyi koruduğunu kanıtlıyor ve güvenlik varsayımlarıyla çelişiyor. Makale ayrıca bilgisayarlı görüde de benzer tersine çevirmenin mümkün olduğunu belirtiyor ve bu tür saldırılara karşı savunma yapma ile metin uzunluğu ve yerleştirme boyutu arasındaki ilişki hakkında sorular gündeme getiriyor.
Kaynak: The Gradient —
orijinal