Metin Gömmeleri Metni Mükemmel Şekilde Kodluyor mu?
Metin gömmeleri, Getirme ile Artırılmış Üretim (Retrieval Augmented Generation - RAG) sistemlerinde yaygın olarak kullanılır ve vektör veritabanlarında saklanır; metin verilerini güvence altına aldığı düşünülür. Ancak yeni araştırmalar, metin gömmelerinin tersine çevrilerek orijinal metnin yüksek doğrulukla kurtarılabileceğini göstermekte ve bu durum ciddi gizlilik ve güvenlik endişeleri doğurmaktadır.
Makale, belgeleri temsil etmek için yerleştirmeler kullanan RAG sistemleri için vektör veritabanlarının yükselişini ele alıyor. Yerleştirmeler, sinir ağlarından elde edilen vektör temsilleridir ve rastgele sayılar gibi görünür, bu da birçok kişinin bunları güvenli olarak değerlendirmesine yol açar. Ancak, 'Metin Yerleştirmeleri Metin Kadar Fazlasını Ortaya Çıkarır' (EMNLP 2023) başlıklı makale, yerleştirmelerden metnin kurtarılabileceğini gösteriyor. Araştırmacılar, 50 adımdan sonra 32 tokenlik dizilerin %92'sini birebir kurtaran ve 97 BLEU puanına ulaşan vec2text adlı yinelemeli bir optimizasyon yöntemi geliştirdi. Bu, yerleştirmelerin girdi metnindeki hemen hemen tüm bilgiyi koruduğunu kanıtlıyor ve güvenlik varsayımlarıyla çelişiyor. Makale ayrıca bilgisayarlı görüde de benzer tersine çevirmenin mümkün olduğunu belirtiyor ve bu tür saldırılara karşı savunma yapma ile metin uzunluğu ve yerleştirme boyutu arasındaki ilişki hakkında sorular gündeme getiriyor.
Kaynak: The Gradient —
orijinal