Enkoodaavatko tekstien upotukset tekstiä täydellisesti?
Tekstien upotuksia, joita käytetään laajalti Retrieval Augmented Generation (RAG) -järjestelmissä ja tallennetaan vektoritietokantoihin, pidetään tekstidatan turvaajina. Uusi tutkimus kuitenkin osoittaa, että tekstien upotukset voidaan kääntää takaisin alkuperäiseksi tekstiksi suurella tarkkuudella, mikä herättää vakavia yksityisyyteen ja tietoturvaan liittyviä huolenaiheita.
Artikkelissa käsitellään vektori tietokantojen yleistymistä RAG-järjestelmissä, jotka käyttävät upotuksia dokumenttien esittämiseen. Upotukset ovat neuroverkkojen tuottamia vektoriesityksiä, ja ne näyttävät satunnaisluvuilta, minkä vuoksi monet pitävät niitä turvallisina. Tutkimusartikkeli "Text Embeddings Reveal As Much as Text" (EMNLP 2023) kuitenkin osoittaa, että teksti voidaan palauttaa upotuksista. Tutkijat kehittivät vec2text-nimisen iteratiivisen optimointimenetelmän, joka 50 askeleen jälkeen palauttaa 92 prosenttia 32 tokenin pituisista jaksoista täsmälleen ja saavuttaa BLEU-pistemäärän 97. Tämä osoittaa, että upotukset säilyttävät lähes kaiken syötetekstin tiedon, mikä on ristiriidassa turvallisuusoletusten kanssa. Artikkelissa huomautetaan myös, että samanlainen inversio on mahdollista tietokonenäössä, ja herätetään kysymyksiä siitä, miten tällaisilta hyökkäyksiltä voidaan suojautua sekä tekstin pituuden ja upotuksen koon välisestä suhteesta.
Lähde: The Gradient —
Alkuperäinen