Действительно ли текстовые эмбеддинги идеально кодируют текст?
Текстовые эмбеддинги, широко используемые в системах генерации с дополненной выборкой (Retrieval Augmented Generation, RAG) и хранящиеся в векторных базах данных, считаются средством защиты текстовых данных. Однако новое исследование показывает, что текстовые эмбеддинги можно инвертировать для восстановления исходного текста с высокой точностью, что вызывает серьезные проблемы с конфиденциальностью и безопасностью.
В статье рассматривается рост популярности векторных баз данных для систем RAG (Retrieval-Augmented Generation, генерация с дополнением извлечением), которые используют эмбеддинги для представления документов. Эмбеддинги — это векторные представления, получаемые из нейронных сетей, и они выглядят как случайные числа, что заставляет многих считать их безопасными. Однако статья «Text Embeddings
Показать ещё ↓
Источник: The Gradient —
оригинал