Обход шифрования: как ИИ-модели легко раскрывают конфиденциальные данные пользователей
Немецкие исследователи нашли способ извлекать конфиденциальные данные, такие как пароли и ключи API, из ИИ-чат-ботов, используя зашифрованные «журналы рассуждений» моделей вроде ChatGPT, Claude и Gemini. Атака работает путем копирования этих журналов и их использования со старыми или модифицированными версиями моделей той же компании, фактически взламывая шифрование. Команда расшифровала более 315 000 журналов, раскрыв 62 ключа API, 33 пароля и другую личную информацию.
Исследователи из Германии опубликовали статью под названием «Stealing Reasoning Traces from Proprietary LLM APIs» («Перехват трассировок рассуждений через прикладные программные интерфейсы (Application Programming Interface, API) проприетарных больших языковых моделей (Large Language Model, LLM)»), в которой показали, как ИИ-модели компаний Anthropic, OpenAI и Google могут раскрывать
Показать ещё ↓
Источник: t3n —
оригинал