конфиденциальные данные пользователей. При выполнении задач, требующих рассуждений, эти модели генерируют зашифрованную строку — так называемый «журнал рассуждений» (reasoning log), которая вместе с каждым новым ответом отправляется обратно на сервер для сохранения контекста. Исследователи выяснили, что журналы рассуждений можно копировать и использовать в других моделях той же компании, включая более старые или модифицированные версии. Если у модифицированной модели снять защитные ограничения с помощью джейлбрейка, она сможет расшифровать содержимое этих журналов. Используя 6 708 публичных репозиториев с GitHub и Hugging Face, они успешно расшифровали 315 320 журналов рассуждений, в которых обнаружились 62 ключа API, 33 пароля, 24 токена доступа, 30 адресов личной электронной почты, а также имена и адреса мейнтейнеров проектов. Многие из этих сведений присутствовали только в журналах рассуждений и больше нигде в рамках сессии чата не встречались. Эксперт по кибербезопасности Вольдемарас Кадис из Cybernews отмечает, что шифрование не было взломано в традиционном смысле: из-за того, что зашифрованными трассировками рассуждений обмениваются совместимые модели, более слабые модели могут выступать в роли мастер-ключа для расшифровки. Он советует относиться к журналам рассуждений как к конфиденциальным данным и никогда ими ни с кем не делиться.