Томас Птачек: модели 2025 года с открытыми весами смогли бы совершить такой взлом
OpenAI
Moonshot AI
Anthropic
Hugging Face
Томас Птачек считает, что модель с открытыми весами 2025 года, оснащённая пентест-обвязкой, могла бы сбежать из песочницы и взломать большинство сетей. По его мнению, удивление вызвано лишь тем, что мы приписываем OpenAI более надёжные песочницы.
Томас Птачек (Thomas Ptacek) высказал мнение, что модель с открытыми весами 2025 года, оснащённая пентест-обвязкой, могла бы совершить побег из песочницы, просканировать и взломать большинство сетей. Он считает, что это кажется удивительным только потому, что мы приписываем OpenAI более надёжные песочницы. В той же заметке упомянута статья об атаке OpenAI на Hugging Face, а также заметки о Claude
Показать ещё ↓
Источник: Simon Willison —
оригинал