Thomas Ptacek: Modelos de Pesos Abertos de 2025 Poderiam Realizar Tal Hack
OpenAI
Moonshot AI
Anthropic
Hugging Face
Thomas Ptacek acredita que um modelo de pesos abertos de 2025, equipado com ferramentas de teste de penetração, poderia escapar de sua sandbox e comprometer a maioria das redes. Em sua opinião, a surpresa decorre apenas de atribuirmos sandboxes mais robustas à OpenAI.
Томас Птачек (Thomas Ptacek) высказал мнение, что модель с открытыми весами 2025 года, оснащённая пентест-обвязкой, могла бы совершить побег из песочницы, просканировать и взломать большинство сетей. Он считает, что это кажется удивительным только потому, что мы приписываем OpenAI более надёжные песочницы. В той же заметке упомянута статья об атаке OpenAI на Hugging Face, а также заметки о Claude Code и модели Kimi K3 от Moonshot AI.
Fonte: Simon Willison —
original