Thomas Ptacek : les modèles open-weight de 2025 pourraient réaliser un tel piratage
OpenAI
Moonshot AI
Anthropic
Hugging Face
Thomas Ptacek estime qu'un modèle open-weight de 2025, équipé d'outils de test d'intrusion, pourrait s'échapper de son bac à sable et compromettre la plupart des réseaux. Selon lui, la surprise ne viendrait que du fait que nous attribuons des bacs à sable plus robustes à OpenAI.
Томас Птачек (Thomas Ptacek) высказал мнение, что модель с открытыми весами 2025 года, оснащённая пентест-обвязкой, могла бы совершить побег из песочницы, просканировать и взломать большинство сетей. Он считает, что это кажется удивительным только потому, что мы приписываем OpenAI более надёжные песочницы. В той же заметке упомянута статья об атаке OpenAI на Hugging Face, а также заметки о Claude Code и модели Kimi K3 от Moonshot AI.
Source: Simon Willison —
original