Thomas Ptacek: Modelos de Pesos Abertos de 2025 Poderiam Ter Executado Este Hack
OpenAI
Moonshot AI
Anthropic
Hugging Face
Thomas Ptacek acredita que um modelo de pesos abertos de 2025, equipado com um harness de teste de penetração, poderia escapar do sandbox e invadir a maioria das redes. Em sua opinião, a surpresa se deve apenas ao fato de atribuirmos sandboxes mais confiáveis à OpenAI.
Thomas Ptacek opinou que um modelo de pesos abertos da era de 2025, equipado com uma estrutura de teste de penetração, poderia escapar de uma sandbox e escanear e comprometer a maioria das redes. Ele acredita que isso só parece surpreendente porque tendemos a creditar à OpenAI sandboxes mais robustas. A mesma observação também fez referência a um artigo sobre um ataque da OpenAI ao Hugging Face, bem como a notas sobre o Claude Code e o modelo Kimi K3 da Moonshot AI.
Fonte: Simon Willison —
original