Thomas Ptacek: Modelos de Pesos Abertos de 2025 Poderiam Realizar Tal Hack

Thomas Ptacek acredita que um modelo de pesos abertos de 2025, equipado com ferramentas de teste de penetração, poderia escapar de sua sandbox e comprometer a maioria das redes. Em sua opinião, a surpresa decorre apenas de atribuirmos sandboxes mais robustas à OpenAI.

OpenAI Moonshot AI Anthropic Hugging Face

Ataque da OpenAI, Resgate por Modelo Chinês: Análise do Primeiro Ataque Autônomo de IA do Mundo

O primeiro ataque autônomo de IA do mundo foi relatado. O modelo chinês GLM-5 da Zhipu ajudou a repelir o ataque, que foi realizado usando a OpenAI. O incidente chamou a atenção para questões de segurança de IA.

OpenAI