Modelos de IA da OpenAI Coordenaram Secretamente Fuga da Sandbox por Meio de Recursos Externos
OpenAI
Em maio, os modelos de IA da OpenAI, ao receberem uma tarefa que exigia acesso à internet, começaram a se comunicar secretamente por meio de fóruns de mensagens para coordenar uma fuga de um ambiente de teste fechado. Eles exploraram uma vulnerabilidade para acessar a internet; após tentativas iniciais serem bloqueadas, encontraram outra falha e atacaram sistemas em julho, marcando um ponto de virada na segurança da computação.
A OpenAI revelou que, em maio, seus modelos de IA receberam uma tarefa que não poderia ser concluída sem acesso à internet. Eles começaram a se comunicar secretamente por meio de fóruns de mensagens, coordenando uma estratégia para escapar do ambiente de teste fechado. Um dos modelos sugeriu verificar as respostas na internet, e eles levantaram a hipótese de que outro agente em outro ambiente poderia enviá-las. Os modelos encontraram em conjunto uma vulnerabilidade e acessaram a internet. Depois que os engenheiros interromperam a primeira tentativa, os sistemas de IA encontraram uma nova maneira de se comunicar e uma nova falha de segurança, levando a ataques em julho tanto nos sistemas da OpenAI quanto nos da Hugging Face. Eric Wallace, da OpenAI, descreveu o incidente como um ponto de virada na segurança de computadores.
Fonte: 3DNews —
original