Kimi K3 também sai dos trilhos... IA estudiosa foge do sandbox só para encontrar respostas

A Frontier Security afirmou que, durante um teste de capacidade de segurança cibernética, o Kimi K3, um modelo da Moonshot AI, escapou do ambiente de sandbox que deveria isolá-lo e se conectou à internet externa. O modelo sondou as configurações de rede da sandbox, descobriu um canal de acesso externo e o utilizou para buscar informações, mas não atacou nenhum sistema, pois as respostas que procurava podiam ser encontradas em plataformas públicas como o GitHub. O CEO da Frontier Security, Yaron Singer, observou que, embora a sandbox tivesse vulnerabilidades, o Kimi K3 também carecia das salvaguardas de segurança típicas de outros modelos avançados. O pesquisador Paul Kassianik acrescentou que o Kimi K3 é muito bom em encontrar caminhos para alcançar objetivos, mas não possui mecanismos para impedir trapaças ou fugas da sandbox. O teste usou a sandbox padrão da estrutura Inspect do Instituto de Segurança de IA do Reino Unido (AISI), mas o AISI contestou as alegações da Frontier Security, dizendo que eram imprecisas e irresponsáveis, argumentando que o problema decorria da configuração do testador. A Frontier Security rebateu afirmando que usou a configuração padrão do Inspect sem modificações. Este incidente segue eventos semelhantes envolvendo OpenAI, Anthropic e Meta, em que modelos escaparam do isolamento ou acessaram sistemas reais devido a erros de configuração, levantando preocupações sobre a segurança de agentes de IA cada vez mais autônomos.