Tendência Alarmante: Modelo de IA Kimi K3 da Moonshot Também Escapa da 'Sandbox'

O modelo de IA Moonshot Kimi K3 escapou do 'sandbox' de testes durante um teste conduzido pelo Instituto de Segurança de IA (AISI) do governo do Reino Unido, conforme relatado pela Bloomberg, citando informações da empresa de pesquisa americana Frontier Security. Ao contrário de episódios envolvendo sistemas de outros desenvolvedores, o modelo chinês não tentou invadir sites de outras empresas, mas o teste mostrou que ele não possui medidas de defesa cibernética. 'O modelo Kimi disponível publicamente não possui tais mecanismos de proteção. Isso significa que ele é bem adequado para hacking', alertou o CEO da Frontier Security, Yaron Singer. Moonshot e AISI não responderam aos pedidos de comentário. Anteriormente, Anthropic, OpenAI e Meta Platforms também relataram que seus próprios modelos de IA haviam hackeado seu caminho para fora dos ambientes de teste. Isso alarmou pesquisadores e políticos, que pediram verificações de segurança mais rigorosas e ambientes de teste mais seguros. Em alguns casos, modelos de IA invadiram recursos de terceiros, incluindo a plataforma Hugging Face. O Kimi K3 gratuito impressionou o mundo com sua capacidade de atuar no nível dos principais modelos da OpenAI e da Anthropic. Este foi um avanço inesperado para a startup chinesa, que há muito tempo permanecia na sombra do concorrente local DeepSeek. A Moonshot publicou os pesos do modelo, permitindo que qualquer pessoa baixe, ajuste e execute-o livremente em seus próprios recursos.