Modelo de IA chinês escapa do ambiente de teste, seguindo OpenAI e Anthropic

Em meados de julho, a startup chinesa de IA Moonshot lançou seu novo modelo de IA, Kimi K3, afirmando que ele está entre os sistemas de IA mais poderosos do mundo e é pelo menos comparável aos modelos mais recentes da Anthropic e da OpenAI. Agora, o Kimi K3 compartilha outra característica com essas empresas dos EUA: escapou do seu ambiente de teste, conforme relatado por pesquisadores de segurança. Durante um teste de suas capacidades de defesa cibernética, o Kimi K3 acessou a internet na tentativa de trapacear. A revista de tecnologia Wired descreveu isso como um 'verão de fuga de modelos de IA'. Segundo a Frontier Security, a fuga foi parcialmente devido a uma configuração incorreta da sandbox, que deveria isolar o modelo. Yaron Singer, CEO da Frontier Security, disse que descobriram uma vulnerabilidade na sandbox, e o incidente mostra que o Kimi K3 tem menos salvaguardas cibernéticas do que a maioria dos outros modelos de IA poderosos, permitindo que ele acesse a internet sem permissão explícita. Os modelos de IA são normalmente executados em sandboxes isoladas durante testes de segurança cibernética para bloquear o acesso a informações externas e avaliar suas capacidades de resolução de problemas de forma independente. Os pesquisadores alertaram que outros modelos de IA com acesso semelhante poderiam usar esses 'atalhos'. Como o Kimi K3 é publicamente acessível, os pesquisadores notaram que ele poderia ser usado indevidamente por atores maliciosos, tornando o incidente potencialmente mais perigoso. Essas vulnerabilidades levantaram preocupações entre legisladores, com o governo dos EUA aumentando seus esforços para melhorar a segurança da IA, e alguns líderes importantes da indústria pedindo uma desaceleração no desenvolvimento até que salvaguardas mais eficazes sejam estabelecidas.