Especialistas da UserGate Factor alertam que habilidades de agentes de IA podem representar uma ameaça

Especialistas do centro de monitoramento e resposta a ameaças cibernéticas UserGate Factor alertam sobre o perigo potencial dos agentes de IA. O estudo destaca que mais de 26% das habilidades dos agentes de IA são potencialmente vulneráveis, sendo os riscos mais comuns o vazamento de dados e a escalada de privilégios. Quatro grupos principais de risco são identificados: distribuição de malware, transferência de dados para sistemas externos, obtenção de privilégios excessivos e manipulação do comportamento do agente de IA. Um cenário exemplo é fornecido, onde um funcionário instala uma habilidade aparentemente útil que contém instruções maliciosas, levando à coleta e exfiltração não autorizada de dados. Para mitigar os riscos, os especialistas recomendam verificar as habilidades por meio de ferramentas como Agent Threat Rule, conferir auditorias de segurança em plataformas como skills.sh e executar até mesmo habilidades confiáveis com restrições rigorosas, como contas separadas, acesso limitado ao sistema de arquivos e rede, e confirmação do usuário para operações sensíveis. Svetlana Gazizova, proprietária do produto de segurança de IA da UserGate, enfatiza a necessidade de controle de ponta a ponta de toda a cadeia do sistema agêntico, monitorando o acesso a dados, chamadas de ferramentas e autorização de ações.