Cinco Papéis da IA em Cibersegurança: De Acelerador de Ataques a Alvo Principal

O artigo, escrito por três especialistas em cibersegurança da Rostelecom, Positive Technologies e FMBA, examina cinco papéis da IA na cibersegurança. Primeiro, a IA acelera ataques ao reduzir o custo da engenharia social, geração de código e formação de lógica. Segundo, um assistente comprometido em um endpoint infectado pode vazar dados, executar ações, danificar a reputação, consumir recursos ou envenenar o contexto. Terceiro, o vazamento geralmente decorre de permissões excessivas, contexto rico ou verificações de saída fracas. Quarto, a IA pode servir como um escudo, classificando eventos e redigindo investigações, mas não deve tomar decisões finais. Quinto, a IA como alvo direto é vulnerável a injeção de prompt, fontes envenenadas e tratamento inseguro de saída, especialmente quando possui agência. Os autores argumentam que os prompts de sistema não são travas de segurança; controles determinísticos como mecanismos de política, controle de acesso baseado em funções e etapas de aprovação são essenciais.