IA em Ambos os Lados: Entrevista com o Chefe de Segurança do Svoy Bank
Alexey Akhmedev, chefe de segurança da informação do Svoy Bank, discute como a IA remodela as ameaças cibernéticas e a defesa. Ele observa que ataques com IA, incluindo deepfakes e exploração de vulnerabilidades, estão surgindo, enquanto as equipes internas usam IA para testes de penetração. O banco se prepara para modelos de IA estrangeiros restritos e enfatiza o treinamento de funcionários para combater deepfakes.
Em uma entrevista ao Habr, Alexey Akhmedev, chefe de segurança da informação do Svoy Bank (parte do grupo fintech SVOY), discutiu o papel duplo da IA na segurança cibernética. Ele explicou que os riscos associados à IA devem ser avaliados por caso de uso, não globalmente. Ataques recentes ao perímetro externo do banco foram impossíveis sem IA, envolvendo deepfakes e exploração de vulnerabilidades de código. Por outro lado, os testadores de penetração internos usam modelos de IA para encontrar vulnerabilidades de forma mais eficiente, descobrindo falhas em código antigo que antes passavam despercebidas. O banco treina funcionários para usar modelos de linguagem russos e desenvolve filtros para impedir o envio de dados pessoais a LLMs estrangeiros, conforme exigido por lei (Lei Federal nº 152-FZ). A principal defesa contra deepfakes é o treinamento dos funcionários, promovendo comunicação aberta com a equipe de segurança e ensinando pensamento crítico. Para ataques de reputação, eles usam um módulo OSINT em testes de penetração anuais. Olhando para o futuro, Akhmedev vê potencial em testes de penetração agentivos, mas enfatiza a necessidade de processos bem documentados. Ele prevê um influxo de cibercriminosos novatos devido à IA acessível, deepfakes melhorados, descoberta mais rápida de vulnerabilidades e foco em novos ativos digitais, como o rublo digital.
Fonte: Habr — хаб ИИ —
original