IA des deux côtés : entretien avec le responsable de la sécurité de Svoy Bank

Dans une interview accordée à Habr, Alexey Akhmedev, responsable de la sécurité de l'information chez Svoy Bank (qui fait partie du groupe fintech SVOY), a évoqué le double rôle de l'IA dans la cybersécurité. Il a expliqué que les risques associés à l'IA doivent être évalués au cas par cas, et non de manière globale. Les récentes attaques contre le périmètre externe de la banque n'auraient pas été possibles sans l'IA, impliquant des deepfakes et l'exploitation de vulnérabilités dans le code. À l'inverse, les testeurs d'intrusion internes utilisent des modèles d'IA pour trouver des vulnérabilités plus efficacement, découvrant des failles dans d'anciens codes qui avaient été auparavant négligées. La banque forme ses employés à utiliser des modèles de langage en russe et développe des filtres pour empêcher l'envoi de données personnelles à des LLM étrangers, comme l'exige la loi (152-FZ). La principale défense contre les deepfakes est la formation des employés, qui favorise une communication ouverte avec l'équipe de sécurité et enseigne la pensée critique. Pour les attaques réputationnelles, ils utilisent un module OSINT lors des tests de pénétration annuels. Pour l'avenir, Akhmedev voit un potentiel dans les tests de pénétration agentiques, mais souligne la nécessité de processus bien documentés. Il prédit un afflux de cybercriminels novices grâce à l'IA accessible, des deepfakes améliorés, une découverte plus rapide des vulnérabilités et une attention accrue portée à de nouveaux actifs numériques comme le rouble numérique.