KI auf beiden Seiten: Interview mit dem Sicherheitschef der Svoy Bank
Alexey Akhmedev, Leiter der Informationssicherheit bei der Svoy Bank, erörtert, wie KI Cyberbedrohungen und -abwehr umgestaltet. Er stellt fest, dass KI-gestützte Angriffe, einschließlich Deepfakes und Ausnutzung von Schwachstellen, aufkommen, während interne Teams KI für Penetrationstests einsetzen. Die Bank bereitet sich auf eingeschränkte ausländische KI-Modelle vor und betont die Schulung der Mitarbeiter zur Abwehr von Deepfakes.
In einem Interview mit Habr sprach Alexey Akhmedev, Leiter der Informationssicherheit bei Svoy Bank (Teil der SVOY-Fintech-Gruppe), über die doppelte Rolle von KI in der Cybersicherheit. Er erklärte, dass Risiken im Zusammenhang mit KI pro Anwendungsfall bewertet werden sollten und nicht global. Aktuelle Angriffe auf die externe Perimeter der Bank wären ohne KI nicht möglich gewesen, einschließlich Deepfakes und der Ausnutzung von Code-Schwachstellen. Umgekehrt nutzen interne Penetrationstester KI-Modelle, um Schwachstellen effizienter zu finden und Fehler in altem Code zu entdecken, die zuvor übersehen wurden. Die Bank schult Mitarbeiter im Umgang mit russischen Sprachmodellen und entwickelt Filter, um das Senden personenbezogener Daten an ausländische LLMs zu verhindern, wie es gesetzlich vorgeschrieben ist (152-FZ). Der Hauptschutz gegen Deepfakes ist die Schulung der Mitarbeiter, die Förderung offener Kommunikation mit dem Sicherheitsteam und die Vermittlung von kritischem Denken. Für Reputationsangriffe nutzen sie ein OSINT-Modul in jährlichen Penetrationstests. Mit Blick auf die Zukunft sieht Akhmedev Potenzial im agentenbasierten Penetrationstesting, betont jedoch die Notwendigkeit gut dokumentierter Prozesse. Er prognostiziert einen Zustrom von unerfahrenen Cyberkriminellen aufgrund zugänglicher KI, verbesserte Deepfakes, schnellere Schwachstellenentdeckung und einen Fokus auf neue digitale Vermögenswerte wie den digitalen Rubel.
Quelle: Habr — хаб ИИ —
Original