Cinq rôles de l'IA en cybersécurité : de l'accélérateur d'attaques à la cible privilégiée

L'article, rédigé par trois experts en cybersécurité de Rostelecom, Positive Technologies et de la FMBA, examine cinq rôles de l'IA en cybersécurité. Premièrement, l'IA accélère les attaques en réduisant le coût de l'ingénierie sociale, de la génération de code et de la formation de logique. Deuxièmement, un assistant compromis sur un terminal infecté peut fuiter des données, effectuer des actions, nuire à la réputation, consommer des ressources ou empoisonner le contexte. Troisièmement, les fuites proviennent souvent de permissions excessives, d'un contexte riche ou de contrôles de sortie faibles. Quatrièmement, l'IA peut servir de bouclier, en triant les événements et en rédigeant des enquêtes, mais ne doit pas prendre de décisions finales. Cinquièmement, l'IA en tant que cible directe est vulnérable aux injections de prompts, aux sources empoisonnées et à la gestion non sécurisée des sorties, surtout lorsqu'elle dispose d'une autonomie. Les auteurs affirment que les prompts système ne sont pas des verrous de sécurité ; des contrôles déterministes comme les moteurs de politiques, le contrôle d'accès basé sur les rôles (RBAC) et les étapes d'approbation sont essentiels.