Vijf rollen van AI in cybersecurity: van aanvalsversneller tot primair doelwit

Het artikel, geschreven door drie cybersecurity-experts van Rostelecom, Positive Technologies en FMBA, onderzoekt vijf AI-rollen in cybersecurity. Ten eerste versnelt AI aanvallen door de kosten van sociale manipulatie, codegeneratie en logicaformatie te verlagen. Ten tweede kan een gecompromitteerde assistent op een geïnfecteerd eindpunt gegevens lekken, acties uitvoeren, reputatieschade toebrengen, bronnen verbruiken of context vergiftigen. Ten derde komt lekkage vaak voort uit overmatige machtigingen, rijke context of zwakke outputcontroles. Ten vierde kan AI dienen als een schild, door gebeurtenissen te sorteren en onderzoeken op te stellen, maar mag het geen definitieve beslissingen nemen. Ten vijfde is AI als direct doelwit kwetsbaar voor prompt-injectie, vergiftigde bronnen en onveilige outputverwerking, vooral wanneer het autonomie heeft. De auteurs stellen dat systeemprompts geen beveiligingssloten zijn; deterministische controles zoals policy-engines, op rollen gebaseerde toegangscontrole (RBAC) en goedkeuringsstappen zijn essentieel.