Cinco roles de la IA en ciberseguridad: de acelerador de ataques a objetivo principal

El artículo, escrito por tres expertos en ciberseguridad de Rostelecom, Positive Technologies y la Agencia Federal de Salud y Desarrollo Social (FMBA), examina cinco roles de la IA en ciberseguridad. Primero, la IA acelera los ataques al reducir el costo de la ingeniería social, la generación de código y la formación de lógica. Segundo, un asistente comprometido en un terminal infectado puede filtrar datos, realizar acciones, dañar la reputación, consumir recursos o envenenar el contexto. Tercero, las fugas suelen deberse a permisos excesivos, contexto abundante o controles de salida débiles. Cuarto, la IA puede servir como un escudo, clasificando eventos y redactando investigaciones, pero no debe tomar decisiones finales. Quinto, la IA como objetivo directo es vulnerable a inyección de instrucciones, fuentes envenenadas y manejo inseguro de salidas, especialmente cuando tiene capacidad de acción. Los autores sostienen que las instrucciones del sistema no son candados de seguridad; controles deterministas como motores de políticas, control de acceso basado en roles (RBAC) y pasos de aprobación son esenciales.