Expertos de UserGate Factor advierten que las habilidades de los agentes de IA pueden representar una amenaza

Los expertos del centro de monitoreo y respuesta a ciberamenazas UserGate Factor advierten sobre el peligro potencial de los agentes de inteligencia artificial. El estudio destaca que más del 26% de las habilidades de los agentes de IA son potencialmente vulnerables, siendo los riesgos más comunes la fuga de datos y la escalada de privilegios. Se identifican cuatro grupos principales de riesgo: distribución de malware, transferencia de datos a sistemas externos, obtención de privilegios excesivos y manipulación del comportamiento del agente de IA. Se proporciona un escenario de ejemplo en el que un empleado instala una habilidad aparentemente útil que contiene instrucciones maliciosas, lo que lleva a la recopilación y exfiltración no autorizada de datos. Para mitigar los riesgos, los expertos recomiendan verificar las habilidades mediante herramientas como Agent Threat Rule, revisar las auditorías de seguridad en plataformas como skills.sh y ejecutar incluso las habilidades confiables con restricciones estrictas, como cuentas separadas, acceso limitado al sistema de archivos y la red, y confirmación del usuario para operaciones sensibles. Svetlana Gazizova, propietaria del producto de seguridad de IA en UserGate, enfatiza la necesidad de un control de extremo a extremo de toda la cadena del sistema de agentes, monitoreando el acceso a datos, las llamadas a herramientas y la autorización de acciones.