Asegurando Agentes de IA, Servidores MCP y Aplicaciones LLM en Producción: Un Marco Práctico

La nueva guía de Mend.io, 'Securing AI agents, MCP servers & LLM apps: A practical framework', aborda la brecha de seguridad creada por la rápida adopción de agentes, integraciones MCP y aplicaciones impulsadas por LLM. La seguridad de aplicaciones tradicional falla porque el comportamiento de los agentes surge de un modelo, un prompt del sistema, el contexto recuperado, la entrada del usuario y las herramientas, no solo del código, lo que genera nuevos modos de fallo como la inyección de prompts a través de datos, agentes con permisos excesivos, modelos obsoletos y descripciones de herramientas envenenadas. La guía introduce un mapa de superficie de ataque de cinco capas que cubre las capas de interacción, agente, integración, modelo y código, y proporciona artefactos para el descubrimiento, como el escaneo de repositorios y la auditoría de cuentas de servicio, y para la corrección, incluida una lista de verificación de configuración incorrecta de 12 puntos y un pipeline de priorización. Para la seguridad en tiempo de ejecución, recomienda salvaguardas como un SDK de Python integrado o un servidor API independiente, patrones de endurecimiento de prompts del sistema y alineación con estándares como el NIST AI RMF y el OWASP AIMA. La hoja de ruta de madurez incluye cuatro etapas desde Emergente hasta Líder con una autoevaluación de 15 preguntas. Las conclusiones clave enfatizan que el comportamiento de los agentes surge de múltiples factores, hay cinco capas de riesgo y la clasificación automatizada debe estar respaldada por evidencia, mientras que la aceptación del riesgo sigue siendo exclusivamente humana.