Sécuriser les agents IA, les serveurs MCP et les applications LLM en production : un cadre pratique

Le nouveau guide de Mend.io, « Sécuriser les agents IA, les serveurs MCP et les applications LLM : un cadre pratique », vise à combler le fossé de sécurité créé par l'adoption rapide des agents, des intégrations MCP et des applications propulsées par les grands modèles de langage (LLM). L'AppSec traditionnel échoue car le comportement des agents émerge d'un modèle, d'un prompt système, d'un contexte récupéré, de la saisie utilisateur et d'outils, pas uniquement du code, ce qui entraîne de nouveaux modes de défaillance comme l'injection de prompts via les données, des agents avec des permissions excessives, des modèles dépréciés et des descriptions d'outils empoisonnées. Le guide présente une cartographie de la surface d'attaque en cinq couches couvrant les couches d'interaction, d'agent, d'intégration, de modèle et de code, et fournit des artefacts pour la découverte, comme l'analyse des dépôts et l'audit des comptes de service, et pour la correction, y compris une liste de contrôle de 12 points sur les erreurs de configuration et un pipeline de priorisation. Pour la sécurité à l'exécution, il recommande des garde-fous sous forme de SDK Python intégré à l'application ou de serveur API autonome, des modèles de durcissement de prompts système, et l'alignement sur des normes telles que le NIST AI RMF et l'OWASP AIMA. La feuille de route de maturité comprend quatre étapes allant de Émergent à Leader avec une auto-évaluation de 15 questions. Les points clés à retenir soulignent que le comportement des agents émerge de multiples facteurs, qu'il existe cinq couches de risque, et que le triage automatisé doit être fondé sur des preuves, tandis que l'acceptation des risques reste exclusivement humaine.