AI-agents, MCP-servers en LLM-apps beveiligen in productie: een praktisch raamwerk

De nieuwe gids van Mend.io, 'Securing AI agents, MCP servers & LLM apps: A practical framework', richt zich op de beveiligingskloof die is ontstaan door de snelle adoptie van agents, MCP-integraties en LLM-gestuurde applicaties. Traditionele AppSec schiet tekort omdat het gedrag van agents voortkomt uit een model, systeemprompt, opgehaalde context, gebruikersinvoer en tools, en niet alleen uit code. Dit leidt tot nieuwe faalwijzen zoals promptinjectie via data, agents met te veel rechten, verouderde modellen en vergiftigde toolbeschrijvingen. De gids introduceert een aanvalsvlakkaart met vijf lagen die de interactie-, agent-, integratie-, model- en codelaag bestrijkt, en biedt hulpmiddelen voor detectie, zoals het scannen van repositories en het auditen van serviceaccounts, en voor herstel, waaronder een checklist met twaalf punten voor misconfiguraties en een prioriteringspijplijn. Voor runtimebeveiliging worden guardrails aanbevolen, als in-app Python SDK of als zelfstandige API-server, naast patronen voor het verstevigen van systeemprompts en afstemming op standaarden zoals NIST AI RMF en OWASP AIMA. De volwassenheidsroadmap omvat vier fasen, van Opkomend tot Leidend, met een zelfevaluatie van vijftien vragen. De belangrijkste conclusies zijn dat agentgedrag voortkomt uit meerdere factoren, dat er vijf risicolagen zijn en dat geautomatiseerde triage op bewijs moet zijn gebaseerd, terwijl risicoacceptatie uitsluitend een menselijke beslissing blijft.