Protegendo Agentes de IA, Servidores MCP e Aplicações de LLM em Produção: Um Framework Prático

O novo guia da Mend.io, 'Securing AI agents, MCP servers & LLM apps: A practical framework', visa preencher a lacuna de segurança criada pela rápida adoção de agentes, integrações MCP e aplicativos alimentados por LLM. O AppSec tradicional falha porque o comportamento do agente emerge de um modelo, prompt do sistema, contexto recuperado, entrada do usuário e ferramentas, não apenas do código, levando a novos modos de falha, como injeção de prompt via dados, agentes com permissões excessivas, modelos descontinuados e descrições de ferramentas envenenadas. O guia introduz um mapa de superfície de ataque em cinco camadas, cobrindo as camadas de interação, agente, integração, modelo e código, e fornece artefatos para descoberta, como varredura de repositórios e auditoria de contas de serviço, e para correção, incluindo uma lista de verificação de 12 pontos para configuração incorreta e um pipeline de priorização. Para segurança em tempo de execução, recomenda guarda-corpos como um SDK Python incorporado ou servidor API autônomo, padrões de endurecimento de prompt do sistema e alinhamento com padrões como o NIST AI RMF e o OWASP AIMA. O roteiro de maturidade inclui quatro estágios, de Emergente a Líder, com uma autoavaliação de 15 perguntas. Os principais pontos destacam que o comportamento do agente emerge de múltiplos fatores, há cinco camadas de risco, e a triagem automatizada deve ser baseada em evidências, enquanto a aceitação de risco permanece apenas humana.