MLSecOps: prioridades diferentes para diferentes casos de uso de IA

A IA generativa tornou-se parte do desenvolvimento, usada tanto como assistente de codificação (como Copilot, Cursor, Claude, ChatGPT) quanto como componente embarcado de produto. Esses cenários têm riscos, pontos de controle e custos de erros diferentes. O MLSecOps é necessário para integrar a segurança ao ciclo de vida dos sistemas de IA, desde prompts e código até conjuntos de dados, modelos, APIs de inferência, proteção em tempo de execução e monitoramento de produção. No cenário de ferramentas para desenvolvedores, as principais ameaças incluem geração de código inseguro, vazamento de segredos, injeção indireta de prompt e auditoria de conformidade; os controles devem ser colocados próximos ao desenvolvedor, incluindo um firewall de LLM/IA, verificações na IDE, revisão de PR e CI/CD como última linha. No cenário de integração de produto, a IA se torna uma superfície de ataque em tempo de execução, com ameaças como injeção de prompt e jailbreaks, extração de modelo, comprometimento da cadeia de suprimentos de ML e ataques a agentes de IA. Os agentes devem ser tratados como usuários privilegiados com direitos mínimos e sandboxing; avaliar a 'tríade letal' (acesso a dados privados, entrada não confiável, canal externo) ajuda a avaliar o risco. O artigo enfatiza que as ferramentas tradicionais de AppSec não detectam essas vulnerabilidades específicas de IA, então o MLSecOps estende, em vez de substituir, o DevSecOps.