MLSecOps: Prioridades Diferentes para Diferentes Casos de Uso de IA

La inteligencia artificial generativa se ha convertido en parte del desarrollo, utilizándose tanto como asistente de codificación (como Copilot, Cursor, Claude, ChatGPT) como componente integrado del producto. Estos escenarios tienen diferentes riesgos, puntos de control y costos de errores. Se necesita MLSecOps para integrar la seguridad en el ciclo de vida del sistema de IA, desde indicaciones y código hasta conjuntos de datos, modelos, API de inferencia, protección en tiempo de ejecución y monitoreo de producción. En el escenario de herramientas de desarrollo, las amenazas clave incluyen la generación de código inseguro, fugas de secretos, inyección indirecta de indicaciones y auditoría de cumplimiento; los controles deben ubicarse cerca del desarrollador, incluido un firewall de LLM/IA, comprobaciones del IDE, revisión de solicitudes de extracción y CI/CD como última línea. En el escenario de integración de productos, la IA se convierte en una superficie de ataque en tiempo de ejecución con amenazas como inyección de indicaciones y jailbreaks, extracción de modelos, compromiso de la cadena de suministro de ML y ataques a agentes de IA. Los agentes deben tratarse como usuarios privilegiados con derechos mínimos y sandboxing; evaluar la 'tríada letal' (acceso a datos privados, entrada no confiable, canal externo) ayuda a evaluar el riesgo. El artículo enfatiza que las herramientas tradicionales de AppSec pasan por alto estas vulnerabilidades específicas de la IA, por lo que MLSecOps extiende, en lugar de reemplazar, DevSecOps.