IA contra IA: seguridad en tiempo de ejecución de agentes que se fortalece con cada uso

Duan Haotong, un experto en seguridad de Tencent con 12 años de experiencia, presentará en la conferencia AICon 2026 en Shenzhen los días 21 y 22 de agosto. Su charla, titulada 'Usando IA para combatir la IA: Construyendo una línea de seguridad en tiempo de ejecución de agentes que se fortalece con el uso', aborda los riesgos emergentes de inyección de instrucciones, desviación de intenciones, abuso de herramientas y fuga de datos a medida que los agentes ingresan a los escenarios centrales de las empresas. Sostiene que la seguridad tradicional basada en reglas falla frente a ataques semánticos y comportamientos no deterministas. La solución propuesta adopta un enfoque de primeros principios con seguridad nativa de IA, que cubre detección de inyección de instrucciones previa al incidente (desde la coincidencia de palabras clave hasta la comprensión semántica), detección de desviación de intenciones durante el incidente y aislamiento de agentes (sandboxing) para la ejecución aislada de herramientas, y prevención de fugas de datos posterior al incidente mediante protección de salida y ajuste fino de modelos pequeños. El sistema se basa en un bucle de retroalimentación autoiterativo que utiliza datos reales de producción. La conferencia también cuenta con diez foros sobre infraestructura de IA, ingeniería de inferencia, Inteligencia General Artificial (AGI) robótica y seguridad de agentes, con más de 50 expertos de Tencent, Alibaba, Huawei, Baidu y Ant Group.