IA contre IA : une sécurité d'exécution des agents qui se renforce à chaque utilisation

Duan Haotong, expert en sécurité chez Tencent fort de 12 ans d'expérience, interviendra à la conférence AICon 2026 à Shenzhen les 21 et 22 août. Son exposé, intitulé « Utiliser l'IA pour combattre l'IA : construire une ligne de sécurité d'exécution des agents qui se renforce avec l'usage », aborde les risques émergents d'injection de prompts, de déviation d'intention, d'abus d'outils et de fuite de données, alors que les agents pénètrent les scénarios centraux des entreprises. Il soutient que la sécurité traditionnelle basée sur des règles échoue face aux attaques sémantiques et aux comportements non déterministes. La solution proposée adopte une approche par principes premiers avec une sécurité native de l'IA, couvrant la détection d'injection de prompts avant incident (passant de la correspondance par mots-clés à la compréhension sémantique), la détection de déviation d'intention et l'isolation des agents via un bac à sable pour l'exécution sécurisée des outils pendant l'incident, ainsi que la prévention des fuites de données après incident via une protection des sorties et un réglage fin de petits modèles. Le système repose sur une boucle de rétroaction auto-itérative utilisant des données de production réelles. La conférence propose également dix forums sur l'infrastructure IA, l'ingénierie d'inférence, l'AGI robotique et la sécurité des agents, avec plus de 50 experts de Tencent, Alibaba, Huawei, Baidu et Ant Group.