AI contra AI: Segurança em Tempo de Execução de Agentes que se Fortalece a Cada Uso

Duan Haotong, especialista em segurança da Tencent com 12 anos de experiência, fará uma apresentação na conferência AICon 2026 em Shenzhen, nos dias 21 e 22 de agosto. Sua palestra, intitulada 'Usando IA para Combater IA: Construindo uma Linha de Segurança de Runtime de Agente que se Fortalece com o Uso', aborda os riscos emergentes de injeção de prompt, desvio de intenção, abuso de ferramentas e vazamento de dados à medida que os agentes entram em cenários corporativos centrais. Ele argumenta que a segurança tradicional baseada em regras falha contra ataques semânticos e comportamentos não determinísticos. A solução proposta adota uma abordagem de primeiros princípios com segurança nativa de IA, cobrindo detecção de injeção de prompt antes do incidente (de correspondência de palavras-chave para compreensão semântica), detecção de desvio de intenção durante o incidente e isolamento de agente com sandboxing para execução isolada de ferramentas, e prevenção de vazamento de dados após o incidente por meio de proteção de saída e ajuste fino de modelos pequenos. O sistema depende de um loop de feedback autoiterativo usando dados reais de produção. A conferência também conta com dez fóruns sobre infraestrutura de IA, engenharia de inferência, Inteligência Geral Artificial (AGI) robótica e segurança de agentes, com mais de 50 especialistas da Tencent, Alibaba, Huawei, Baidu e Ant Group.