ИИ против ИИ: безопасность агентов усиливается с каждым использованием
Tencent
Эксперт по безопасности Tencent Дуань Хаотун представит на AICon 2026 в Шэньчжэне полное решение для обеспечения безопасности ИИ-агентов на всех этапах, используя ИИ для борьбы с ИИ. Подход охватывает защиту до, во время и после инцидентов, включая обнаружение внедрения промптов, выявление отклонений намерений, изоляцию в песочнице и предотвращение утечки данных, обеспечивая непрерывное самосовершенствование на основе реальных производственных данных.
腾讯安全专家段浩童拥有12年行业经验，将于8月21日至22日在深圳举行的AICon 2026大会上发表演讲。他的演讲主题为‘用AI对抗AI：打造越用越强的Agent运行时安全防线’，聚焦智能体进入企业核心场景时出现的即时注入、意图偏离、工具滥用和数据泄露等新兴风险。他认为，传统的基于规则的安全措施无法应对语义攻击和非确定性行为。提出的解决方案采用第一性原理，实现AI原生安全，覆盖事件前的即时注入检测（从关键词匹配演进到语义理解）、事件中的意图偏离检测和用于隔离工具执行的智能体沙盒，以及事件后的通过出站保护和小模型微调来防止数据泄露。该系统利用真实生产数据，构建自我迭代的反馈循环。此次大会还设有十个论坛，涵盖AI基础设施、推理工程、机器人AGI和智能体安全等主题，来自腾讯、阿里巴巴、华为、百度及蚂蚁集团的50余位专家将参与讨论。
Источник: InfoQ 中国 —
оригинал