AI vs AI: एजेंट रनटाइम सुरक्षा जो हर उपयोग के साथ मजबूत होती है
Tencent
Tencent सुरक्षा विशेषज्ञ Duan Haotong, AICon 2026 शेनझेन में AI एजेंटों के लिए एक पूर्ण-श्रृंखला रनटाइम सुरक्षा समाधान साझा करेंगे, जो AI का उपयोग करके AI से मुकाबला करेगा। यह दृष्टिकोण पूर्व-, दौरान- और घटना-पश्चात बचाव को कवर करता है, जिसमें प्रॉम्प्ट इंजेक्शन डिटेक्शन, इरादा विचलन डिटेक्शन, सैंडबॉक्सिंग और डेटा लीक रोकथाम शामिल है, जो वास्तविक उत्पादन डेटा के आधार पर निरंतर स्व-सुधार सक्षम करता है।
拥有12年经验的腾讯安全专家段浩通将于8月21日至22日在深圳举行的AICon 2026大会上发表演讲。他的演讲主题是‘以AI制AI：打造一个越用越强的智能体运行时安全防线’，探讨了智能体进入企业核心场景时面临的提示注入、意图偏离、工具滥用和数据泄露等新兴风险。他认为，传统的基于规则的安全措施无法应对语义攻击和非确定性行为。提出的解决方案采用第一性原理，构建AI原生安全体系，覆盖事前通过提示注入检测（从关键词匹配到语义理解）、事中通过意图偏离检测和智能体沙箱隔离工具执行，以及事后通过出站防护和小模型微调预防数据泄露。该系统利用真实生产数据形成自迭代反馈循环。本次大会还设有十个论坛，涵盖AI基础设施、推理工程、机器人通用人工智能和智能体安全等主题，来自腾讯、阿里巴巴、华为、百度和蚂蚁集团的50多位专家将出席。
स्रोत: InfoQ 中国 —
मूल