الذكاء الاصطناعي ضد الذكاء الاصطناعي: أمان وقت تشغيل الوكلاء الذي يصبح أقوى مع كل استخدام
Tencent
سيشارك خبير الأمن في Tencent، دوان هاوتونغ، حلاً أمنياً كاملاً لوقت تشغيل وكلاء الذكاء الاصطناعي في مؤتمر AICon 2026 في شنتشن، باستخدام الذكاء الاصطناعي لمكافحة الذكاء الاصطناعي. يغطي النهج الدفاعات قبل وأثناء وبعد الحوادث، بما في ذلك كشف حقن التعليمات، وكشف انحراف النية، والعزل الصندوقي، ومنع تسرب البيانات، مما يتيح التحسين الذاتي المستمر بناءً على بيانات الإنتاج الفعلية.
腾讯安全专家段浩桐拥有12年行业经验，将于8月21日至22日在深圳举办的AICon 2026大会上发表演讲。他的演讲主题为‘用AI对抗AI：构建一个越用越强的智能体运行时安全防线’，聚焦智能体进入企业核心场景时带来的提示注入、意图偏离、工具滥用和数据泄露等新兴风险。他认为，传统的基于规则的安全方案无法有效应对语义攻击和非确定性行为。提出的解决方案采用第一性原理，结合AI原生安全，覆盖事前提示注入检测（从关键词匹配到语义理解）、事中意图偏离检测及智能体沙箱隔离工具执行，以及事后通过出站保护和小模型微调防止数据泄露。该系统依赖基于真实生产数据的自迭代反馈循环。本次大会还设有十个论坛，主题涵盖AI基础设施、推理工程、机器人通用人工智能和智能体安全，将有来自腾讯、阿里巴巴、华为、百度及蚂蚁集团等企业的50多位专家出席。
المصدر: InfoQ 中国 —
الأصلي