KI gegen KI: Agenten-Laufzeitsicherheit, die mit jeder Nutzung stärker wird
Tencent
Der Tencent-Sicherheitsexperte Duan Haotong wird auf der AICon 2026 Shenzhen eine vollständige Laufzeitsicherheitslösung für KI-Agenten vorstellen, die KI zur Bekämpfung von KI einsetzt. Der Ansatz umfasst Abwehrmaßnahmen vor, während und nach Vorfällen, einschließlich Prompt-Injection-Erkennung, Absichtserkennungsabweichung, Sandboxing und Datenleckschutz, und ermöglicht eine kontinuierliche Selbstverbesserung auf Basis realer Produktionsdaten.
Duan Haotong, ein Sicherheitsexperte von Tencent mit 12 Jahren Erfahrung, wird auf der AICon 2026 in Shenzhen vom 21. bis 22. August einen Vortrag halten. Sein Talk mit dem Titel 'Mit KI gegen KI: Aufbau einer Agenten-Laufzeitsicherheitslinie, die mit der Nutzung stärker wird' befasst sich mit den aufkommenden Risiken von Prompt Injection, Intentionsabweichungen, Werkzeugmissbrauch und Datenlecks, da Agenten in unternehmenskritische Szenarien vordringen. Er argumentiert, dass traditionelle regelbasierte Sicherheit gegen semantische Angriffe und nicht-deterministisches Verhalten versagt. Die vorgeschlagene Lösung verfolgt einen First-Principles-Ansatz mit KI-nativer Sicherheit, die Folgendes abdeckt: die Erkennung von Prompt Injection vor dem Vorfall (von Schlüsselwortabgleich bis hin zu semantischem Verständnis), die Erkennung von Intentionsabweichungen während des Vorfalls und die Agent-Isolation (Sandboxing) für isolierte Werkzeugausführung sowie die Verhinderung von Datenlecks nach dem Vorfall durch ausgehenden Schutz und Feintuning kleiner Modelle. Das System basiert auf einer selbstiterierenden Feedbackschleife, die echte Produktionsdaten nutzt. Die Konferenz umfasst zudem zehn Foren zu KI-Infrastruktur, Inferenz-Engineering, robotischer AgI und Agentensicherheit, mit über 50 Experten von Tencent, Alibaba, Huawei, Baidu und der Ant Group.
Quelle: InfoQ 中国 —
Original