AI vs AI: 사용할수록 강해지는 에이전트 런타임 보안

12년 경력의 텐센트 보안 전문가 두안하오퉁이 8월 21~22일 선전에서 열리는 AICon 2026 컨퍼런스에서 발표할 예정입니다. 'AI로 AI와 싸우다: 사용할수록 강력해지는 에이전트 런타임 보안 라인 구축'이라는 제목의 발표에서는 에이전트가 엔터프라이즈 핵심 시나리오에 진입함에 따라 프롬프트 인젝션, 의도 이탈, 도구 남용, 데이터 유출과 같은 새로운 위험을 다룹니다. 그는 전통적인 규칙 기반 보안이 의미 기반 공격과 비결정론적 동작에 대처할 수 없다고 주장합니다. 제안된 솔루션은 AI 네이티브 보안에 대한 첫 원칙 접근 방식을 채택하여 사전 프롬프트 인젝션 탐지(키워드 매칭에서 의미 이해로), 사고 중 의도 이탈 탐지 및 격리된 도구 실행을 위한 에이전트 샌드박싱, 사후 아웃바운드 보호와 소형 모델 파인튜닝을 통한 데이터 유출 방지를 포함합니다. 시스템은 실제 프로덕션 데이터를 사용한 자체 반복 피드백 루프에 의존합니다. 이 컨퍼런스는 또한 AI 인프라, 추론 엔지니어링, 로봇 AGI, 에이전트 보안에 관한 10개의 포럼을 특징으로 하며, 텐센트, 알리바바, 화웨이, 바이두, 앤트 그룹에서 50명 이상의 전문가가 참여합니다.