AI 모델 '과잉 사고' 경향, 보안 취약점으로 작용

단계별 추론을 사용하는 대규모 언어 모델(LLM)은 과도하게 긴 추론 과정을 생성하는 '과잉 사고(overthinking)' 현상에 취약합니다. 저장성 대학(Zhejiang University)과 알리바바(Alibaba)의 연구원들은 프롬프트의 논리적 구조를 손상시키는 진화 알고리즘을 개발하여, 모델이 무의미한 추론 루프에 빠지도록 유도했습니다. 이 공격은 딥시크(DeepSeek)의 R1, 알리바바의 큐웬3-싱킹(Qwen3-Thinking), 오픈AI(OpenAI)의 GPT-o3, 구글(Google)의 제미나이 2.5 플래시(Gemini 2.5 Flash) 등 모델에 효과적이었으며, 수학 벤치마크에서 최대 26.1배 더 긴 출력을 생성했습니다. 이 방식은 모델의 내부 접근 권한이 필요하지 않으며, 모델 간에 전이될 수 있어 실용성이 높습니다. 그러나 연구원들은 이 취약점을 부각시키는 것이 목적일 뿐 실제 공격을 개발하려는 것이 아니며, 제공업체가 완화책을 마련하기를 바란다고 강조했습니다.