Modelos de IA propensos a 'pensar demais' criam vulnerabilidade de segurança

Grandes modelos de linguagem (LLMs) que usam raciocínio passo a passo são vulneráveis a um fenômeno chamado 'pensar demais', no qual produzem cadeias de raciocínio excessivamente longas. Pesquisadores da Universidade de Zhejiang e da Alibaba desenvolveram um algoritmo evolutivo que corrompe a estrutura lógica dos prompts, levando os modelos a entrar em loops de raciocínio infrutíferos. O ataque foi eficaz contra modelos da DeepSeek (R1), Alibaba (Qwen3-Thinking), OpenAI (GPT-o3) e Google (Gemini 2.5 Flash), gerando saídas até 26,1 vezes mais longas em um benchmark de matemática. A abordagem não requer acesso interno aos modelos e pode ser transferida entre eles, aumentando sua viabilidade. No entanto, os pesquisadores enfatizam que seu objetivo é destacar a vulnerabilidade, não desenvolver um ataque prático, e esperam que os provedores criem mitigações.