AI模型易‘过度思考’引发安全漏洞

采用逐步推理的大语言模型容易陷入一种称为“过度思考”的现象，即生成过长的推理链。来自浙江大学和阿里巴巴的研究人员开发了一种进化算法，能够破坏提示词的逻辑结构，导致模型陷入无果的推理循环中。该攻击对DeepSeek（R1）、阿里巴巴（Qwen3-Thinking）、OpenAI（GPT-o3）和谷歌（Gemini 2.5 Flash）的模型均有效，在一个数学基准测试中生成的输出长度最多可延长26.1倍。该方法无需内部访问模型，且可在模型间迁移，从而提高了其可行性。不过，研究人员强调，他们的目标是指出这一脆弱性，而非开发实用的攻击，并希望提供商能够制定缓解措施。