何时继续思考：面向高效推理的自适应思维模式切换

一句话定位

小学生也能听懂

这篇论文教AI像聪明学生一样做题：简单题直接答，难题才多想想。它发明了一个“自动切换开关”，让AI少做无用思考，既省时间又几乎不降低正确率，还变得更安全。

为什么值得记录

大型推理模型（LRMs）常因冗余推理链导致计算开销过大，尤其在简单任务上存在‘过度思考’问题；
ASRR 利用模型固有的‘内部自恢复机制’，在 No-Thinking 模式下仍可通过隐式推理补全缺失步骤；
引入基于组级准确率的动态长度惩罚机制，避免过早压缩输出损害正确性，实现效率与精度的平衡；
实验表明 ASRR 在 1.5B 和 7B 模型上分别减少 32.5% 和 25.7% 的推理 token，性能损失小于 1.2%；
该方法还显著提升安全对齐能力，有害响应率下降最多达 21.7%。

核心方法

系统分析 LRMs 在 Long-Thinking 和 No-Thinking 模式下的性能上限，发现两者 pass@256 接近（86.4% vs 84.98%），归因于 No-Thinking 模式下出现的 Continue-Thinking 行为；
定义‘内部自恢复机制’：模型在显式推理被抑制时，仍能对难题隐式补充推理步骤；
提出 Adaptive Self-Recovery Reasoning (ASRR) 框架，包含两个核心组件：(1) 显式推理抑制 + 隐式自恢复模块，使用 No-Thinking 前缀引导模型跳过简单问题的冗余推理；(2) 动态长度惩罚（DLP）模块，根据组级准确率条件化施加长度惩罚；
DLP 机制中，仅当组准确率 ≥ 阈值 τ 时才启用长度惩罚，且惩罚强度随准确率提升而动态增强，防止低准确率阶段过早优化长度；
训练采用强化学习（RL），奖励函数为：ℛ_i = 𝕀(y_i = ŷ_i) − α⋅𝒪_i，其中 𝒪_i 为超长比率，α 为动态惩罚系数；
推理时模型可自适应感知问题难度，在简单任务上直接作答，在复杂任务上触发 Continue-Thinking 行为以维持高准确率。

关键结果

在 DeepSeek-R1-Distill-Qwen-1.5B 上，相比 GRPO 基线，ASRR 平均生成长度减少 32.5%（从 5,087 到 3,434 tokens），pass@1 仅下降 1.2%（68.7% → 67.5%）；
在 DeepSeek-R1-Distill-Qwen-7B 上，生成长度减少 25.7%（从 6,853 到 5,142 tokens），pass@1 下降仅 0.6%（77.0% → 76.7%）；
Continue-Thinking 行为频率与问题难度强相关：在 AIME 上达 80.6%（1.5B）和 81.5%（7B），而在 GSM8K 上仅为 2.6% 和 0.3%，体现良好难度感知能力；
在安全基准 BeaverTails 和 HarmfulQA 上，ASRR 显著提升无害率，如 1.5B 模型在 HarmfulQA 上从 61.7% 提升至 83.4%（+21.7%）；
与其他长度控制方法（如 S1、L1、ThinkPrune）相比，ASRR 在相同 token 预算下实现更高 pass@1 准确率，展现更优的权衡曲线。

局限与风险

ASRR 依赖预训练模型已具备一定的难度感知和自恢复能力，对基础模型能力有要求；
动态长度惩罚中的阈值 τ 需手动设定，虽支持灵活调节，但最优值可能因任务而异；
实验主要集中在数学推理任务，其他领域（如代码、科学推理）的泛化性有待验证；
Continue-Thinking 行为依赖模型在 No-Thinking 前缀下仍能生成推理内容，若模型完全停止思考则机制失效。

适合沉淀的概念

internal-self-recovery-mechanism, adaptive-self-recovery-reasoning-asrr, dynamic-length-penalty-dlp, no-thinking-mode, continue-thinking-behavior, reasoning-budget-allocation, accuracy-aware-reward-regulation, overthinking-in-lrms

阅读注意

重点关注图 2 和图 3(a) 中 pass@256 与 pass@1 的对比，揭示模型在单轮推理中自恢复能力不足的问题；
注意表 1 中 No-thinking prompt 虽大幅缩短输出，但准确率下降明显，说明单纯抑制推理不可行；
图 6 展示了 ASRR 如何增强 Continue-Thinking 与问题难度的相关性，是验证难度感知的关键证据；
附录 B 中的案例分析（表 7 和表 8）揭示了模型当前难度感知的不成熟性，为 ASRR 的必要性提供支撑；
安全评估部分（表 2 和表 11）表明减少不必要推理有助于提升模型安全性，是一个重要副产品。

质量说明

采用来源：raw，raw/papers/2025/05/2505.15400.md
生成模型：LongCat-Flash-Chat
源材料判断：论文提供了完整的实验设计、定量结果、消融分析和案例研究，方法描述清晰，数据充分，结论有支撑。