2505.24863

AlphaOne：测试时调控推理模型快慢思维

一句话定位

提出 AlphaOne（α1）框架，通过引入 α-moment 和伯努利随机过程动态调度慢思维转换，实现推理进度的通用调制，提升大推理模型在数学、编程和科学任务上的性能与效率。

小学生也能听懂

这篇论文发明了一个叫 AlphaOne 的方法，让 AI 做题时能聪明地控制“慢慢想”和“快速答”的时间，像调音量一样灵活，结果更准还更快，省下了不少“脑细胞”。

为什么值得记录

• 解决了现有大推理模型（LRMs）在测试时自动慢思维调度不可靠的问题，如过度思考或思考不足。
• 提出首个统一视角，联合调控思维阶段预算和慢思维调度策略，克服了此前方法仅单调增减慢思维的局限。
• 在多个基准测试中显著提升准确率（平均 +6.15% Pass@1），同时降低约 14% 的 token 消耗，实现高效推理。
• 发现 LRM 最优策略为‘先慢后快’，与人类‘先快后慢’相反，凸显专用测试时缩放策略的必要性。

核心方法

• 引入 α-moment 概念：将思维阶段 token 长度缩放 α 倍（α > 1），作为调控节点。
• 在 α-moment 前，采用伯努利过程（Bernoulli(p_wait)）在结构分隔符（如 '\n\n'）后随机插入 'wait' token 激活慢思维，p_wait 由用户定义调度函数 S(t) 控制。
• 采用线性退火策略作为默认调度函数，实现‘先慢后快’的推理节奏。
• 在 α-moment 后，将生成的 'wait' token 强制替换为 ''，确定性终止慢思维，促进快速回答生成。
• 框架支持稀疏与密集调制策略，可泛化现有方法如 s1 和 Chain-of-Draft。

关键结果

• 在 DeepSeek-R1-Distill-Qwen-1.5B 上，平均 Pass@1 提升 +6.15%，生成 token 数减少近 14%。
• 相比 CoD 和 s1 基线，平均准确率分别高出 +3.12% 和 +4.62%。
• 尽管增加思维预算（α > 1），α1 的平均思维 token 长度（4231）比 s1（5357）少 21%，效率更高。
• 在 Qwen QwQ-32B 上，AIME24 准确率从 40.0% 提升至 53.3%（+13.3%）。
• 高频插入 'wait' token（超过 s1 两倍）带来更好结果，表明密集调制更有效。

局限与风险

• 依赖预定义的调度函数 S(t)，最优策略需针对任务调参。
• 在极复杂问题（如某些 AIME24 几何题）上仍可能失败，表明模型能力上限存在。
• 未探索其他慢思维过渡 token（如 'hmm'）的普适性，仅验证 'wait' 效果最佳。
• α-moment 计算基于平均思维长度采样，可能引入估计偏差。

适合沉淀的概念

alpha-moment, reasoning-progress-modulation, slow-to-fast-reasoning, bernoulli-stochastic-process, test-time-scaling, large-reasoning-models-lrms, overthinking-underthinking, end-of-thinking-token

阅读注意

• 关注 α-moment 的定义及其在调控中的双重作用（预算缩放与调度分界）。
• 注意伯努利过程如何建模慢思维激活，以及 p_wait 调度函数的设计空间。
• 对比分析‘先慢后快’策略与人类思维差异的启示。
• 查看消融实验中不同调度策略（常数、线性增/减、退火）的效果对比。
• 留意失败案例，理解当前方法的边界。

质量说明

• 采用来源：raw，raw/papers/2025/05/2505.24863.md
• 生成模型：LongCat-Flash-Chat
• 源材料判断：论文提供了完整的方法描述、充分的实验验证（多模型、多基准）、消融分析和案例研究，结果可信，复现路径清晰。