长上下文推理的分解视角

将长上下文推理分解为原子技能，用强化学习逐一提升 (2026-04)

概要

本文提出将长上下文推理从整体性任务分解为五个原子技能（Atomic Skills）的层次结构：基础检索、抗噪鲁棒性、全局整合、关系推理和动态状态追踪，并通过 Anchor-based Reasoning (AbR) 框架自动生成针对性伪数据集，用 GRPO 强化学习训练，在六个基准上平均提升 7.7%。

Overview

传统方法将长上下文推理视为单一任务直接构造训练数据，但存在数据质量难以保证、验证不足等问题。本文提出范式转换：

分解为原子技能：
基础检索 (NIAH)：在海量文本中定位特定信息
抗噪能力 (Anti-Interference)：从相似干扰项中区分正确目标
全局整合 (Multi-Source)：从多个分散位置合成信息
关系推理 (Logic)：理解逻辑关系并执行过滤、连接、比较
动态状态追踪 (Calc_Reason)：多步计算推理，持有中间状态
AbR 框架：通过锚点（anchor）嵌入机制，将推理任务转化为可量化、可控的流程：逻辑蓝图生成 → QA 对生成 → 多文档上下文合成
相关性验证：对 11 个模型的分析证实，原子技能与真实基准表现高度相关（Spearman ρ = 0.94–0.99），尤其抗噪和全局整合是最强预测因子

Key Contribution

原子技能分类法：首次系统性地将长上下文推理分解为认知复杂度递增的五个层次
AbR 自动数据管线：锚点嵌入 + 可执行表达式答案，支持精确难度控制和课程学习
"重要性-能力"错配发现：抗噪和全局整合是真实性能的强预测因子（ρ > 0.9），但模型表现最差（22% vs NIAH 的 37%）
训练配比：Anti-interfere : Multi-hop : Multi-source : Logic : Calc-reason : NIAH = 5:3:2:2:2:1

Experimental Results

基于 Qwen2.5-14B/32B-Instruct 和 DeepSeek-R1-Distill-32B，GRPO 训练：

模型	基线	训练后	提升
Qwen2.5-14B-Instruct	39.9%	48.2%	+8.3%
Qwen2.5-32B-Instruct	46.3%	54.0%	+7.7%
DeepSeek-R1-Distill-32B	46.9%	55.6%	+8.7%

在 Loogle、Loong、LongBench-v2、BrowsCompLong、Ruler-qa2、MRCR 六个基准上均有效
32B 训练后模型接近 Qwen3-235B 等大模型的表现

chain-of-thought — 训练中为指令模型引入 CoT 系统提示以引导推理
thinking-budget — 推理强度配置与计算预算分配密切相关
reasoning-distillation — 原子技能分解可视为推理蒸馏的另一种范式
pi-squared-reasoning-data — 同期工作，同样关注长上下文推理数据但采用结构化表格方法

长上下文推理的分解视角

概要

Overview

Key Contribution

Experimental Results

Related